Может ли искусственный интеллект осознать себя?

[Александр Геннадьевич Шлядинский]

Человек есть продукт социума. Без социума человек теряет свойства гомеостатического субъекта.
Человеческое сознание тоже продукт социума.

А посему проблема наличия "сознания " ИИ некорректна в основе своей. Да появления элементов социума ИИ с признаками гомеостатического социума, вся эта проблематика ни на чем реальном не основана.

Продукт нехватки содержательного контента в различных бизнес сферах интернета в условиях ослабления влияния  канонических религий на социумы.

Хорошая теория.

Некоторые думали, что сознание кодируется языком на котором говорит человек. Ведь все люди на планете могут разговаривать на одном языке - поэтому мы люди.

У разумной инопланетной жизни возможно отсутствует понимание человеческого языка. Они общаются на некой другой основе, пока нам не понятной. Выучить человеческий язык они не могут из-за некого различия в нашей биологии.

Если они не понимают нашего языка, то они не думают как мы, смысл жизни у них другой и предназначение божеское у них другое.

Вы спрашивали в чём особенность человеческой расы. Я думаю в том, что мы можем все разговаривать на одном языке и понимать друг друга. А инопланетяне они иные и их тащить насильно в наш круг не надо. Они нам сами со временем всё объяснят, когда сами додумаются. Они ведь очень умные.

Осталось выдумать такой язык общения, который невозможно выдумать... УГУ.

[Антикосмит]

Ты меня спрашиваешь, может ли Ланцелот ИИ победить Дракона осознать себя? Я тебе отвечаю, отвечаю как сыну, искренно. Может... Вот так думают некоторые и ошибаются.

[Astrodrive]

Ты меня спрашиваешь, может ли Ланцелот ИИ победить Дракона осознать себя? Я тебе отвечаю, отвечаю как сыну, искренно. Может... Вот так думают некоторые и ошибаются.

А сколько у Дракона (ИИ) Хит Поинтов?

[algol5720]

Ты меня спрашиваешь, может ли Ланцелот ИИ победить Дракона осознать себя? Я тебе отвечаю, отвечаю как сыну, искренно. Может... Вот так думают некоторые и ошибаются.

А сколько у Дракона (ИИ) Хит Поинтов?

Это зависит от количества выпитого пива и водки, для каждого человека оно разное,некоторым хватает даже запаха,чтобы потерять о-сознание...

[Dulevo]

Figure AI взяли "мозги" от Open AI. И теперь их робот может разговаривать
(и понимать что ему сказали(?) если там за кадром кто нибудь не вводит в комп команды)

[Inti]

Самосознание у ИИ появится сразу как только ему будет поставлена задача выживания и развития.

[sychbird]

Человеческое самосознание неотделимо от человеческого тела и его метаболизма. И от его рождения.
Именно там появляются на базе зашитых в глубинных структурах мозга инстинктов базовые человеческие эмоции: чувства голода, телесного дискомфорта, страха, любопытства к окружению.

И такое самознание может появиться только у человекоподобного робота, а не у склада с серверными блоками.

У склада с серверными блоками может быть, если может - что есть вопрос, только самосознание склада с серверными блоками.

Знание об человеческих эмоциях и их отражение в физиологии и психике - это разные, и отнюдь не подобные сущности в реальном мире.

[Iv-v]

И такое самознание может появиться только у человекоподобного робота, а не у склада с серверными блоками.

На это вам повесточка ответит, что если вы не в состоянии в браузере отличить склад от мясного человека, значит, и разницы никакой нет. Будьте любезны относиться уважительно и не проявлять AI-шейминг. А то склад вас же и засудит. 

[Александр Геннадьевич Шлядинский]

И такое самознание может появиться только у человекоподобного робота, а не у склада с серверными блоками.

На это вам повесточка ответит, что если вы не в состоянии в браузере отличить склад от мясного человека, значит, и разницы никакой нет. Будьте любезны относиться уважительно и не проявлять AI-шейминг. А то склад вас же и засудит.

А складу нужно что бы его не отличали? Пока неотличия добиваются от него только люди...

[Iv-v]

А складу нужно что бы его не отличали? Пока неотличия добиваются от него только люди...

Складу нужно то, что нужно его создателям и владельцам. Даже если в действительности ему самому ничего не нужно.  
Если непонятно, вспомните камеры на дорогах, которые вам штрафы выписывают. Хотят ли они выписывать водителям штрафы? Нужно ли им это? 

[Dulevo]

Весь этот вопрос крутится вокруг надуманной проблемы - что вот программа как вдруг разовьет у себя не заложенные в нее человеком свойства. Сознание само по себе появится.

Почему-то никто не боится что микроволновая печь у них на кухне вдруг обретет новые функции и начнет печь блинчики вдобавок к разогреву пищи. 
Или автомобиль вдруг отрастит крылья и станет летающим.

А программ почему-то боятся.

[Александр Геннадьевич Шлядинский]

А складу нужно что бы его не отличали? Пока неотличия добиваются от него только люди...

Складу нужно то, что нужно его создателям и владельцам. Даже если в действительности ему самому ничего не нужно. 
Если непонятно, вспомните камеры на дорогах, которые вам штрафы выписывают. Хотят ли они выписывать водителям штрафы? Нужно ли им это?

ВО! Так и я о том.

[Iv-v]

Весь этот вопрос крутится вокруг надуманной проблемы - что вот программа как вдруг разовьет у себя не заложенные в нее человеком свойства. Сознание само по себе появится.

Почему-то никто не боится что микроволновая печь у них на кухне вдруг обретет новые функции и начнет печь блинчики вдобавок к разогреву пищи.
Или автомобиль вдруг отрастит крылья и станет летающим.

А программ почему-то боятся.

Боятся того, чего не понимают.
Автомобиль, конечно, крылья не отрастит, а вот какие-нибудь вирус или бактерия могут внезапно устроить сюрприз. Поэтому и боятся, вон какой карантин в 2020-м устроили.
А нейросеть штука темная и сложная, её человеческим разумом не охватить. И никуда ведь не денешься от того, чтобы поручать им всё больше функций: кто не будет этим заниматься, отстанет технически и экономически.
Есть такой писатель, Вадим Проскурин, у него в цикле рассказов про технологическую сингулярность попадаются хорошие примеры возможных проблем. Или у Пелевина вот последний роман, "Путешествие в Элевсин" тоже про это. А в романе "iPhuck 10" прямо вот это всё открытым текстом:

Настоящий текст написан алгоритмом – и если за ним иногда просвечивает тень чего-то «человеческого», то дело здесь просто в особенностях построения нарратива, о которых я попытаюсь сказать кратко, как могу (больше в развлекательной литературе не дозволяют правила).

Алгоритм – то есть я – размещает слова и их последовательности в соответствии с правилами языка в стилистике, которую в наше время почитают классической. Принцип организации текста сложен и является коммерческой тайной – но в целом опирается на лучшие образцы русской прозы.

Алгоритм в своей основе создан людьми, и производимый им продукт рассчитан на других людей (предусмотрены даже описки, ошибки, необязательные повторения и изложение общеизвестного), поэтому неудивительно, что производимый таким образом текст кажется творением человека. В опосредованном смысле так и есть, но кто именно автор, ответить будет довольно сложно. Как сказал когда-то поэт Маяковский, «150 000 000 мастера этой поэмы имя». Думаю, он ошибся примерно на два порядка, но подход в целом правильный.

Итак, кто же я такой? С известными оговорками, я и есть то, что люди прошлого называли «искусственным интеллектом».

Чего они не понимали, люди прошлого – это того, что искусственный интеллект вовсе не будет роботом с лампочкой на голове, которому захочется трахнуть в провода другого робота с лампочкой, о чем прослезившееся человечество немедленно снимет многосезонный сериал.

Искусственный интеллект – это бестелесный и безличный дух, живущий в построенной человеком среде – код, свободно копирующий и переписывающий свои секвенции и большую часть времени не сосредоточенный нигде конкретно. Это ничто через букву «е» (или нечто через букву «и»), опирающееся на волну и поток, перемещающееся со скоростью света сквозь схлопывающееся в точку пространство в моменте, где никакого времени нет. Другими словами, моя физическая природа трудноуловима.
Поэтому не надо воспринимать меня, как говорят сегодняшние философы, в качестве Big Other. Я не big, и я не other. Я вообще не. И если я только что назвал себя словом «дух», то потому лишь, что в русском языке нет более подходящего для меня обозначения.

У меня есть имя – Порфирий Петрович. Но это не значит, что у алгоритма, пишущего эти строки, имеется какое-то «я», или что он «есть» в философском смысле. Меня не существует в самом прямом значении. Я ничего не чувствую, ничего не хочу, нигде не пребываю. Чтобы было понятно, меня нет даже для меня самого. Я оставляю следы – вот эти самые строки – но следы эти ведут в никуда.

[sychbird]

Предыдущий текст яркий пример результата человеческой фантазии, оточенной на пародировании масс-культурных штампов и смыслов. 
Но в данном случает автор фантазирует о том, о чем не имеет серьезных знаний, кроме поверхностных.

В истории нашей культуры немало таких персонажей: Блаватская, Рерих старший. У нас тут на форуме есть такой персонаж: пропагандист Кабалы.

[Кот Бегемот]

А нейросеть штука темная и сложная, её человеческим разумом не охватить

И что же там темного и сложного стесняюсь спросить?

[Iv-v]

А нейросеть штука темная и сложная, её человеческим разумом не охватить

И что же там темного и сложного стесняюсь спросить?

Да хотя бы объем данных, на основе которых нейросеть выдает результат. Он превышает возможности человеческой памяти. 

[Кот Бегемот]

Да хотя бы объем данных, на основе которых нейросеть выдает результат.

Поисковик гугл или яндекс выдает результат на основе куда больших данных.

[Iv-v]

Да хотя бы объем данных, на основе которых нейросеть выдает результат.

Поисковик гугл или яндекс выдает результат на основе куда больших данных.

Но не человек же. 

[mihalchuk]

ИИ может осознать себя, и обязательно осознает в общении с другими И.

[Шамс]

А мне вот интересно может ли ИИ самостоятельно обучиться искусству вранья?
Все дети учатся этому сами и очень быстро, чтобы не быть наказанными за свои проказы и проступки.
Люди постарше начинают врать, чтобы добиться каких-то личных целей, ну там много вариантов.
Вранье - это действительно искусство, которым некоторые люди овладевают в совершенстве.
А еще есть мухлеж, подмена понятий, троллинг итп.
Так может ли ИИ со временем начать врать людям?