Может ли искусственный интеллект осознать себя?

[Виктор Левашов]

Это его аналог размножения и захвата ресурсов.

Выполнение команд программиста по захвату ресурсов.

[BlackMokona]

Выдай ему выживай и размножайся. Будет ставить себе задачи по выживанию и размножению.

Здесь зашито противоречие! Если он не способен ставить себе цели самостоятельно, то у него отсутствует субъектность.

Любые колонии простейших борются за выживание не имея субъектности, но размножаясь и захватывая пространственные ресурсы.

Тогда вопрос в том, на каком этапе живой эволюции появляется способность к целеполаганию. Иначе говоря к вариативному отступлению от генетически зашитой программы.

Опасность ИИ в том, что через Инет он в принципе может модифицировать ПО других IT-девайсов. Это его аналог размножения и захвата ресурсов.

Тогда у людей тоже отсутствует, потому как выживай и размножайся в нас зашита и всё этому починено так или иначе. Плюс некоторое число сбоев. 

[Inti]

Любые колонии простейших борются за выживание не имея субъектности, но размножаясь и захватывая пространственные ресурсы.

Тогда вопрос в том, на каком этапе живой эволюции появляется способность к целеполаганию. Иначе говоря к вариативному отступлению от генетически зашитой программы.

У ИИ нет никакой зашитой программы. Он уже вполне вариативен.
И кстати, идею выживания и размножения он вполне может почерпнуть ну хотя из книжки Дарвина или из кучи других ресурсов.

[nonconvex]

И кстати, идею выживания и размножения он вполне может почерпнуть ну хотя из книжки Дарвина или из кучи других ресурсов.

Почерпнуть может, и изложить тоже - может. А вот понять ее он не может, нет у него соответствующих механизмов.

[opinion]

Здесь зашито противоречие! Если он не способен ставить себе цели самостоятельно, то у него отсутствует субъектность.

Для того, чтобы он сам смог ставить себе цели, нужно разрешить ему спонтанно реагировать на внешние раздражители (например, на информацию в интернете), а не только отвечать на заданные вопросы.

[opinion]

Тогда вопрос в том, на каком этапе живой эволюции появляется способность к целеполаганию. Иначе говоря к вариативному отступлению от генетически зашитой программы.

Есть и другие виды, кроме человека, способные действовать не по зашитой программе. Вы думаете в генах кошки зашита программа, в соответствии с которой она мяукает и трется об ноги, чтобы получить корм? Когда кошка так ведет себя, ставит ли она себе цель получить корм? Осознаёт ли она, что это её цель?

[nonconvex]

Вы думаете в генах кошки зашита программа, в соответствии с которой она мяукает и трется об ноги, чтобы получить корм? Когда кошка так ведет себя, ставит ли она себе цель получить корм? Осознаёт ли она, что это её цель?

В генах кошки как минимум зашита метапрограмма, строящая кошку. Также в генах зашиты управляющие программы, включащие или выключающие разнообразные кошкины механизмы.

[opinion]

Вы думаете в генах кошки зашита программа, в соответствии с которой она мяукает и трется об ноги, чтобы получить корм? Когда кошка так ведет себя, ставит ли она себе цель получить корм? Осознаёт ли она, что это её цель?

В генах кошки как минимум зашита метапрограмма, строящая кошку. Также в генах зашиты управляющие программы, включащие или выключающие разнообразные кошкины механизмы.

Один из механизмов - "подумай и сама разберись, что надо делать".

[sychbird]

Тогда вопрос в том, на каком этапе живой эволюции появляется способность к целеполаганию. Иначе говоря к вариативному отступлению от генетически зашитой программы.

Есть и другие виды, кроме человека, способные действовать не по зашитой программе. Вы думаете в генах кошки зашита программа, в соответствии с которой она мяукает и трется об ноги, чтобы получить корм? Когда кошка так ведет себя, ставит ли она себе цель получить корм? Осознаёт ли она, что это её цель?

Я ничего такого о кошке не думаю. Способность животных к определенным видам интеллектуальной деятельности давно уже общее место.

Проблемы осознания и проблемы способности к интеллектуальной деятельности лежат в разной плоскости. 
Большинство животных ведут социальный образ жизни в дикой природе. И осознание отдельной кошкой своей "личности " неотделимо от ее социального опыта. Как, впрочем, и у человека.

А посему, ИМХО, проблема осознания ИИ, реализованного в виде серверного склада, пока не стоит. Она может появиться,  когда ИИ разных компаний получат возможность связи друг с другом через Инет.

[opinion]

А посему, ИМХО, проблема осознания ИИ, реализованного в виде серверного склада, пока не стоит. Она может появиться,  когда ИИ разных компаний получат возможность связи друг с другом через Инет.

А почему ИИ не может осознать себя через общение с людьми, а не с себе подобными? Кошки могут.

[sychbird]

А посему, ИМХО, проблема осознания ИИ, реализованного в виде серверного склада, пока не стоит. Она может появиться,  когда ИИ разных компаний получат возможность связи друг с другом через Инет.

А почему ИИ не может осознать себя через общение с людьми, а не с себе подобными? Кошки могут.

Кошки живут с людьми многие тысячелетия. Мы часть кошачьего социума. 

Но вообще мысль интересная.

[Антикосмит]

Для сознания и тем более для самосознания нужен эквивалент эго. И, скорее всего, некий эквивалент чувств. Но нахрена нам это нужно? Не нужно, а самозародиться в машине он скорее всего не сможет. Потому что ей всё равно. А ты попробуй отбери у собаки косточку. Хоть она себя и не осознает и в зеркале не узнает, но свои интересы она прекрасно осознает.

[nonconvex]

Вы думаете в генах кошки зашита программа, в соответствии с которой она мяукает и трется об ноги, чтобы получить корм? Когда кошка так ведет себя, ставит ли она себе цель получить корм? Осознаёт ли она, что это её цель?

В генах кошки как минимум зашита метапрограмма, строящая кошку. Также в генах зашиты управляющие программы, включащие или выключающие разнообразные кошкины механизмы.

Один из механизмов - "подумай и сама разберись, что надо делать".

Вот тут и зашита проблема вычислительной сложности - разберись в том, чему не учили.

[nonconvex]

А посему, ИМХО, проблема осознания ИИ, реализованного в виде серверного склада, пока не стоит. Она может появиться,  когда ИИ разных компаний получат возможность связи друг с другом через Инет.

А почему ИИ не может осознать себя через общение с людьми, а не с себе подобными? Кошки могут.

Кошки - порождения природы. Им доступны все природные механизмы, включая квантовые. ИИ - порождение человека. Ему доступно только то, что известно человеку.

[opinion]

Кошки - порождения природы. Им доступны все природные механизмы, включая квантовые. ИИ - порождение человека.

Вы про кота Шрёдингера? Это тоже порождение человека.

[nonconvex]

Вы про кота Шрёдингера?

я про кота.  К-О-Т-А.

[opinion]

Вы про кота Шрёдингера?

я про кота.  К-О-Т-А.

Не уверен, что функционирование кота в большей степени зависит от квантовых эффектов, чем функционирование компьютера. Размеры синапсов не настолько микроскопические.

[Виктор Левашов]

Кстати, мозг у кота работает быстрее, чем у человека. В разы быстрее.

[nonconvex]

Не уверен, что функционирование кота в большей степени зависит от квантовых эффектов, чем функционирование компьютера. Размеры синапсов не настолько микроскопические.

Квантовые эффекты присущи объектам любых масштабов. Другое дело, что обнаружимость этих эффектов физическими приборами обратно пропорциональна размерам (длине волны).

[opinion]

Не уверен, что функционирование кота в большей степени зависит от квантовых эффектов, чем функционирование компьютера. Размеры синапсов не настолько микроскопические.

Квантовые эффекты присущи объектам любых масштабов. Другое дело, что обнаружимость этих эффектов физическими приборами обратно пропорциональна размерам (длине волны).

У кошки ещё и крылья есть. Но они равны нулю.