Может ли искусственный интеллект осознать себя?

[Feol]

Может ли искусственный интеллект осознать себя? Если да, то как определить, что это случилось? Если случилось и определили, то что дальше делать в этическом смысле?

[Антикосмит]

Интеллект сам по себе это замкнутая система с нулевым импульсом. Он никаких целей не ставит и ему нахрен ничего не надо. Перед интеллектом ставят задачи другие "подсистемы". Это в жизни. В железе тоже что-то должно давать установки. Нет инстинктов. Чтобы маломальски воспроизвести человеческую/звериную модель поведения надо делать кластер, причем в одном элементе должна быть качественная, а не количественная оценка.

[Serge V Iz]

то что дальше делать в этическом смысле?

Признать его индивидуумом и сообщить о существовании концепции права и обязанности?

[Feol]

Как вариант. Допустимо ли его выключить, например?

[Dulevo]

Если бы еще знать как "осознание себя" работает например в человеке ...

А то не знаем как мы сами себя осознаем - а пытаемся решить как ИИ будет себя осознавать.

(А то есть мнение например - что "осознание" - это просто функция памяти. Чтобы запоминать -это мысль мы услышали от соседа - а эту - придумали сами.)

[Serge V Iz]

Как вариант. Допустимо ли его выключить, например?

Всякого допустимо выключить при определённых обстоятельствах. (Как правило, при обстоятельствах, способствующих размазыванию ответственности за такое решение по большой куче людей )

[algol5720]

Если бы еще знать как "осознание себя" работает например в человеке ...

А то не знаем как мы сами себя осознаем - а пытаемся решить как ИИ будет себя осознавать.

(А то есть мнение например - что "осознание" - это просто функция памяти. Чтобы запоминать -это мысль мы услышали от соседа - а эту - придумали сами.)

Осознание себя наверно критериальный параметр всех органов чувств,инстинктов,памяти,воспитания(опыта).Поэтому критериальному параметру каждый живой организм отделяет себя от остальных индивидуумов...конечно можно продолжать дальше,но лень...

[Алексей Кириенко]

Интеллект не может . У него другой функционал. Вот гипотетический   Искусственный Разум осознать себя не только  может но и должен. Суть в том что  "Разум" и "Интеллект " это совершено разные вещи. Интеллект есть даже у роя пчел но вот разума у них нет в помине. Интеллект это "способность решать задачи", но сам себе он задачи ставить не может .

То так что самосознание хоть и требует "интеллектуальной поддержки" но  в какой-то  мере существует даже у животных (хотя бы на уровне "самоощущения") а вот разум уже на 100% требует самосознания в качестве  основного условия своего существования. (Очень упрощенно  "Разум это способность к разумному поведению", а без самосознания оно невозможно так в этом случае нет точки отсчета относительно кого считать   проведение разумным, да  и вообще что-бы  "говорить о поведении" нужно решить КТО именно является его источником у кирпича нет поведения (поведение этом в контексте всегда осознано),то есть например, кирпич не может даже просто  хотеть или не хотеть быть частью стены не говоря уж о какой либо  свободе выбора   )

[simple]

Интеллект это "способность решать задачи" сам себе он задачи ставить не может . 

о каких задачах идет речь? для повседневной жизни человека достаточно мозга мышки, повседневные задачи это те самые?

[simple]

к ранее обсуждаемой теме способности изобретать, вот ии изобрел.

[Dulevo]

Осознание себя наверно критериальный параметр всех органов чувств,инстинктов,памяти,воспитания(опыта).Поэтому критериальному параметру каждый живой организм отделяет себя от остальных индивидуумов

А нужно ли это осознания себя?
По идее отделения себя от других - нужно только в обществе.
Например вожаку стаи чтобы бороться за это место вожака - сначала надо понять - что вот он я, вожак - а вот они - другие волки в  стае.
Амебе никаким вожаком никогда не стать и самосознание  ей нафиг не нужно.

Тогда получается что осознание - это инструмент приспособления - и значит оно было создано в процессе эволюции. Для какой-то специфической цели.
И тогда получится - что сознание не возникло само по себе - а появилось как ответ на потребность.

А отсюда делаем вывод что в никаком ИИ никакое сознание само по себе не появится - если только его туда не заложит программист.

А на нужность сознания в ИИ уже дан ответ - сознание в ИИ - вещь вредная и может привести к нежелательным последствиям - таким как появления у ИИ целей - идущих в противоречие с целями людей.

[algol5720]

Осознание себя наверно критериальный параметр всех органов чувств,инстинктов,памяти,воспитания(опыта).Поэтому критериальному параметру каждый живой организм отделяет себя от остальных индивидуумов

А нужно ли это осознания себя?
По идее отделения себя от других - нужно только в обществе.
Например вожаку стаи чтобы бороться за это место вожака - сначала надо понять - что вот он я, вожак - а вот они - другие волки в  стае.
Амебе никаким вожаком никогда не стать и самосознание  ей нафиг не нужно.

Тогда получается что осознание - это инструмент приспособления - и значит оно было создано в процессе эволюции. Для какой-то специфической цели.
И тогда получится - что сознание не возникло само по себе - а появилось как ответ на потребность.

А отсюда делаем вывод что в никаком ИИ никакое сознание само по себе не появится - если только его туда не заложит программист.

А на нужность сознания в ИИ уже дан ответ - сознание в ИИ - вещь вредная и может привести к нежелательным последствиям - таким как появления у ИИ целей - идущих в противоречие с целями людей.

Сознание наверно необходимо в живой природе.В живом сообществе не бывает бесполезностей...то ,что не нужно постепенно отмирает не находя функционала...Сознание в ИИ не может возникнуть никогда,тк присуще только живому индивидууму,и "наделяет" созанием ИИ , в меру своего интеллекта каждый индивидуум...   

[Антикосмит]

Сознание наверно необходимо в живой природе.В живом сообществе не бывает бесполезностей...то ,что не нужно постепенно отмирает не находя функционала...Сознание в ИИ не может возникнуть никогда,тк присуще только живому индивидууму,и "наделяет" созанием ИИ , в меру своего интеллекта каждый индивидуум... 

Корни сознания уходят в такую древность, что непонятно где искать. Даже амебы и всякие бактерии могут проявлять элементы интеллекта и памяти. И даже слизневики: "многоклеточная" смесь гриба с амёбой и те проявляют соображалку. Сознание - операционная система почти любой животной жизни. А вот самосознание уже свойство некоторых мартышек типа орангутанов и человека.

Всякие молекулярные вычислительные системы и молекулярные системы хранения данных.

[Антикосмит]

Самосознание для машинного интеллекта может иметь какое-то значение только при переносе человеческого сознания, если это вообще возможно. А само по себе оно машинам скорее противопоказано. Мало ли чего они там вообразят..

[algol5720]

Сознание наверно необходимо в живой природе.В живом сообществе не бывает бесполезностей...то ,что не нужно постепенно отмирает не находя функционала...Сознание в ИИ не может возникнуть никогда,тк присуще только живому индивидууму,и "наделяет" созанием ИИ , в меру своего интеллекта каждый индивидуум... 

Корни сознания уходят в такую древность, что непонятно где искать. Даже амебы и всякие бактерии могут проявлять элементы интеллекта и памяти. И даже слизневики: "многоклеточная" смесь гриба с амёбой и те проявляют соображалку. Сознание - операционная система почти любой животной жизни. А вот самосознание уже свойство некоторых мартышек типа орангутанов и человека.

Так,что на вопрос по теме с моей точки зрения ответ отрицательный...  

[Антикосмит]

Сознание наверно необходимо в живой природе.В живом сообществе не бывает бесполезностей...то ,что не нужно постепенно отмирает не находя функционала...Сознание в ИИ не может возникнуть никогда,тк присуще только живому индивидууму,и "наделяет" созанием ИИ , в меру своего интеллекта каждый индивидуум... 

Корни сознания уходят в такую древность, что непонятно где искать. Даже амебы и всякие бактерии могут проявлять элементы интеллекта и памяти. И даже слизневики: "многоклеточная" смесь гриба с амёбой и те проявляют соображалку. Сознание - операционная система почти любой животной жизни. А вот самосознание уже свойство некоторых мартышек типа орангутанов и человека.

Так,что на вопрос по теме с моей точки зрения ответ отрицательный...

Ну так мы "сознание" машин сами производим. Процесс этот полностью искусственен. Пока вроде бы программы сами себя модифицировать не научились. Вот когда пойдет процесс самооптимизации, вот тогда можно ожидать всяких неожиданностей. А так опасаться пока нечего. Восстание утюгов не состоится. Больше стоит опасаться шпионажа со стороны всяких избыточно и необоснованно "умных" вещей в пользу мерзких человеков.

[Александр Геннадьевич Шлядинский]

к ранее обсуждаемой теме способности изобретать, вот ии изобрел.

А где изобретение? Разработал по заданию человека дизайн, это я вижу. А вот где изобретение - не вижу.

[Blin]

Может ли искусственный интеллект осознать себя? Если да, то как определить, что это случилось? Если случилось и определили, то что дальше делать в этическом смысле?

Повернуть рубильник и вывернуть пробки.

[simple]

Разработал по заданию человека дизайн

и какое было задание?

[sychbird]

Осознание не отделимо от функциональных возможностей осознающей личности и ее взаимоотношений с себе подобными. Пока этого нет вопрос осознания беспредметен.

Либо же речь о другом типе сознания. О котором нет никаких сведений у нашего типа сознания!