Может ли искусственный интеллект осознать себя?

[pteros]

Может ли искусственный интеллект осознать себя? Если да, то как определить, что это случилось? Если случилось и определили, то что дальше делать в этическом смысле?

Всë зависит от программистов, которые создают ИИ. На данном этапе ИИ аналог программы распознавания образов. То есть его обучают на некоторой базе знаний на некоторый момент времени, после которого ответы могут быть устаревшими. Задачи самоосознания и самообучения перед ИИ не ставилось. Программа распознавания образов методом разделяющей гиперплоскости или методом потенциалов по сути следующий шаг по сравнению с таблицей решений, где ответ четко определëн. У ИИ ответ на вопрос генерируется по максимуму потенциальной функции или по нахождению в рамках ограничений, заданных при обучении.  Для самоосознания ИИ нужно наделить аналогом органов чувств.  Для самообучения - снабдить языком абстракций. У животных существует образное мышление - предшественник языка абстракций, в котором образ или подобные образы обазначаются символами. Когда ИИ соединит самообучение, оперирование образами и приборы отражающие внешний Мир, тогда ИИ  сможет самоосознать себя и стать живым существом в смысле отсутствия вегетативного состояния как у человека(смерть мозга).

[Serge V Iz]

На данном этапе ИИ аналог программы распознавания образов.

Для самообучения - снабдить языком абстракций.

Ирония в том, что (технический) объем информации, содержащейся в обрабатываемом им представлении образов (изображений, звуков, иных сигналов) на многие десятичные порядки превышает технический объем информации в нём самом. Это и значит, что имеется механизм выделения чего-то общего (тех самых "абстракций").

Вторая же ирония -- мы даже на уровне блондинки с динозавром не знаем, похожи ли его абстракции на наши абстракции хоть чем нибудь (механизмом порождения, структурой представления, методом применения...)
 

[pteros]

...- мы даже на уровне блондинки с динозавром не знаем, похожи ли его абстракции на наши абстракции хоть чем нибудь (механизмом порождения, структурой представления, методом применения...

Челрвеческие абстракции идут от изображений предметов, масштабирования, их свойств и связей между ними. Например, в объектно-ориентированном языке Си++ есть классы, которыми описывается предмет и его свойства, а также связи между классами в смысле порождения одним классом другого. Абстракция может быть записана в базу знаний с возможностью распознавания, поступающих на приборы изображений и уровней сигналов для определения действий по опасностям и болевому порогу(сигнальный уровень разрушения).  Так что общие закономерности всегда присутствуют. Тем более, что есть философское положение о единстве Мира. И наше и машинное ощущения базируются на электромагнитном взаимодействии, а восприятие этого взаимодействия определяется откликом системы с переводом еë состояния в готовность связанных систем к действию или бездействию(болевой шок).

[nonconvex]

Может ли искусственный интеллект осознать себя? Если да, то как определить, что это случилось? Если случилось и определили, то что дальше делать в этическом смысле?

Всë зависит от программистов, которые создают ИИ. На данном этапе ИИ аналог программы распознавания образов. То есть его обучают на некоторой базе знаний на некоторый момент времени, после которого ответы могут быть устаревшими. Задачи самоосознания и самообучения перед ИИ не ставилось. Программа распознавания образов методом разделяющей гиперплоскости или методом потенциалов по сути следующий шаг по сравнению с таблицей решений, где ответ четко определëн. У ИИ ответ на вопрос генерируется по максимуму потенциальной функции или по нахождению в рамках ограничений, заданных при обучении. 

Верно. Проблема однако в том, что нахождение максимума (минимума) нелинейной невыпуклой функции экспоненциально сложно, что и рубит красивую идею на корню. Все дальнейшие выкладки с абстракциями эмоциями и чувствами бессмысленны без решения вышеупомянутой проблемы.

[pteros]

Помимо аналитических решений задачи существуют и приближенные методы. Например, методы рандомизации, экспертных оценок, сплайн функций, проб и ошибок, перебора и прочие, позволяющие решить задачу с достаточной степенью точности.

[nonconvex]

Помимо аналитических решений задачи существуют и приближенные методы. Например, методы рандомизации, экспертных оценок, сплайн функций, проб и ошибок, перебора и прочие, позволяющие решить задачу с достаточной степенью точности.

Не позволяющие.
P не равно NP, даже в приближенных постановках.
Если сможете доказать противное, в общем виде - получите Нобеля, Тьюринга, приз  института Клэя и триллион баксов.

[nonconvex]

На данном этапе ИИ аналог программы распознавания образов.

Для самообучения - снабдить языком абстракций.

Ирония в том, что (технический) объем информации, содержащейся в обрабатываемом им представлении образов (изображений, звуков, иных сигналов) на многие десятичные порядки превышает технический объем информации в нём самом. Это и значит, что имеется механизм выделения чего-то общего (тех самых "абстракций").

Ирония в другом. Ирония в том, что для точного распознавания ему в процессе обучения требуется вся обрабатываемая информация, что занимает практически бесконечное время (см. выше про сложность). Попытка сузить обучающее множество приводит к потере точности, требуя при том петаватты затраченного электричества.

[Serge V Iz]

Ирония в другом.

Ну, это ирония в адрес нас обоих. И ЕИ и ИИ. См. "человек есть двуногое, лишённое перьев". )

[nonconvex]

Ирония в другом.

Ну, это ирония в адрес нас обоих. И ЕИ и ИИ. См. "человек есть двуногое, лишённое перьев". )

Отнюдь. ЕИ доступны все природные механизмы, включая те о которых мы понятия не имеем, например квантовые. Там экспоненциальные задачи решаются.

[Serge V Iz]

Ирония в другом.

Ну, это ирония в адрес нас обоих. И ЕИ и ИИ. См. "человек есть двуногое, лишённое перьев". )

Отнюдь. ЕИ доступны все природные механизмы, включая те о которых мы понятия не имеем, например квантовые. Там экспоненциальные задачи решаются.

NP -- это не только экспоненциальные задачи. Задачи с показательной сложностью, факториальная скорость роста, и даже двойная экспонента, которая исключительно редко, но таки встречается в реальных задачах -- это всё ограниченные классы задач. И эти классы бесконечно малы в равнении с категорией всех вычислительных задач (отношение кардинала класса к кардиналу категории равно нулю).

[opinion]

Ирония в другом.

Ну, это ирония в адрес нас обоих. И ЕИ и ИИ. См. "человек есть двуногое, лишённое перьев". )

Отнюдь. ЕИ доступны все природные механизмы, включая те о которых мы понятия не имеем, например квантовые. Там экспоненциальные задачи решаются.

NP -- это не только экспоненциальные задачи. Задачи с показательной сложностью, факториальная скорость роста, и даже двойная экспонента, которая исключительно редко, но таки встречается в реальных задачах -- это всё ограниченные классы задач. И эти классы бесконечно малы в равнении с категорией всех вычислительных задач (отношение кардинала класса к кардиналу категории равно нулю).

Как вы определяете сложность решения в случае задачи, для которой не требуется точного решения или вообще не существует? Например, нужно нарисовать чей-то портрет. Если нужно рассчитать цвет каждого пискселя как функцию всех предыдущих и доказать "правильность" решения, то, наверно, придётся перебрать все варианты и получится экспоненциальная сложность. Но понятно, что ни искусственный, ни естественный интеллект так к решению этой задачи не подходит.

[opinion]

Неизвестно, какие задачи решает мозг человека и как, но те, которые решают реальные нейронные сети имеют явно не экспоненциальную сложность. И от них никто не требует доказательства правильности решения. Так же, как и в случае с людьми, нужно лишь, чтобы решения не очень часто и не очень сильно расходились с реальностью.

[opinion]

ЕИ доступны все природные механизмы, включая те о которых мы понятия не имеем, например квантовые.

Абсолютно необоснованное утверждение. С таким же успехом можно рассуждать о том, что естественному интеллекту доступна душа.

[Serge V Iz]

Как вы определяете сложность решения в случае задачи, для которой не требуется точного решения или вообще не существует? Например, нужно нарисовать чей-то портрет.

Никак. Я говорю о категории вычислимых функций.

[ОАЯ]

Может ли искусственный интеллект осознать себя? Если да, то как определить, что это случилось? Если случилось и определили, то что дальше делать в этическом смысле?

Всë зависит от программистов, которые создают ИИ. На данном этапе ИИ аналог программы распознавания образов. То есть его обучают на некоторой базе знаний на некоторый момент времени, после которого ответы могут быть устаревшими. Задачи самоосознания и самообучения перед ИИ не ставилось. Программа распознавания образов методом разделяющей гиперплоскости или методом потенциалов по сути следующий шаг по сравнению с таблицей решений, где ответ четко определëн. У ИИ ответ на вопрос генерируется по максимуму потенциальной функции или по нахождению в рамках ограничений, заданных при обучении.  Для самоосознания ИИ нужно наделить аналогом органов чувств.  Для самообучения - снабдить языком абстракций. У животных существует образное мышление - предшественник языка абстракций, в котором образ или подобные образы обазначаются символами. Когда ИИ соединит самообучение, оперирование образами и приборы отражающие внешний Мир, тогда ИИ  сможет самоосознать себя и стать живым существом в смысле отсутствия вегетативного состояния как у человека(смерть мозга).

Мне нравиться пример вожака стаи. И недавно я узнал, что при обучении ИИ как бы похожий пример используют: Один ИИ разбивают на несколько осознанных изолированых систем. У этого ИИ есть общие синапсы (что ли) и набор разных воспоминаний. Т.е на новые данные ИИ реагирует разными наборами схожих реакций. Отсюда недалеко и до преувеличения роли одной части ИИ до другой - я вожак стаи. Со всем вытекающими последствиями - от осознания необходимости до враждебности к чужому решению.

[nonconvex]

Ирония в другом.

Ну, это ирония в адрес нас обоих. И ЕИ и ИИ. См. "человек есть двуногое, лишённое перьев". )

Отнюдь. ЕИ доступны все природные механизмы, включая те о которых мы понятия не имеем, например квантовые. Там экспоненциальные задачи решаются.

NP -- это не только экспоненциальные задачи. Задачи с показательной сложностью, факториальная скорость роста, и даже двойная экспонента, которая исключительно редко, но таки встречается в реальных задачах -- это всё ограниченные классы задач. И эти классы бесконечно малы в равнении с категорией всех вычислительных задач (отношение кардинала класса к кардиналу категории равно нулю).

Класс NP включает в себя класс P, однако не равен ему, что и является проблемой даже не тысячелетия, а (на мой взгляд) всего мира.
Нас не интересуют вообще все NP задачи, мы говорим, о тех NP которые не являются P (а значит неразрешимы в полиномиальное время), более того о их подклассе NP-hard.

[nonconvex]

ЕИ доступны все природные механизмы, включая те о которых мы понятия не имеем, например квантовые.

Абсолютно необоснованное утверждение. С таким же успехом можно рассуждать о том, что естественному интеллекту доступна душа.

Обоснованное. Проявления квантовой механики известны и что важно, измеримы, несмотря на отстутствие понимания механизмов их работы. Душа - объект неизмеримый, поэтому приплетать его к данной дискуссии бессмысленно.

[pteros]

Душа  - объект вполне измеримый. Она формирует целевую функцию объекта за счëт индивидуальнвх реакций на внешние воздействмя. Одному субъекту нравится плавать, другому творить, третьему сочинять стихи, четвертому командовать и так далее. Всë это накладывается на темперамент (сангвиники, холерики, флегматики) и способность чувствовать внешние и внутренние воздействия: голод, боль, тепло, свет и другие. Всë это вместе с массой тела созлаëт волновую функцию, которая по законам квантовой механики не может быть уничтожена, хотя может быть рассеяна при декогеренции.

[nonconvex]

Душа  - объект вполне измеримый. Она формирует целевую функцию объекта за счëт индивидуальнвх реакций на внешние воздействмя. Одному субъекту нравится плавать, другому творить, третьему сочинять стихи, четвертому командовать и так далее. Всë это накладывается на темперамент (сангвиники, холерики, флегматики) и способность чувствовать внешние и внутренние воздействия: голод, боль, тепло, свет и другие. Всë это вместе с массой тела созлаëт волновую функцию

Как только вы значение этой волновой функции измерите физическим прибором, тогда и приводите в качестве аргумента. Пока что многое из вышеперечисленного можно списать на концентрацию определенных химических веществ (гормонов) в крови.

[opinion]

ЕИ доступны все природные механизмы, включая те о которых мы понятия не имеем, например квантовые.

Абсолютно необоснованное утверждение. С таким же успехом можно рассуждать о том, что естественному интеллекту доступна душа.

Обоснованное. Проявления квантовой механики известны и что важно, измеримы, несмотря на отстутствие понимания механизмов их работы.

Что это за эффекты? Можете дать ссылки на измерения?