Компьютерная безопасность. Или опасность.

[vlad7308]

Вопрос на засыпку. Система, которая успешно (неотличимо от настоящего человека никаким из доступных экспериментов) имитирует любые внешние проявления самосознания - она обладает самосознанием?

почему обязательно от человека? Бибизяна или собака или кошка тоже явно обладают самосознанием.

[Serge V Iz]

Вопрос на засыпку. Система, которая успешно (неотличимо от настоящего человека никаким из доступных экспериментов) имитирует любые внешние проявления самосознания - она обладает самосознанием?

почему обязательно от человека? Бибизяна или собака или кошка тоже явно обладают самосознанием.

Да просто... чтоб никаких сомнений. Как ее, душа там. Или что там у человеков еще бывает?

[vlad7308]

в этом мире развелось слишком много вещей и процессов, которые меня пугают или бесят намного больше. так что пускай, есть ощущение что по крайней мере хуже не будет

хбз
Остальные "вещи и процессы" мы себе в общем сами создаем. Ну либо они дадены нам в очучениях. А тут... Представьте себе, что Вы создали нечто, как минимум не уступающее Вам в интеллектуальных способностях (а предположительно - неограниченно преаосходящее), осознающее себя (а это значит, обладающее свободой воли). И при этом оно не ваш ребенок и вообще не хомо сапиенс. И вот что Вы с этим будете делать?

[ExDi]

неимоверно гордиться собой ; ) - все оставшееся время которое мне будет отведено. "черт с ней, с головой, но на это я посмотрю ; )"
понятно что звучит абстрактно и заумно - но чесслово я не вижу у мироздания иного смысла кроме совершенствования интеллекта как средства познания, рефлексии оным мирозданием себя; если найдется в этом качестве кто-то совершеннее и эффективнее меня - это офигенно, и тогда меня уже мало будет волновать собственная судьба и уж тем более судьбы человечества

[vlad7308]

если найдется в этом качестве кто-то совершеннее и эффективнее меня - это офигенно

Это-то да...

тогда меня уже мало будет волновать собственная судьба и уж тем более судьбы человечества

А меня вот - будет
И та, и другая.

[Dulevo]

А чего привязались к самосознанию?
Это что? Отличительная черта интеллекта?

Животные вот не могут рассказать что у них в голове твориться. Поэтому определяют
наличие самосознания простым способом - понимает что оно в зеркале видит себя
а не другую особь - или нет.

Т.е в случае ИИ - ему достаточно понимать про себя - что вот он сидит в компьютере.

Разумом он при этом обладать не станет. Просто еще одна дополнительная функция - программируемая на раз-два.

[Дем]

Т.е в случае ИИ - ему достаточно понимать про себя - что вот он сидит в компьютере.

Животное - оно само дошло до узнавания. А у ИИ - это может быть просто запрограммировано.

[nonconvex]

Т.е в случае ИИ - ему достаточно понимать про себя - что вот он сидит в компьютере.

Животное - оно само дошло до узнавания. А у ИИ - это может быть просто запрограммировано.

Не может. Животное программировала Природа, человеку до нее пока далеко.

[nonconvex]

>>>Есть ли ценность? Есть смысл?

Пока ИИ занят поиском смысла - это нормально. Ничего страшного.

Вот когда он найдет этот смысл...

Не занят. ИИ ищет шаблоны, которым он предварительно обучен. Соответственно смысл он найти не сможет до того, как его найдет его учитель - человек.

[Дем]

Животное программировала Природа, человеку до нее пока далеко.

Природе узнавание себя в зеркале не нужно, ибо зеркал в природе нет.
ИИ "живёт" в среде где дохрена зеркал.

[Виктор Кондрашов]

в этом мире развелось слишком много вещей и процессов, которые меня пугают или бесят намного больше. так что пускай, есть ощущение что по крайней мере хуже не будет

хбз
Остальные "вещи и процессы" мы себе в общем сами создаем. Ну либо они дадены нам в очучениях. А тут... Представьте себе, что Вы создали нечто, как минимум не уступающее Вам в интеллектуальных способностях (а предположительно - неограниченно преаосходящее), осознающее себя (а это значит, обладающее свободой воли). И при этом оно не ваш ребенок и вообще не хомо сапиенс. И вот что Вы с этим будете делать?

Я бы ему электричество отключил. На всякий случай. 

[Serge V Iz]

https://libking.ru/books/sf-/sf-history/21879-vladimir-gusev-ohotnik-na-virusov.html

Вот тут можно прямо готовые формулировки проблем брать )

[vlad7308]

А чего привязались к самосознанию?
Это что? Отличительная черта интеллекта?

Животные вот не могут рассказать что у них в голове твориться. Поэтому определяют
наличие самосознания простым способом - понимает что оно в зеркале видит себя
а не другую особь - или нет.

Т.е в случае ИИ - ему достаточно понимать про себя - что вот он сидит в компьютере.

Разумом он при этом обладать не станет. Просто еще одна дополнительная функция - программируемая на раз-два.

самоосознание - это 1) представление о себе, как отдельном индивидууме и 2) свобода воли. (Имхо)

А зеркало тут... Мало при чём.

[ExDi]

А зеркало тут... Мало при чём.

абсолютно ни при чем

а к вопросу

И при этом оно не ваш ребенок и вообще не хомо сапиенс. И вот что Вы с этим будете делать?

по-моему хорошей метафорой могла бы быть - что AI вылупляется из нынешнего человечества как бабочка из гусеницы или птенец из яйца. бабочка - ребенок гусеницы? тоже вроде как вообще не

[Serge V Iz]

Да 'само-', по-хорошему, ни при чем. Мы все умеем абстрагироваться от самости и сознавать лишь "объективное". Хоть битву Тескатлипоки с Теночтитланом, хоть цвет заходящего солнца.

[Dulevo]

А может свободы воли и нет никакой? Одна иллюзия...

Описывали где-то у мужика случился сбой выработки какого-то гормона в голове.
Так этот мужик не мог самостоятельно принимать решения. Даже такое простое, как - в какой магазин идти за продуктами.

Так что если специально в ИИ не заложить систему самостоятельного принятия решений - то никакой свободы воли у него и не будет.

[nonconvex]

по-моему хорошей метафорой могла бы быть - что AI вылупляется из нынешнего человечества как бабочка из гусеницы или птенец из яйца. бабочка - ребенок гусеницы? тоже вроде как вообще не

Плохая. Бабочка из гусеницы вылупляется как живое из живого. И живое тут не в контексте "божественное", а в смысле природно-квантового. Нынешний ИИ ничем не отличается от самообучающихся ЛИСП-машин Минского, Пайперта и пр. , за исключением масштаба.

[Iv-v]

AI вылупляется из нынешнего человечества как бабочка из гусеницы или птенец из яйца.

Как выражался Левон, "как горшок из жопы".

[sychbird]

При оценке потенциалов нынешнего ИИ важно учесть, что как минимум примерно 95 процентам ныне существующих на Земле личностей проблема свободы воли безразлична, ибо они о ней не подозревают.
 
Перечисление типовых социальных или практических сценариев, когда они вынуждены обстоятельствами производить выбор среди альтернатив достаточно ограничен.
Мотивы выбора как правило подражательны по социальным или психологическим особенностям. Это мотивы сообществ, структурированных в те или иные формы.

А анализ структуры личности, свободы воли и философского и практического значения этих категорий в истории цивилизации способны вести десятые, если не сотые и тысячные доли процента от всех существовавших в прошлом и существующих ныне личностей.

Из всего этого можно заключить, что в практическом плане вопросы соотношения личности и  ИИ во многом фантомны, как и любая мифологическая или религиозная системы.

Подобно мифу о Прометее. 

[Serge V Iz]

Из всего этого можно заключить, что в практическом плане вопросы соотношения личности и  ИИ

толком еще не проработаны.
Но как только ИИ начнет в чем-то составлять конкуренцию

95 процентам ныне существующих на Земле личностей

-- они резко начнут умнеть (в широком смысле, с разной степенью метафоричности)
 

Впрочем, умнеть, само по себе, обычно, не считается плохой наклонностью?..