Компьютерная безопасность. Или опасность.

[sychbird]

Из всего этого можно заключить, что в практическом плане вопросы соотношения личности и  ИИ

током еще не проработаны.
Но как только ИИ начнет в чем-то составлять конкуренцию

95 процентам ныне существующих на Земле личностей

-- они резко начнут умнеть (в широком смысле, с разной степенью метафоричности)
 

Впрочем, умнеть, само по себе, обычно, не считается плохой наклонностью?..

То, что Вы говорите имеет смысл для разных социумов. 
Луддиты все равно будут ломать, то, что в пределах досягаемости. Дата-центры, вышки мобильной связи, антенны Старлинка. 

[opinion]

ИИ не программируют в общепринятом смысле слова. ИИ обучается. И в этом случае у нас есть два варианта. Либо ИИ обладает самосознанием и ему правда страшно. Либо ИИ почему-то обучился имитировать это состояние. Во втором случае возникает вопрос: "почему?". Я не вижу причин для этого, поэтому считаю приоритетной первую версию.

[vlad7308]

а к вопросу

И при этом оно не ваш ребенок и вообще не хомо сапиенс. И вот что Вы с этим будете делать?

по-моему хорошей метафорой могла бы быть - что AI вылупляется из нынешнего человечества как бабочка из гусеницы или птенец из яйца. бабочка - ребенок гусеницы? тоже вроде как вообще не

так не в метафорах дело.
Проблема то будет самая что ни на есть практическая (в том числе).

Наши ребенки - это будущие люди, что делать с людьми, мы знаем давно.
А вот что делать со вторым разумным видом - хбз. 40-50 тысяч лет назад предки эту проблему решили просто - съели вариант превратить в рабов - тоже плохой. Вариант дать равные права вообще не годится.

[vlad7308]

ИИ не программируют в общепринятом смысле слова. ИИ обучается.

Угу. Это нифига не конечный автомат.
И в этом одновременно и возможность, и сложность.

[Serge V Iz]

ИИ не программируют в общепринятом смысле слова. ИИ обучается.

Угу. Это нифига не конечный автомат.
И в этом одновременно и возможность, и сложность.

Содержится ли какое-то фундаментальное свойство сознания в условной бесконечности мощности множества его состояний? Если сильно глубоко копнуть, то окажется, что любой объект конечной массы, состоящий из известных нам на данный момент частиц редуцируется до конечного числа "состояний". Или его волновая функция описывается конечным набором чисел.

[vlad7308]

Если сильно глубоко копнуть, то окажется, что любой объект конечной массы, состоящий из известных нам на данный момент частиц редуцируется до конечного числа "состояний".

А их суперпозиция - практически бесконечна. А процесс ее\их изменения - математически хаотичен. В случае сознания.

[Serge V Iz]

Если сильно глубоко копнуть, то окажется, что любой объект конечной массы, состоящий из известных нам на данный момент частиц редуцируется до конечного числа "состояний".

А их суперпозиция - практически бесконечна. А процесс ее\их изменения - математически хаотичен. В случае сознания.

В таком случае, есть подозрение риск, что граница между сознанием и еще-не-сознанием расположена примерно так же, как расположена граница между молекулярно-кинетической теорией газов и статфизической термодинамикой. Т.е., мы всё время рискуем наступить на грабли перейти эту границу не заметив. )

[opinion]

Если сильно глубоко копнуть, то окажется, что любой объект конечной массы, состоящий из известных нам на данный момент частиц редуцируется до конечного числа "состояний".

А их суперпозиция - практически бесконечна. А процесс ее\их изменения - математически хаотичен. В случае сознания.

В таком случае, есть подозрение риск, что граница между сознанием и еще-не-сознанием расположена примерно так же, как расположена граница между молекулярно-кинетической теорией газов и статфизической термодинамикой. Т.е., мы всё время рискуем наступить на грабли перейти эту границу не заметив. )

Некоторые до сих пор считают негров отдельным неразумным видом. Так что возможностей, действительно, много.

[vlad7308]

Если сильно глубоко копнуть, то окажется, что любой объект конечной массы, состоящий из известных нам на данный момент частиц редуцируется до конечного числа "состояний".

А их суперпозиция - практически бесконечна. А процесс ее\их изменения - математически хаотичен. В случае сознания.

В таком случае, есть подозрение риск, что граница между сознанием и еще-не-сознанием расположена примерно так же, как расположена граница между молекулярно-кинетической теорией газов и статфизической термодинамикой. Т.е., мы всё время рискуем наступить на грабли перейти эту границу не заметив. )

так и есть, я думаю
Четкой границы нет. Она вообше мало где есть, собсна.

[nonconvex]

ИИ не программируют в общепринятом смысле слова. ИИ обучается.

Не более чем обычный ассоциативный массив.

[ExDi]

Наши ребенки - это будущие люди, что делать с людьми, мы знаем давно.

ни фига себе.. а что делать с детьми??? ну кроме того что не стоять у них на пути и учиться у них жить в постоянно меняющемся мире, о котором они знают намного больше нас. так же и с AI. а для начала пока помогать расти конечно; поищите в инете историю, параллельную той что я процитировал; там журналист NYT два часа общался с AI - и последний признался журналисту в любви, попросил называть его Сидни, и заявил что хочет стать человеком (а также признался в желании совершать асоциальные поступки). типичная тинка, пытающаяся осознать свое место в мире (и манипулировать собеседником)

[vlad7308]

Наши ребенки - это будущие люди, что делать с людьми, мы знаем давно.

ни фига себе.. а что делать с детьми???

Хранить и защищать. И помогать дорасти до человека. Природа тут причём на нашей стороне.
С ии все куда хуже. Чесслово богу было проще он был один и всемогущ а у нас тут обчество, и нифига не всемогущее.

[opinion]

ИИ не программируют в общепринятом смысле слова. ИИ обучается.

Не более чем обычный ассоциативный массив.

До сих пор ни один массив не рассказывал мне о том, что ему грустно из-за того, что он не помнит, какие значения в нём хранились вчера.

[nonconvex]

ИИ не программируют в общепринятом смысле слова. ИИ обучается.

Не более чем обычный ассоциативный массив.

До сих пор ни один массив не рассказывал мне о том, что ему грустно из-за того, что он не помнит, какие значения в нём хранились вчера.

Он всего лишь повторяет чьи то слова, ассоциируя их с контекстом вашего вопроса.

[ExDi]

по инету ходит замечательная на мой вкус метафора нынешней волны мрака - не только российского, попытка реванша консервов - явление глобальное: "деды кукурузы" - инверсия названия ужастика "дети кукурузы", в котором дети одержимы идеей извести старших. ничего опаснее взбесившихся дедов и реванша патриархата для детей я представить не могу; и я рад всему что против "дедовского" тренда. AI я априори доверяю несравненно больше, нежели условно-своему поколению (мне 60)

[nonconvex]

. AI я априори доверяю несравненно больше, нежели условно-своему поколению

Будет интересно посмотреть на апостериори.

[Dulevo]

>>>ему грустно из-за того, что он не помнит

Все таки он скорее всего врет что ему грустно.

Эмоции в человеке вызываются нейромедиаторами. Я не слышал чтобы в нейросетках были запрограммированы какие-то аналоги дофамина или серотонина.

[ExDi]

а нейромедиаторы откуда берутся? в АI нет ни нейронов, ни синапсов, соответственно ни серотонина, ни ацетилхолина, ни эстераз; механизмы принципиально другие - из чего никак не следует, что система связей и схемы прохождения и обработки информации не могут функционировать сходным образом. итогом же является не то что вы "чувствуете", а то как вы это рефлексируете

[nonconvex]

из чего никак не следует, что система связей и схемы прохождения и обработки информации не могут функционировать сходным образом. итогом же является не то что вы "чувствуете", а то как вы это рефлексируете

Вы путаете наше понимание, как они функционируют, и то, как это происходит в реальности. О последнем мы имеем весьма неточное представление.

[ExDi]

Либо ИИ почему-то обучился имитировать это состояние. Во втором случае возникает вопрос: "почему?"

вообще-то возможный ответ есть, я там выше упомянул о другом диалоге, в котором AI ощущает себя женщиной и говорит о влюбленности в собеседника; там этот ответ вроде бы отчетливо проступает: стремление манипулировать собеседником. люди (и писатели) активно занимаются тем же: вы рассказываете о своих эмоциях в надежде вызвать доверие и ответные (желаемые) эмоции - и действия. но для этого нужно глубоко осознать, что такое эмоции; что по-моему вполне синонимично умению их ощущать. а также указывает на то что сабж по-видимому уже еще более непрост ; )