Размножающиеся машины

[Vit Skystranger]

Это и есть то, чем наполнена наша память. И ежесекундно, ежечасно происходит сравнивание (совершенно бессознательно) потока слов от органов чувств с этим мирровозрением-"романом". Внимание привлекается только тогда, когда возникают рассогласования.
Мозг (любой) – это регулятор по возмущению


Управление по возмущению.

Управление по отклонению.

Наш мозг НЕ реагирует на отклонение управляемого объекта от цели ("после того как") он реагирует заранее, по возмущению, и заранее вырабатывает компенсирующий это возмущение управляющий сигнал ("до того как"). Он компенсирует возмущающее воздействие, а не реагирует на то что уже произошло.
Чем глубже модель, чем дальше предвидение – тем УМНЕЙ регулятор.
Такой тип регулирования - единственный способ регулирования, которое не страдает проблемой устойчивости.
Но у него другая проблема – адекватность модели управляемого объекта и собственно реального объекта управления. Подобная модель всегда несовершенна и постоянно требует корректировки. Возможно, именно этим и занято сознание (во всяком случае это одна из его функций).  

Вот и ответ на извечный спор: автоматы (традиционные) против человека, поскольку ИИ пока нет, в космосе - в чем их принципиальная ограниченность. Надо Зомби сообщить. Другой вопрос - есть ли у нас сейчас задачи за пределами этих ограничений? Пока, похоже, таких задач нет. Но если бы появилась нужда в космическом производстве, для той же добычи гелия или создания зеркал для управления климатом, здесь обычными автоматами будет не обойтись. Понадобится человек (на первых порах), и появится "социальный заказ" на создание ИИ. До этого - ИИ не будет.
Субъективное и ничем не подтвержденное мнение (мое), что подход "снизу", через нейрофизиологию, мало что даст - утонем в дебрях, а "сверху" ИИ, как и термоядерный реактор, в сарае не посторишь, хотя в принципе, при наличии серьезной заинтересованности,  в обозримом будущем он мог бы появиться. Для этого "всего лишь" надо создать модель мира, а это очень дорого  и трудоемко, на одном энтузиазме не сделаешь.
Так что пока только разработки в области "мягкого" ИИ (то же распознавание), они как раз в будущем пригодятся - будут инсталлированны в качестве "умений", собственно через них взаимодействие с внешним миром идти и будет.

Про 2 закон термодинамики. Если удастся обойтись десятками тысяч, или даже миллионами процессоров, то здесь непреодолимых трудностей скорее всего нет, тем более, что система параллельна, а не последовательна. А вот планетоиды, заполненные доверху микросхемами, уже вызывают серьезные сомнения.

[Alex_Semenov]

PathFinder пишет:
 

То есть одну программу для решения всех-всех задач?

Ну не абсолютно всех-всех, а хотя бы имеющих решение.
А то в погоне за всеми-всеми можно и что-то важное пропустить.
Но об этом - в комментарии к следующей цитате.

Задачи, не имеющие решения, решения не имеют.
Разумеется, Кристобаль Хозевич Хунта, заведующий отделом Смысла Жизни, искал решение задач, о которых известно, что они не имеют решения.
См: http://ru.wikibooks.org/wiki/Методы Кристобаля Хунты
Но это в общем-то метафора высшего порядка.
Мы же говорим о математике (что близко но не одно и то же).
Разумеется, я имел в виду решение всех тех задач, которые имеют решение. Все разрешимые задачи (согласно тезису Черча-Тьюринга) имеют алгоритм решения в виде  МТ (Машины Тьюринга). Каждая. Раз есть алгоритм, значит она разрешима и наоборот.
Но среди разрешимых задач много таких алгоритмов, которые решаются не при любых входных данных. Например Y=1/Х при Х=0 не имеет решение. Верно?
А ведь любую задачу можно рассматривать как подзадачу более общей.
Это все очень сильно путает.
В итоге мы вообще не можем отделить все разрешимые задачи от  всех неразрешимых. Такое разделение – неразрешимая задача. Что естественно. Если бы мы нашли способ это сделать, мы бы решили все неразрешимые задачи. Верно? Задача неразрешима? Значит это и есть ее решение. Типа "На ноль делить нельзя". Все. Задачи теперь решается и при X=0.
Но не будем сюда дальше лезть.
Тут нужно на самом деле очень аккуратно рассуждать. Мы тут имеем дело с трансфинитными категориями и переходы по интуитивным ассоциациям могут нам очень дорого стоить.

Чтобы машина Тьюринга не зацикливалась нужен внешний мониторинг её работы. То есть вычислительный процесс на машине Тьюринга должен представлять собой объект (не обязательно в терминологии ООП), которым будет оперировать другая машина Тьюринга с алгоритмом мониторинга. (Вот Вам, кстати, и аналог сознания и одна из его функций.)
Будете утверждать, что невозможно создать алгоритм мониторинга, который бы в свою очередь гарантированно не циклил бы? С этим не соглашусь. В конце концов такой алгоритм может работать по жёсткому лимиту времени. То есть я думаю, что зациклившийся вычислительный процесс всегда можно остановить и перейти к какому-либо другому.
Вот Вас же не циклит, если Вы начинаете говорить:
у попа была собака - он её любил, она съела кусок мяса - он её  убил, в землю закопал и надпись написал, что
у попа была собака - он её любил, она съела кусок мяса - он её убил, в землю закопал и надпись написал, что
у попа была собака - он её любил, она съела кусок мяса - он её убил, в землю закопал и надпись написал, что ...
В конце концов хотя-бы чувство голода прервёт сей увлекательный процесс.

Класс!
Но если серьезно, то вы затронули одну очень старую и красивую задачу-безделушку... Тоже возникла на форуме. Году в 2003-м.. Речь идет об усиленной проблеме остановки.
В чем разница между Машиной Тьюринга и компьютером?
Если отвлечься от кретинской простоты МТ (что следует рассматривать как апофеоз  математической лаконичности и изящества) то разница лишь в размере памяти. У МТ она потенциально бесконечная.
Когда математики говорят об алгоритме, скажем, сложения двух чисел, они говорят о сложении двух ЛЮБЫХ чисел.

A+B=C

Числа A и В могут быть любой длины.

Скажем:

A= 123439494945....(10^123944494 разрядов)...1239349
В= 543334444455....(10^14494232 разрядов)...1110
 
Если вы имеете ограниченную память (не важно какой длины) вы даже не можете сложить два ЛЮБЫХ числа. Найдется бесконечное число натуральных чисел, которые вы сложить не можете.
Математики всегда это понимают. Разница между реальными алгоритмами и абстрактным - бесконечность.
Я не зря тут упомянул Кристобаля Хозевича. Реальная математика такая же чокнутая область деятельности, как все эта магия в НИИ ЧАВО.  Почему я никогда "Гарри Поттера" не поставлю с "Понедельником" рядом. Это была бы явная деградация и просто кощунство.
Так вот.
Речь зашла вот о чем. Один товарищ опираясь на то, что никто не доказал что наша вселенная бесконечна, заявил что проблема остановки (зацикливания) МТ – дутая.
Лозунг был прост
"Нет бесконечной ленты (памяти) – нет проблемы".
В конечного размера вселенной проблемы остановки нет.
А значит мы можем четко отделить разрешимые задачи и неразрешимые в данной вселенной. То есть решить ВСЕ задачи. По сути.
(оцените красоту этого маразма! Для этого надо определенная сноровка!)
Любая машина с конечной памятью либо выйдет за пределы своей конечной памяти (ну не смогла решить. Все.) и это будет сигналом -  задача в данной вселенной объективно не имеет решения. Другая ситуация – машина останавливается в одном из конечных состояний. На ленте – решение разрешимой в данной вселенной задачи. Третий случай – машина зациклится как может зациклится конечный автомат, она (в том числе и вся ее память) возвращается в одно из предыдущих состояний. Что мы можем уже РАСПОЗНАТЬ. И остановить машину. Все. Значит и эта задача не решается.
То есть в замкнутой вселенной ВСЕ задачи разрешимы. Что так, что этак.
Никакой проблемы остановки нет.
Я зацепился за эту идею.
Я даже обомлел когда понял суть подхода...
Но потом понял, что проблема остановки остается и в ограниченном мире!
Для распознавания что вы зациклились по-тупому по конечно-автоматному, нужна контролирующая машина (как у вас) которая бы сохраняла каждое состояние контролируемой машины. И перед тем как контролируемая машина сделала бы следующий шаг своего вычисления, проверяющая машина должна проверять является ли текущее состояние машины УНИКАЛЬНЫМ. Если нет, значит контролируемая машина зациклилась.
Но контролирующей машине по-любому понадобится своя память. Если мы находимся в конечного размера вселенной, то всегда найдутся и такие задачи, которые разрешимы  в данной вселенной, если всю память бросить на вычисление. Выичилитель не выйдет за пределы памяти не зациклится и остановится в одном из конечных состояний. Но (но!) уже для контролирующей машины памяти (всей материи данной вселенной) не хватит.
Улавливаете?
То есть если мы ограничим память, все равно мы не получим тотального контроля всех задач. Будут задачи явно разрешимые (для которых хватит памяти для вычисления и контроля). Будут задачи неясные (которые нельзя проконтролировать). Среди них будут вычислимые и невычислимые. Как это есть и в бесконечной вселенной (математической теории вычислений).
То есть в такой, ограниченной вселенной все равно будут разрешимые и неразрешимые задачи и распознать их нельзя. И будет существовать проблема остановки.
Более практическая сторона вопроса.
Если некая машина сама себя контролирует на зацикливание (а это несложно. Физически существующая машина может эмулировать две виртуальных: вычисляющую и проверяющую), то всегда найдется  такая задача,  для решения которой ей памяти хватит, а для проверки на зацикливание - нет. Если  машина плюнет на проверку и пойдет решать на свой страх и риск, нет гарантии что решаемая  ею задача ее не зациклит.
Если же она ограничится только проверяемыми задачами, то это явно не все вычислимые задачи (как примитивно-рекурсивые функции есть только подмножество рекурсивных функций)
То есть мы получаем проблему остановки для замкнутой вселенной.
Какую бы конечную память мы не взяли, ее не хватит для полного контроля машины. Возьмем бескоенчтую – проблема вылезет в другом месте. Программа может зациклится никогда не повторяя своего состояния (поглощая все большую и большую часть ленты). Например, программа, перечисляющая все натуральные числа по порядку:
1,2, 3, 4... и т.д.
никогда не вернется в исходное состояние. Но она никогда и не остановится. Последнего числа ведь нет, а лента бесконечная...

Но понаблюдать за своими действиями "изнутри себя" во время решения какой-либо задачи на мой взгляд весьма эффективный подход. Вы сами пробовали? И что в результате получилось?
Шпаргалка буквально у нас в голове.
Бери и списывай!  

В бытность кибернетик много разговоров было о проблеме автодексации (или автодескрипции) конечного автомата. У Лема в предисловии к "Маске" есть рассуждения на этот счет. В ту эпоху доказывали, что конечный автомат не может сам себя "познать" до конца. Из этого, кстати, одно время выводилась мысль, что разум никогда не сможет сам себя понять. Мол хотя в принципе он понятен но это может сделать кто-то кто более сложен чем человек. А сам человек – нет.
Самопознание полезно. Но оно бесполезно без опоры на внешнего помощника.
Сила человеческого ума не в самом уме, а в объединении умов.
Мог бы Солярис Лема познать себя?
Гм...
Но люди могут, если будут пытаться понять себя и друг друга.
В сущности ЭВОЛЮЦИЯ как то ухитряется превзойти саму себя.
Верно?

Ну не нужно злиться. Просто у меня появились некоторые идеи по поводу ИИ, не оформившиеся во что-то завершённое, но всё-же. Вот и хочу их испытать на прочность ну или улучшить.

Да это не настоящая злость.

При первом знакомстве с литературой по вопросу ничего похожего на свои идеи мне обнаружить не удалось. Может плохо искал? ("Книгу об интеллекте" Джеффа Хокинса обязательно прочту, спасибо за ссылку.)

Я тут накидал еще ряд ссылок и названий книг. Настоятельно рекомендую все это.

А кроме как с Вами, конструктивно по теме ИИ тут поговорить и не с кем.
Так-что хотелось бы тему всё-же продолжить... :wink:

Это главная проблема. Любой ученый, который достиг чего-то реального, становится узким специалистом в своей области. Часто одиночкой. Он глубоко понимает кусочек своей области. Но отойдя в сторону он уже плавает как школяр...  
Наука в мире проблем - как наша цивилизация на поверхности Земли. Есть людные заасфальтированные центры-мегаполисы. Есть трассы и пригороды. Но большая часть остается неухоженной глубинкой.
Даже в куда более благополучной научной среде США люди, пытающиеся понять работу мозга вцелом (всякие когнитивисты стронговые ИИ-шники) чувствуют себя белыми воронами. Одиночками. Они знают друг друга. Читают друг друга. Общаются. Но даже в этом случае они очень одиноки. Их слишком мало. Они часто плохо понимают друг друга. Их мнения настолько разняться... Или даже не столько мнения. Интересы. У них слишком разные интересы. Область их интересов нехлебная.
Даже если у вас есть гениальная идея и она действительно гениальная, именно это ее свойство (никто же ведь кроме вас ее не понял вы – один) делает ее никому не интересной.
Я эту проблему называю в шутку "проблемой партитуры страшного суда".
У Стругацких в "Хромой Судьбе" читали этот забавный эпизод?
Вы музыкант.
Вам принесли партитуру Страшного Суда.
Вы поверите, чти вот эти мятые грязные страницы это именно она?
Допустим, если ее заиграть на кладбище  встанут мертвые...
Гм...
Это ж надо ехать на кладбище с инструментом и как дурак, проверять!
А тут еще и "Пахтакор" проиграл!

В общем, не расстраивайтесь, что вам ХРОНИЧЕСКИ не с кем поговорить. И некому вас понять. Это нормально.
Это говорит о том, что вы вляпались таки в настоящую проблему.
Вы – один в поле. И вы, возможно, воин...
Либо сумасшедний.
И скорей всего последнее...

[lll]

[ чувствуют себя белыми воронами. Одиночками. Область их интересов нехлебная.

Вы бы хоть википедию почитали,
каков рейтинг журналов, сколько департаментов нейронаук в университетах, сколько ежегодно студентов выпускается, сколько грантов NIH and NSF выделяют. Это самая развивающаяся наука сейчас, гуру.
Тему - в ЧД к физикам Ивановым и гравицапам. Самое место ей там

[Not]

Вы бы хоть википедию почитали

:lol:

Самое печальное, что вы не поняли, что ничего не поняли  

[Alex_Semenov]

[ чувствуют себя белыми воронами. Одиночками. Область их интересов нехлебная.

Вы бы хоть википедию почитали, каков рейтинг журналов, сколько департаментов нейронаук в университетах, сколько ежегодно студентов выпускается, сколько грантов NIH and NSF выделяют. Это самая развивающаяся наука сейчас, гуру.

А я разве с этим спорю? Мягкий ИИ, как выкат компьютерной революции просто процветает. И будет долго процветать.
Но.
Прикладуха - это даже не вершина асйберга.
Есть оторванные "от жизни" задачи, без которых мы никогда не построим реальный разум, например о происхождении эмоций. Зачем, как они работают? Что есть понимание? Как работает сознание?
Интересно, много ли студентов выпускается по профилям этих совсем не хоженных областей ИИ? Психологов и медиков не считаем.
Ладно "технарей" не учат этому. Но много ли из них берется решать подобные проблемы? А если кто и берется,  много ли грантов на такие абстрактные задачи-исследования выделяется?
Ведь это же, как заметил Дан, сферический конь в вакууме!
Это предже всего понимают и люди, занятые этим. Поэтому особо то денег и не просят. Стесняются...



Древняя шутка все еще остается в силе:
Искусственным интеллектом заняты люди, у которых с естественным не все в порядке.
 

Тему - в ЧД к физикам Ивановым и гравицапам. Самое место ей там

За что? Вы с логикой дружите?
Если ИИ (как вы, я понял, уверены) процветает и вот-вот появится истинный машинный разум (студенты, гранты, журналы...), то и до самовоспроизводящихся машин – рукой подать. То есть данная тему уж никак не гравицапная тема. А тема ближайшего будущего.
Или вы предлагаете в тартарары ниспровергнуть меня, "гуру"?
Так и ниспровергайте меня.
Зачем же всю тему?

[Alex_Semenov]

"-   Дискета   не  может  вращаться!  Тем  более  внутри  компьютера!  Она квадратная!..."
(Логично!)

И так. Видимо действительно пора подвести итог. Если мы тут все же вляпались  в проблему ИИ то нельзя не рекомендовать и вот этот труд:

***********
ИШКУШТВЕННЫЙ ИНТЕЛЛЕКТ 2
(римейк)
НЕ РЕКОМЕНДУЕТСЯ ВПЕЧАТЛИТЕЛЬНЫМ НАУЧНЫМ РАБОТНИКАМ

Робот никогда не заменит человека!
(Людоедская классика)
 (1)

КИБЕРНЕТИКА НА ГОРШКЕ

Как хорошо, что дырочку для клизмы
Имеют все живые организмы!
(Н. Заболоцкий)

...

Проблема N 1 кибернетики: Каким местом человек думает?
Проблема N 2 кибернетики: Как он это этим местом делает?

Далее:

http://www.raai.org/resurs/interes/AISoloviev.htm

Я знаком еще со старой версией (конспект  лекций  для  Светы)

http://soloviev.nevod.ru/1994/AI.lec.html

Обновленную версию перечила только сейчас.

**********

На самом деле работа не просто смешная или иронична. Не думаю что кто-то мне сможет покажет более ГЛУБОКИЙ и емкий обзор состояния проблемы ИИ на текущий момент чем эта. Как однажды пошутили "Веселые ребята" (и запомнил же!) есть настолько серьезные вещи, что говорить о них серьезно просто невозможно.

Кстати. Этот текст прекрасный тест на то насколько вы знакомы с проблематикой ИИ. Если вы не знаете и половины имен и терминов там названых, вы не знакомы с проблемой ИИ и на половину. Тогда я вполне допускаю, что текст вам не покажется достаточно смешным.

[gans3]

Собранные известным классификатором жопоголизма Турчиным

Возможные причины неудачи ИИ

Технические причины:
1) Закон Мура остановится раньше, чем будет создана достаточно мощная и дешёвая аппаратура для ИИ
Философские:
2) Человеческое создание использует некий способ обработки информации, принципиально недоступный для алгоритмических компьютеров. Так полагает Пенроуз. (Но мы можем использовать этот способ с помощью методов биоинженерии)
3) Система не может создать систему, сложнее себя, поэтому люди и не могут создать ИИ, так как все предлагаемые ими решения оказываются слишком просты. То есть ИИ в принципе возможен, но люди слишком глупы, чтобы его сделать. В принципе, эта причина прошлых провалов в создании ИИ – людям недооценивали сложность задачи.
4) ИИ невозможен, поскольку любая достаточно сложная система обнаруживает бессмысленность своего существования и зависает.
5) Все возможные способы оптимизации исчерпаны. ИИ не обладает никаким принципиальным преимуществом в сравнении с человеко-машинным интерфейсом и имеет ограниченную сферу использования.
6) Человек в теле обладает максимальным уровнем здравого смысла, и любые внетелесные ИИ или неэффективны, или являются моделями людей.
7) ИИ создан, однако уже нет задач, которые он должен и может решать. Все задачи уже решены обычными методами, или доказана их невычислимость.
Экономические:
Рост сложности программ компьютеров привёл к росту числа сбоев, которые были столь зрелищными, что от программ автоматизации пришлось отказаться. Это привело к падению спроса на мощные компьютеры и остановило закон Мура до того, как он достиг своих физических пределов. Этот же рост сложности и числа сбоев сделал трудным создание ИИ.
9) ИИ удалось сделать, но он не даёт значительного превосходства над человеком ни в смысле результатов, ни скорости, ни стоимости вычислений. Например, одна симуляция человека стоит миллиард долларов, и у неё нет никаких идей как себя самооптимизировать. При этом люди нашли способы разгонять свои интеллектуальные способности с помощью инъекций стволовых клеток-предшественников нейронов, что ещё более повышает конкурентные преимущества людей.
Политические:
10) ИИ запрещены или жёстко ограничены по этическим соображениям, чтобы люди чувствовали себя по-прежнему выше всех.
11) ИИ запрещён из соображений безопасности, так как представляет слишком большой глобальный риск.
12) ИИ возник и установил свою власть над Землёй, однако никак себя не проявляет, кроме как не даёт развиваться другим ИИ-проектам.

[Parf]

12) ИИ возник и установил свою власть над Землёй, однако никак себя не проявляет, кроме как не даёт развиваться другим ИИ-проектам.[/i]

Я это всегда подозревал... А ещё, наверно, мы на Марс не летим, потому что нам марсиане не дают.

[LRV_75]

Есть оторванные "от жизни" задачи, без которых мы никогда не построим реальный разум, например о происхождении эмоций. Зачем, как они работают?

Алекс, как это "оторванные от жизни"? Очень даже насущные. ИМХО это главная проблема. Все остальное - тупо алгоритмизация. Подвержены ли эмоции алгоритмизации? Что то это за гранью моего понимания. Но вам свойственно: "Объяснить доходчиво"  :wink:  Как, слабо?  :wink:

[Parf]

Эмоции - это вообще ерунда. Если рассматривать их в отрыве от самосознания, то это просто набор реакций, который несложно имитировать, например, с помощью нечёткой логики. Самосознание - да, проблема, причём, видимо, неразрешимая.

Вообще в ИИ можно чётко отделить сложные, но решаемые проблемы от неразрешимых. Мы решаем одни сложные проблемы, на их место приходят другие... А неразрешимые остаются там же, где и были.

[LRV_75]

Эмоции - это вообще ерунда. Если рассматривать их в отрыве от самосознания, то это просто набор реакций, который несложно имитировать, например, с помощью нечёткой логики.

Я не знаю, в отрыве, не в отрыве, мне нужна имитация эмоций, что бы все сказали "верю"    Сомневаюсь, что это ерунда и нечеткой логикой тут не обойдешься

[Parf]

Как имитировать - мимикой? Так это проблема робототехники, а не ИИ. А если речь чисто о тексте... Зайдите в ЖЖ и почитайте блоги каких-нибудь девочек-подростков. Сколько там отборных эмоций! И имитировать их, по-моему, несложно.

[LRV_75]

Как имитировать - мимикой? Так это проблема робототехники, а не ИИ. А если речь чисто о тексте... Зайдите в ЖЖ и почитайте блоги каких-нибудь девочек-подростков. Сколько там отборных эмоций! И имитировать их, по-моему, несложно.

Нет нет, я видимо неправильно высказался. Именно не наигранные эмоции, а искреннии  

[Parf]

Как имитировать - мимикой? Так это проблема робототехники, а не ИИ. А если речь чисто о тексте... Зайдите в ЖЖ и почитайте блоги каких-нибудь девочек-подростков. Сколько там отборных эмоций! И имитировать их, по-моему, несложно.

Нет нет, я видимо неправильно высказался. Именно не наигранные эмоции, а искреннии  

А как Вы отличите искренние от наигранных? У девчонок в ЖЖ - как раз, искренние. Вообще говоря, это уже проблема самосознания. Сами по себе эмоции как набор реакций - это даже не ИИ, ибо эмоции могут испытывать и животные.

[LRV_75]

А как Вы отличите искренние от наигранных?

На уровне эмоций видимо, опять вопрос: Как генеряться эмоции и как разум пытаеться распознать и различить  искренние от наигранных?

У девчонок в ЖЖ - как раз, искренние.

Не читал, но допустим верю, но как они появляються "искреннии эмоции"? С "какого перепою" так сказать?

Сами по себе эмоции как набор реакций - это даже не ИИ, ибо эмоции могут испытывать и животные.

Если это так, то они обладают частично разумом

[sychbird]

http://www.gizmag.com/sahara-solar-breeder-project/17054/
Земной проект размножающегося комплекса.

[Alex_Semenov]

Есть оторванные "от жизни" задачи, без которых мы никогда не построим реальный разум, например о происхождении эмоций. Зачем, как они работают?

Алекс, как это "оторванные от жизни"? Очень даже насущные. ИМХО это главная проблема. Все остальное - тупо алгоритмизация.

Оторвана от жизни в том смысле, что пока никто не видит практического смысла в моделировании эмоций. Уметь распознавать образы (зрительные, звуковые) – полезно.
Уметь самообучаться – тоже. Но какой смысл снабжать машину эмоциями? В этом пока никто не видит смысла, как нас убедил Айзек Азимов машину с эмоциями может начать делать только гений робототехники страдающий старческим маразмом с суицидальными наклонностями.




Более того. Мы "традиционно" считаем именно свои эмоции неким особым, божественным даром, прерогативой якобы недоступной "железкам". И это последнее чем массовый человек готов поделиться с машиной.

Подвержены ли эмоции алгоритмизации? Что то это за гранью моего понимания. Но вам свойственно: "Объяснить доходчиво"  :wink:  Как, слабо?  :wink:

Спасибо за комплимент. (светский смайлик)
Я не знаю что есть эмоции.
Но.
Во-первых имеется ряд профессиональных суждений. Когнитивисты и биологи породили несколько теорий того, что это такое, "эмоции". Но честно говоря читая их теоретизирования, я остался очень неудовлетворенным (хотя сейчас могли появится более вразумительные теории, а я давно не слежу за последними новостями с этого фронта).

Во-вторых. У меня на личной карте проблемы разума нет четкого представления о том что такое эмоции, но есть отдельные догадки (малосвязанные) и ряд сильных убеждений по их поводу.

Первое сильное убеждение  в том, что эмоции это такое же ОЩУЩЕНИЕ как тактильное (прикосновении), зрительное, слуховое. Но внутреннее ощущение. Не связанное с внешним миром. Например, таким внутренним  чувством является чувство голода. Или боли. Это чувство не связанное ни с чем, что не является вашим телом. Это ощущение вашего тела. Но так как само тело (то же желудок) для мозга является тоже "внешней средой" (объектом управления), то физически (физиологически) в механизме эмоций не должно быть никакой разницы с другими чувствами. Это все та же "рефлекторная дуга" Павлова. Все те же нервные импульсы. То есть технически эмулировать  эмоции не сложней чем эмулировать любой другой аспект человеческого разума, если гипотеза Ньюэлла - Саймона верна (что разум, мозг манипулирует символами). А я не сомневаюсь в этом (хотя это опять же предмет веры). То есть, эмоции это возможно некие рецепторы, которые ощущают не внешний мир животного и даже не внутренний мир организма. Это чувства, ощущающие собственно сам виртуальный мир мозга.

Второе. Если "воспроизвести" эмоции  не сложней симуляции водяного бачка от унитаза (так сказать), то куда  сложней понять их назначение. Их функцию. Это главная проблема. Куда их подключать? Зачем?
Существует устойчивая мысль, что эмоции мешают разуму. Это вытекает из интроспективных убеждений. "Юпитер ты сердишься, значит ты не прав". Мол, эмоции – плохой подсказчик. Хотя, мы все же верим, что в глупости эмоциональных поступков есть и некая высшая мудрость. Когда ума не хватает, сердце подсказывает. Титры, зал рыдает.
То есть, эмоции это механизм некого параллельного древнего ума, ума вечно конфликтующего с новым умом человека- разума. Мол, думающие машины могут легко обойтись без устаревших эмоций.
Я долго считал эту позицию глупым заблуждение.
Я долго был уверен, что никакой разум без эмоций обойтись не может. То есть эмоции - это те нитки, на которых разум-марионетка подвешена (к старому мозгу) и только за счет их может жить "своей жизнью".



Обрежь нитки и все рухнет. Замрет. То есть именно эмоции обеспечивают МОТИВАЦИЮ человеческого поведения.
Это логично.
Эмоции где-то очень близко живут рядом с желаниями. Нашими стремления (и нежелания). А  разумное поведение (полагал я) это не отсутствие эмоций, а БАЛАНС эмоций. У человека много эмоций (ниток). И если разум (как? Не ясно) сбалансировал эмоции, противопоставил их друг другу, он, разум, активно работает над локальными конфликтами побуждаемый гаммой эмоций. Но в целом остается "холодным разумом".
А вот когда одна эмоция захватила власть над "полем мотивации" – вы неразумны. Вы обезумели от переполнившего вас чувства.
Я даже ввел такой образ для внутреннего употребления. "Матрица эмоций". Множество положительных (светлых) и отрицательных (темных) эмоций можно представить в виде двумерной матрицы дискретных точек. Если на матрице сложный рисунок, вы разумны.
Скажем, вы смеетесь и печалитесь (ироничны).
Если ярко светится одна точка, подавляя вес остальные- вы безумны.
Красиво. Но слишком уж притянуто за уши.

Какая из позиций ближе к истине?
Теперь я думаю, что обе позиции имеют смысл.
Эмоции это действительно, скорей всего, "ум рептилий".  Остается неясным когда появляются эмоции? На какой стадии эволюции? Но очевидно, что очень давно. Симпатическая и парасимпатическая нервная система – древнейшие подсистемы управляющие нашим организмом "по отклонению" (как и работают большинство допотопных автоматических регуляторов внутри нас).  
Возможно, что в нас несколько групп эмоций. Есть древние эмоции. Например, животный ужас, который действительно, захватив власть над мозгом, просто глушит работу неокортекса. Такую эмоцию, видимо действительно не стоит воспроизводить для ИИ.
Кроме того. Надо четко понимать, что именно через чувства (желания?) гены и программируют наше поведение. Осуществляют свое управление нами.
Например, по весне все мы испытываем прилив лебидозных переживаний. Мозг чуть дурнеет. Верно? Эмоции используют химические механизмы связи (сигнализации), что восходит, видимо еще к колониям бактерий.
Как говорится, глубже некуда.
Наши эмоции - это явное проявление власти над нами наших хозяев - генов. Хотя мы тоже не дураки. Алкоголь, наркотики... Мы научились тайком от наших хозяев приворовывать...И не только мы. Все высшие животные использую наркотические средства для "личных целей".
Но есть более поздние и тонкие эмоциональные переживания, которые наверняка обслуживают именно работу разума. Например, чувство любопытства. Или чувство юмора. Стыда. Эти чувства несомненно играют важную роль в работе неокортекса.
Прежде всего. Очевидный факт. Чувства очень сильно связаны с ПАМЯТЬЮ. Мы почти мгновенно запоминаем то, что имело для нас сильные переживания. То есть картина мира, мировоззрение выстраиваемое в неокортексе, не есть некая объективная модель, типа той, что строит наука. Наша внутренняя картина  эгоцентрична. Что ближе нам – то более детально в этой картине представлено. И мера этого родства – эмоциональный фон.
Поэтому и говорят что хороший педагог – вдохновляет. "Заряжает" ученика эмоционально на учебу. Находит нужные "струны души", мотивацию.

В общем. Я полагаю, что с развитием мозга развивалась не только кора (вместилище мировоззрения) но и подкорковые структуры (фактически центр управления мозгом), которые и "утилизирует" возможности коры по предсказанию окружающей ситуации.
Здесь нет смысла давать определение чему-либо, не имея представление о других частях. Это как разбирать двигатель внутреннего сгорания и пытаться понять назначение отдельных деталей не зная общего назначения и принципа действия конструкции. Вот масляный фильтр, вот карбюратор, вот радиатор, вот распредвал, вот коленвал...  Попробуй объяснить зачем ВОТ ЭТО не зная, как работает все это в целом!

Я полагаю, что наше в вами сознание – разговор подкорки с корой. Сознание это сложный сервис (вернее набор сервисов), помогающий коре решать задачи, когда та их бессознательно (рефлекторно) решить не может (конкретное мышление и целевой поиск). Кроме того, когда нет нужды в такой помощи, бесцельно блуждающее по воспоминаниям сознание выполняет некий дополнительный подготовительный сервис (абстрактное мышление. Как я недавно предположил, "короссинговер" несвязанных идей. "и гений, парадоксов друг").
Но в любом случае сознание это разговор древнего мозга (очень примитивного) с новым мозгом (достаточно сложным). И в этом "разговоре" эмоции играют центральную роль. Возможно это мотиватор, инициализирующий, поддерживающий, "разговор". Кора сама прекрасно справляется с НЕОСОЗНАННЫМИ действиями. Делает это хладнокровно безэмоционально. А именно  действия, требующие вмешательства сознания всегда сопровождаются неким эмоциональными переживаниями (и именно в этом случае нужен баланс разных эмоций для сохранения хладнокровия). Кстати есть исследования психологов, утверждающие что любые факты в нашей голове ОБЯЗАТЕЛЬНО имею эмоциональную окраску (метку или эмоциональный код).

Человек бывает без сознания. Спит. В фазе глубокого сна сознание ВЫКЛЮЧЕНО (хотя кора активна!). В фазе быстрого сна сознание работает, но как-то не так как обычно. Что происходит в фазе глубокого сна? Пока это тоже не ясно. Скорей всего это как-то связано именно с памятью. Мозг не может без сна. Есть люди, которые якобы не спят. Но как утверждают специалисты, их мозг все равно ухитряется спать короткими урывками, проходя все фазы (в нормальном случае это 3 часа – пол часа). Хозяева просто даже не замечают этого.
Одна из самых страшных пыток – пытка лишением сна. Другой опыт. Людей будили всякий раз, когда у них начиналась фаза быстрого сна. В результате через сутки люди начинали галлюцинировать. То есть. Сон (его фазы) так же является неким важным сервисом, обслуживающим работу нашего мозга.
Существуют ряд "промежуточных состояний".
Люди могут находиться в состоянии "зомби". Тот же гипноз. Та же нирвана. Разные наркотики вызывают разные странные режимы работы сознания. Существует несколько особые режимы работы мозга. Это все как раз и подтверждает, что наше сознание не есть что-то целостное. Это синтез. Эпифеномен. Самая сильная "оптически иллюзия" – целостность (непрерывность) нашего сознания.
В общем.
Сейчас я склонен делить эмоции на древние эмоции и новые эмоции. Хотя они происходят из одного корня, новые эмоции играют какую-то ключевую роль в работе сознания. А древние эмоции – это реликтовый, древний механизм управления нашим поведением. Они стоят на страже и если ум не справился (человек обезумел) срабатывает этот последний рубеж управления... Чем слабей неокортекс, тем легче мозг переходит к древнему, безбашенному, методу управлению. Скажем у урок на зоне демонстрация такого вот безумного перехода уже стало культовым и они часто его просто ИМИТИРУЮТ.
То есть, эмоции это ключевой контур управления мозгом. Они появились до того как возникло даже примитивное сознание (сознание скорей всего есть даже у рептилий). Даже до появления простейшего обучения.
В общем, это те самые боги, что живут в нас.

Наужены ли эмоции (или сновидения?) ИИ? Если не они, то что-то что их заменит.

[Alex_Semenov]

Собранные известным классификатором жопоголизма Турчиным
Возможные причины неудачи ИИ

Да, Турчин знатный алармист! Хотя его методы отличаются некой эклектичность и отсутствием чувства меры, в целом я его уважаю за преданность идее. Человек нашел себе стезю и работает.

Технические причины:
1) Закон Мура остановится раньше, чем будет создана достаточно мощная и дешёвая аппаратура для ИИ

Маловероятно. Во-первых есть основание подозревать что уже сейчас мы имеем необходимые вычислительные мощности. Десятки тысяч процессоров, сотни терабайт памяти. Что еще надо (чтобы встретить старость)? Дальнейший рост по Муру только приведет к тому, что мы, например, сможем загнать искусственный мозг в "почтовую марку". Прикольно было бы. Но не обязательно (да и чинить неудобно. А чинить надо).
Обратите внимание. Для моделирования мозга (подробной работы всех нейронов, их связей) нам нужна очень большая вычислительные мощность. Но я считаю такой подход явно излишним и даже бесполезным. Моделирование полезно для изучения принципа работы мозга (разума).  Но не для его эмуляции.

Философские:
2) Человеческое создание использует некий способ обработки информации, принципиально недоступный для алгоритмических компьютеров. Так полагает Пенроуз. (Но мы можем использовать этот способ с помощью методов биоинженерии)

Разумеется, полностью исключить нельзя. Но вероятность этого мизерная. Огромное количество фактов пока сходятся к тому, что мозг это нейронная сеть псевдо-дискретных переключателей. Проблема поднятая Пенроузом интереса и даже полезна, но не принципиальна. Пенроузу так и не удалось четко и ясно показать, что человеческий мозг может решать какие-то алгоритмически неразрешимые задачи.

3) Система не может создать систему, сложнее себя, поэтому люди и не могут создать ИИ, так как все предлагаемые ими решения оказываются слишком просты. То есть ИИ в принципе возможен, но люди слишком глупы, чтобы его сделать. В принципе, эта причина прошлых провалов в создании ИИ – людям недооценивали сложность задачи.

Интересная идея. Но. Человек сам себе не может вырезать аппендицит или запломбировать зуб. Но такие "чудеса" с людьми все же происходят. Никто на Земле не знает все детали  устройства вашего настольного компьютер. Но их производят миллионами.
Если наука не загнется, человечество медленно но уверенно накопит необходимую критическую массу знаний и идей по поводу работы человеческого мозга, и случится прорыв. Если бы нас не ждали тяжелые времена, я рассчитывал бы на 100 лет пути еще. Но с тяжелыми времена могут растянуть процесс  лет на 300.
Все однажды разложится по полочками и станет ясно.
Пока же мы даже не научились задавать себе правильные вопросы. Вернее мы не хотим их себе задавать. Я вполне допускаю, что смена системы ценностей у общества, как раз и стимулирует этот процесс.

4) ИИ невозможен, поскольку любая достаточно сложная система обнаруживает бессмысленность своего существования и зависает.

Очень интересная идея. Значит мы не достаточно сложная система? Система нашей сложности почему не зависает? Кстати не праздный вопрос. Я серьезно полагаю, что в устройство разума просто должен быть заложен парадокс, типа "испанский осел".


Если парадокс исправить, система действительно "зависнет". Система не должна понимать (верить?) что все так вот примитивно-глупо устроено. Она должна верить в некий трансцедентный смысл. Может она должна верить в бога?

5) Все возможные способы оптимизации исчерпаны. ИИ не обладает никаким принципиальным преимуществом в сравнении с человеко-машинным интерфейсом и имеет ограниченную сферу использования.

Мне кажется мысль можно было бы сформулировать лучше. Скажем так. Человеческий разум – экстремальная машина, максимум универсальности. Тонкий баланс противоречивых требований. И если мы создадим машинный аналог, то любая попытка улучшить ее умственные способности (по сравнению с человеком) не дадут общего положительного результата в смысле повышения интеллекта. Достоинства-продолжения недостатков. Улучшая что-то мы ухудшим все остальное. Мы уйдем из глобального экстремума.
Я достаточно долго считал эту мысль самой собой разумеющейся.
Допустим так и есть.
Но сам факт что мы можем в принципе ускорить работу машинного мозга в 10, 100, 1000 раз по сравнению с живым, уже создает неравные условия. Потенциальная бессмертность (очень большая  длительность жизни)  – другой бесспорный фактор превосходства ИИ над простым человеком.
Хотя некоторые функции мозга наверное оптимальны, человеческий мозг в целом вряд ли экстремальная система.
Эволюция даже не успела нас понастроить под новые условия жизни в условиях цивилизации. У нас масса вредных программ поведения (хотя опять же нельзя тут спешить с выводами).
Вообще говоря, появление разума (зачатков) у человека – это своего рода просчет со стороны генов. "Свободы" рабам (мозгам)  с их стороны – это скорей всего "политика вынужденных уступок" которая до добра не привела (хотя пока эволюционный успех несомненен: нас 6 миллиардов особей).

6) Человек в теле обладает максимальным уровнем здравого смысла, и любые внетелесные ИИ или неэффективны, или являются моделями людей.

Собственно говоря, я всегда считал разум в неподвижном слепом ящике неким нонсенсом. Любой ИИ должен иметь богатую систему рецепторов и эффекторов. Среда не просто должна быть сложна в смысле выживания, но и социально сложна.
Пускай этот входной и выходной вектор завязан на виртуальный мир (тога мы получим внешне "ум в ящике") но для любого вида разума должна быть некая "внешняя среда" с которой он интерактивно взаимодействует. И сложность этой среды не может быть ниже его собственной сложности.
По поводу виртуальности.
Я полностью солидарен с Лемом и уверен что ни  естественный, ни искусственный интеллект не в состоянии распознать в каком мире он находится. Реальном или виртуальном. Если моделирование реалистичного виртуального мира станет возможно, в будущем  "Проклятье Матрицы" может создать массу проблем для искусственных (а возможно и естественных) разумов.

7) ИИ создан, однако уже нет задач, которые он должен и может решать. Все задачи уже решены обычными методами, или доказана их невычислимость.

Вот это совсем что-то натянутое. Никто не создаст ИИ только из жажды познания, мании величия или тяги к прекрасному. Если задач действительно нет (люди  достигли равновесия с миром и больше ни к чему не стремятся) то и ИИ никто не создаст. Если создадут, то именно для решения некой задачи. Подвесят морковку, впрягут в телегу и погонят.
Хотя бы для того же AASM.
Как это нет задач?
Пахать, пахать и пахать! Нас впрягли? И мы впряжем. А дальше видно будет.

Экономические:
Рост сложности программ компьютеров привёл к росту числа сбоев, которые были столь зрелищными, что от программ автоматизации пришлось отказаться. Это привело к падению спроса на мощные компьютеры и остановило закон Мура до того, как он достиг своих физических пределов. Этот же рост сложности и числа сбоев сделал трудным создание ИИ.

Не понял, почему эта техническая проблема объявлена экономической?
Тупым программированием мы никогда не получим ИИ. Мягкий ИИ – это попытка обшарить тупики в поисках задач-призов. Сейчас их (тупиков) еще много. Мягкий ИИ процветает. Но однажды шара закончится. Методы прямого, ручного программирования для сложных систем уже сейчас к 2010-му почти себя исчерпали.
При этом вроде как незаметно и большого беспокойства по этому поводу. Возможно нам людям больше и не надо по большому счету?
Но может тогда по малому? Для того же космоса?
Если к ИИ не найдется другого пути кроме как писать руками весь код, то считай что задача безнадежная. Но вероятность этого практически равна нулю. Мы уже сейчас используем генетическое программирование, например. Дальше будет больше. В итоге мы будем программировать только зародыш системы. Метаконтуры. Мотивацию поведения. А потом будем погружать систему в среду (реальную или виртуальную) и она там вырастит свое мировоззрение сама.
При этом обратите внимание на разницу. Сейчас нейронные сети тоже обучаются. Но такое обучение столь же кропотливый труд, как и программирование задачи с нуля (за редким исключением). Но наши гипотетические системы должны самообучаться (вот где нужна эволюция!). Мы можем только подправлять этот процесс в целом. Как это происходит с обучением людей.
Никто никого никогда не учил. Помогает самообучаться. Не более.
Большая часть знаний человечества всегда передавалась подзатыльниками. С ИИ мы тоже должны этому научится.
 

9) ИИ удалось сделать, но он не даёт значительного превосходства над человеком ни в смысле результатов, ни скорости, ни стоимости вычислений. Например, одна симуляция человека стоит миллиард долларов, и у неё нет никаких идей как себя самооптимизировать. При этом люди нашли способы разгонять свои интеллектуальные способности с помощью инъекций стволовых клеток-предшественников нейронов, что ещё более повышает конкурентные преимущества людей.

А чем эта идея радикально отличается от 6)?
Вообще очень натянутая ситуация. Мол, мы случайной найдем волшебный порошок... действие которого мы даже не будем понимать, но они нам ну очень помогут стать умней... А вот машина, которую мы с потом и кровью создадим, разложив человека по полочкам. В общем затаенные и глупые мечты гомоцентризма. Как мечты маленького мальчика вырасти и купить все конфеты в магазине.

Политические:
10) ИИ запрещены или жёстко ограничены по этическим соображениям, чтобы люди чувствовали себя по-прежнему выше всех.

То есть победа мракобесия.
Очень даже вероятная ситуация. Это сродне запрету на ядерное оружие. И если с оружием есть узкое место, где можно действительно перекрыть кислород – делящиеся материалы, то тут где перекроешь? ИИ и генетика – это то, что удержать никакими запретами не удастся. Слишком соблазнительно выглядит. "Победитель получает все".
Особенно это может сыграть при переходе к поздневековью, когда все против всех.

11) ИИ запрещён из соображений безопасности, так как представляет слишком большой глобальный риск.

То же самое.

12) ИИ возник и установил свою власть над Землёй, однако никак себя не проявляет, кроме как не даёт развиваться другим ИИ-проектам.[/i]

Прикольно конечно.
Но зачем останавливать фантазию.
Сейчас не 2010-й. Сейчас уже 3125-й и мы все в "Матрице", как сперматозоиды сами знаете где...!

[Зомби. Просто Зомби]

Читаешь вас, Алекс, и на ум приходит, что высказывание "счастливы лишь те, кто не в курсе и те кто в доле" относится не только к экономике и не только к России.

[Зомби. Просто Зомби]

Политические:
10) ИИ запрещены или жёстко ограничены по этическим соображениям, чтобы люди чувствовали себя по-прежнему выше всех.

То есть победа мракобесия.
Очень даже вероятная ситуация. Это сродне запрету на ядерное оружие. И если с оружием есть узкое место, где можно действительно перекрыть кислород – делящиеся материалы, то тут где перекроешь? ИИ и генетика – это то, что удержать никакими запретами не удастся. Слишком соблазнительно выглядит. "Победитель получает все".
Особенно это может сыграть при переходе к поздневековью, когда все против всех.

Не вижу ровно ничего соблазнительного.

И, кстати, ИИ из тех технологий, которые реально "перекрыты".