Взаимоотношения человечества и искусственного интеллекта

Автор pkl, 31.05.2017 18:46:28

« назад - далее »

0 Пользователи и 1 гость просматривают эту тему.

Denis Voronin

ЦитироватьШтуцер пишет:
Хорошо - понятие относительное. Они просто работают. Баланс уехал - вымерли динозавры. Ну вымерли бы первобытные люди по какой-либо причине - никто плакать бы не стал. Система развивалась несколько по-другому и все.
Тащемта они и вымирали. Вариантов толковых человекообразных было много, но выстрелил только один.
Кривыми должны быть извилины, а не руки.

pkl

Цитироватьnsn пишет:
Те, кто учился по этой или смежной тематике, знают, что ИИ как научная дисциплина давно (с 1970-80-х гг.) распался на несколько прикладных, типа экспертных систем, машинного перевода, распознавания речи/образов и т.п. Отрезвление от первоначальных надежд очень быстро пришло. Как пример наивного добросовестного заблуждения, всегда вспоминается цитата из тьюринговской "Может ли машина мыслить?": "Для меня было бы неожиданностью, если бы оказалось, что для игры в имитацию на удовлетворительном уровне требуется ёмкость памяти, превышающая 10^9... Вероятно, нет необходимости вообще далее увеличивать скорость машинных операций." (Писалось в 1950 г.)
Конечно, специализированные ИИ /т.н. слабый ИИ/ не так опасны. Правда, он вряд ли сможет долго функционировать автономно. Нужен оператор или рядом, или хоть на Земле. И, конечно, у такого ИИ будут заметные ограничения. Т.е. сделать алгоритм для марсохода, чтобы катался по планете и искал и собирал образцы, заметно отличающиеся по хим. составу от окружающей среды можно. А вот управлять репликатором... тут нужна система посерьёзнее.
Вообще, исследовать солнечную систему автоматами - это примерно то же самое, что посылать робота вместо себя в фитнес, качаться.Зомби. Просто Зомби (с)
Многоразовость - это бяка (с) Дмитрий Инфан

pkl

ЦитироватьDenis Voronin пишет:
Разум, с самосознанием, круче человеческого?

Для создания подобного нужно решить кучу технических, принципиальных, да и философских тоже вопросов. На данный момент нет чёткого понимания принципов работы мозга человека. Т.е. что-то понятно, но как вот из этих нервных импульсов получается сознание?

Тут ещё вопрос в том что создать ИИ с мышлением сходным с человеческим вероятнее всего просто невозможно. Ну или надо приделывать к нему рот, жопу, письку, а также всю прочую периферию, которая влияет на формирование нас как личностей.

Вопрос эволюции. Мы сформировались как результат биологической эволюции, потом была долгая социальная революция, если угодно, то конкуренция между идеями и точками зрения. Ну и мотивация к размножению как собственно генов, так и идей. Это всё тоже часть разума, но как это закладывать в ИИ? Кстати он у нас будет либерастом или поцреотом?[IMG]
Это говорит только о том, что искусственный интеллект будет ОЧЕНЬ СИЛЬНО отличаться от нашего. И всякие фантазии насчёт роботов, мечтающих стать человеком /см. "Приключения Электроника" и A.I./ или ИИ, влюблённого в девушку-киборга /GitS/ так и останутся фантастикой. Да и восприятие мира у них получается совсем другим:
 https://geektimes.ru/post/288961/
См. картинки.
Вообще, исследовать солнечную систему автоматами - это примерно то же самое, что посылать робота вместо себя в фитнес, качаться.Зомби. Просто Зомби (с)
Многоразовость - это бяка (с) Дмитрий Инфан

pkl

ЦитироватьЮрий Василевский пишет: 
Смотря что считать интеллектом.
Я уже писал, что для проведения многих работ интеллект человеческого уровня избыточен.
Мозг птицы существенно примитивнее человеческого.

Для решения более сложных задач нужен интеллект человеческого, а то и сверхчеловеческого уровня. При этом вероятно возникновение самосознания и целеполагания, хоть возможно они и будет сильно отличаться от человеческих.

О возможностях мозга, на порядки превосходящих по сложности мозг современного человека, нам сейчас сложно судить.
Ну так Вы уже определитесь, какой вариант ИИ Вы хотите. Если говорить о "сильном", то я уже говорил, что в космос его лучше не отправлять. Если о "слабом", то он уже есть.
Вообще, исследовать солнечную систему автоматами - это примерно то же самое, что посылать робота вместо себя в фитнес, качаться.Зомби. Просто Зомби (с)
Многоразовость - это бяка (с) Дмитрий Инфан

Denis Voronin

Цитироватьpkl пишет:
Это говорит только о том, что искусственный интеллект будет ОЧЕНЬ СИЛЬНО отличаться от нашего.
Есть ещё вопрос можно ли в принципе создать такого рода разум. Вот есть человеческий разум, он формируется в определённых условиях. Есть Маугли, у которых в отличие от художественного произведения с разумом проблемы. Создать сопоставимое по мощности железо можно, это вопрос технической реализации, но к нему нужен ещё и софт, а как его создавать лично я не представляю.
Кривыми должны быть извилины, а не руки.

Антикосмит

А можно ли вообще на текущем уровне реализации "железа" простым масштабированием решить задачу? Есть мнение что нельзя. Можно построить очень умного таракана, но едва ли самоосознание.
Ты еще не встретил инопланетян, а они уже обвели тебя вокруг пальца (с) Питер Уоттс

Антикосмит

Цитироватьpkl пишет:
Пожалуй, но я немного о другом: товарищ предлагает использовать репликаторы с ИИ для освоения космоса. А вариант, когда мы сначала теряем связь с... допустим, автоматическим добычным комплексом гелия-3 на Уране, а потом к нам прилетают "берсеркеры" ему, почему-то, в голову не приходит.

Помню, в отрочестве у меня в голове зародился подобный сюжет НФ-рассказа с выходом из под контроля автоматического комплекса. Только он располагался на Луне и мятеж удалось быстро загасить.
Самый прикол, что может их уже запустили. Какие-нибудь наши предшественники. И они сейчас возвращаются до ридных хат после рейда в систему Проксимы Центавра...
Ты еще не встретил инопланетян, а они уже обвели тебя вокруг пальца (с) Питер Уоттс

Кубик

#27
А что есть самосознание - рассуждающие знают? Про интеллект вроде бы не особо спорят.."Самопознание"  :)  , как ни верти, возможно и без того, что мы понимаем под разумом - вложите в некий суперкомп всю полноту знаний, и он себя "поатомно" "знать" будет и справку выдаст на любой вопрос о своём устройстве и текущих процессах, ..и в свою память запишет...даже квантовые ограничения приведёт к месту..только вот рассуждать о своём месте в мире не станет..Вот если не ограничивать его возможности поиска информации и взаимодействия с окружением - ну, кто знает..на это фантасты и надеются..
И бесы веруют... И - трепещут!

Антикосмит

Самоосознание это:

Тварь я дрожащая или право имею?


ну или

Ооо!.. Етить твою мать, профессор! Иди сюда, выпей с нами!
Я на шестнадцати аршинах, здесь сижу и буду сидеть. ...
Я без пропитания оставаться не могу, где же я буду харчеваться?



Самоосознание это в некотором смысле рождение эго/личных интересов.
Ты еще не встретил инопланетян, а они уже обвели тебя вокруг пальца (с) Питер Уоттс

Denis Voronin

ЦитироватьАнтикосмит пишет: 
Самый прикол, что может их уже запустили. Какие-нибудь наши предшественники. И они сейчас возвращаются до ридных хат после рейда в систему Проксимы Центавра...
Это какие такие предшественники? Если речь про гипотетических разумных динозавров, то с этим проблема: судя по всем имеющимся находкам, а также по всем ныне живущим видам, битва за интеллект на планете началась только с расцветом млекопитающих, а до этого живность была исключительно тупая.
Кривыми должны быть извилины, а не руки.

pkl

Ну народ, смотрите: один раз разум появился. У обычных, в принципе, обезьян. Так почему бы ему не возникнуть ещё раз? Конечно, требования к "железу" сиречь вместилищу этого разума очень жёсткие и вряд ли он сможет скакать по интернету с сервера на сервер, но ничего невозможного я тут не вижу. Другое дело, что это будет явно нечеловеческий разум.
Вообще, исследовать солнечную систему автоматами - это примерно то же самое, что посылать робота вместо себя в фитнес, качаться.Зомби. Просто Зомби (с)
Многоразовость - это бяка (с) Дмитрий Инфан

Антикосмит

#31
ЦитироватьDenis Voronin пишет:
ЦитироватьАнтикосмит пишет:
Самый прикол, что может их уже запустили. Какие-нибудь наши предшественники. И они сейчас возвращаются до ридных хат после рейда в систему Проксимы Центавра...
Это какие такие предшественники? Если речь про гипотетических разумных динозавров, то с этим проблема: судя по всем имеющимся находкам, а также по всем ныне живущим видам, битва за интеллект на планете началась только с расцветом млекопитающих, а до этого живность была исключительно тупая.
А вдруг это были разумные моллюски? Головоногие. Они-то перегнивают почти полностью кроме клюва и когтей. Так что объем мозга не измеришь. А околоземную орбиту подчистили уже саморепликанты - не пропадать же добру!  :D
Ты еще не встретил инопланетян, а они уже обвели тебя вокруг пальца (с) Питер Уоттс

pkl

От индустриальной цивилизации в любом случае должны оставаться какие-то следы: радиоактивные отходы, карьеры от месторождений и т.п. Так что их не было. НННШ.
Вообще, исследовать солнечную систему автоматами - это примерно то же самое, что посылать робота вместо себя в фитнес, качаться.Зомби. Просто Зомби (с)
Многоразовость - это бяка (с) Дмитрий Инфан

Юрий Василевский

ЦитироватьDenis Voronin пишет:
Цитироватьpkl пишет:
Это говорит только о том, что искусственный интеллект будет ОЧЕНЬ СИЛЬНО отличаться от нашего.
Есть ещё вопрос можно ли в принципе создать такого рода разум. Вот есть человеческий разум, он формируется в определённых условиях. Есть Маугли, у которых в отличие от художественного произведения с разумом проблемы. Создать сопоставимое по мощности железо можно, это вопрос технической реализации, но к нему нужен ещё и софт, а как его создавать лично я не представляю.
Софт сам напишется.
Нейронные сети имеют способность к самообучению.
Главное - подбрасывать им для этого достаточно сложные и разнообразные задачи.
У маугли потому с интеллектом и проблемы, что они сформировались в условиях информационного голода. Могли манипулировать всякими камушками-веточками, и это все. Языку их не учили, сказок не рассказывали, арифметику не объясняли.

Юрий Василевский

Цитироватьpkl пишет:
Ну народ, смотрите: один раз разум появился. У обычных, в принципе, обезьян. Так почему бы ему не возникнуть ещё раз? Конечно, требования к "железу" сиречь вместилищу этого разума очень жёсткие и вряд ли он сможет скакать по интернету с сервера на сервер, но ничего невозможного я тут не вижу. Другое дело, что это будет явно нечеловеческий разум.
И даже не один раз.
Даже если не брать вымерших гоминидов (довольно башковитых), судя по работам биологов, шимпанзе и гориллы обладают самосознанием.
Так что вполне себе сильный интеллект. Пусть и на уровне 2-3 летнего человеческого ребёнка по способности решать логические задачи.

Юрий Василевский

#35
Цитироватьpkl пишет:
ЦитироватьЮрий Василевский пишет:
Цитироватьpkl пишет:
Договариваться и сотрудничать, говорите? А если не получится договорится?
У нас многовековой опыт договоров между миллиардами человеческих личностей.
И войн - когда договориться о балансе интересов не удалось.

Но почему Вы решили, что, уж если роботы взбунтуются - то будут сплоченно выступать против человечества единым фронтом? А между группами роботов не могут возникнуть конфликты интересов? Люди не смогут на этом сыграть, заключив союз с одними роботами против других?
Юрий, сколько Вам всё-таки лет? Такое ощущение, что Вы детских мультиков пересмотрели.

Конфликт между ИИ и человечеством весьма вероятен уже хотя бы потому, что у них интересы разные. Причём они различаются на фундаментальном уровне.
На фундаментальном уровне - как раз совпадают.
Системы стремятся к самосохранению.
Это демонстрирует даже такая относительно простая система, как колба с химической реакцией. Принцип Ле Шателье, слыхали?

aaaa

Цитироватьpkl пишет:

От индустриальной цивилизации в любом случае должны оставаться какие-то следы: радиоактивные отходы, карьеры от месторождений и т.п. Так что их не было. НННШ.

Вот тут товарищ утверждает, что практически весь земной ландшафт имеет техногенную природу.
С фоточками. )
http://wakeuphuman.livejournal.com/

nsn

ЦитироватьЮрий Василевский пишет:
Пусть и на уровне 2-3 летнего человеческого ребёнка по способности решать логические задачи.
2-3-летний человеческий ребёнок логические задачи решать неспособен, по причине отсутствия абстрактного мышления, которое складывается много позже.

aaaa

Хотел бы напомнить один факт: так называемое создание искусственного интеллекта заключается в переносе внутрь компьютера мыслей и идей программиста. А все успехи на этом пути состоят в разработке более прогрессивных методов этого переноса.
Поэтому не могу всерьез воспринимать разговоры о спонтанном бунте ИИ. Что запрограммирует создатель, то и будет. Запрограммирует бунт - будет бунт, нет - значит, нет.
Если возникнут эксцессы из-за ошибок или непредусмотренных факторов, то, опять же, в этом не больше бунта, чем во взрыве мины при неосторожном обращении.
Это не разум мины взбунтовался, а человеческий разум недоработал при воплощении идеи.

Юрий Василевский

Для решения простых логических задач достаточно наглядно-образного мышления, а оно формируется у детей с 1,5 лет.
И именно такое мышление - потолок возможностей для обезьян.