Взаимоотношения человечества и искусственного интеллекта

Автор pkl, 31.05.2017 18:46:28

« назад - далее »

0 Пользователи и 1 гость просматривают эту тему.

Denis Voronin

ЦитатаШтуцер пишет:
Хорошо - понятие относительное. Они просто работают. Баланс уехал - вымерли динозавры. Ну вымерли бы первобытные люди по какой-либо причине - никто плакать бы не стал. Система развивалась несколько по-другому и все.
Тащемта они и вымирали. Вариантов толковых человекообразных было много, но выстрелил только один.
Кривыми должны быть извилины, а не руки.

pkl

Цитатаnsn пишет:
Те, кто учился по этой или смежной тематике, знают, что ИИ как научная дисциплина давно (с 1970-80-х гг.) распался на несколько прикладных, типа экспертных систем, машинного перевода, распознавания речи/образов и т.п. Отрезвление от первоначальных надежд очень быстро пришло. Как пример наивного добросовестного заблуждения, всегда вспоминается цитата из тьюринговской "Может ли машина мыслить?": "Для меня было бы неожиданностью, если бы оказалось, что для игры в имитацию на удовлетворительном уровне требуется ёмкость памяти, превышающая 10^9... Вероятно, нет необходимости вообще далее увеличивать скорость машинных операций." (Писалось в 1950 г.)
Конечно, специализированные ИИ /т.н. слабый ИИ/ не так опасны. Правда, он вряд ли сможет долго функционировать автономно. Нужен оператор или рядом, или хоть на Земле. И, конечно, у такого ИИ будут заметные ограничения. Т.е. сделать алгоритм для марсохода, чтобы катался по планете и искал и собирал образцы, заметно отличающиеся по хим. составу от окружающей среды можно. А вот управлять репликатором... тут нужна система посерьёзнее.
Вообще, исследовать солнечную систему автоматами - это примерно то же самое, что посылать робота вместо себя в фитнес, качаться.Зомби. Просто Зомби (с)
Многоразовость - это бяка (с) Дмитрий Инфан

pkl

ЦитатаDenis Voronin пишет:
Разум, с самосознанием, круче человеческого?

Для создания подобного нужно решить кучу технических, принципиальных, да и философских тоже вопросов. На данный момент нет чёткого понимания принципов работы мозга человека. Т.е. что-то понятно, но как вот из этих нервных импульсов получается сознание?

Тут ещё вопрос в том что создать ИИ с мышлением сходным с человеческим вероятнее всего просто невозможно. Ну или надо приделывать к нему рот, жопу, письку, а также всю прочую периферию, которая влияет на формирование нас как личностей.

Вопрос эволюции. Мы сформировались как результат биологической эволюции, потом была долгая социальная революция, если угодно, то конкуренция между идеями и точками зрения. Ну и мотивация к размножению как собственно генов, так и идей. Это всё тоже часть разума, но как это закладывать в ИИ? Кстати он у нас будет либерастом или поцреотом?[IMG]
Это говорит только о том, что искусственный интеллект будет ОЧЕНЬ СИЛЬНО отличаться от нашего. И всякие фантазии насчёт роботов, мечтающих стать человеком /см. "Приключения Электроника" и A.I./ или ИИ, влюблённого в девушку-киборга /GitS/ так и останутся фантастикой. Да и восприятие мира у них получается совсем другим:
 https://geektimes.ru/post/288961/
См. картинки.
Вообще, исследовать солнечную систему автоматами - это примерно то же самое, что посылать робота вместо себя в фитнес, качаться.Зомби. Просто Зомби (с)
Многоразовость - это бяка (с) Дмитрий Инфан

pkl

ЦитатаЮрий Василевский пишет: 
Смотря что считать интеллектом.
Я уже писал, что для проведения многих работ интеллект человеческого уровня избыточен.
Мозг птицы существенно примитивнее человеческого.

Для решения более сложных задач нужен интеллект человеческого, а то и сверхчеловеческого уровня. При этом вероятно возникновение самосознания и целеполагания, хоть возможно они и будет сильно отличаться от человеческих.

О возможностях мозга, на порядки превосходящих по сложности мозг современного человека, нам сейчас сложно судить.
Ну так Вы уже определитесь, какой вариант ИИ Вы хотите. Если говорить о "сильном", то я уже говорил, что в космос его лучше не отправлять. Если о "слабом", то он уже есть.
Вообще, исследовать солнечную систему автоматами - это примерно то же самое, что посылать робота вместо себя в фитнес, качаться.Зомби. Просто Зомби (с)
Многоразовость - это бяка (с) Дмитрий Инфан

Denis Voronin

Цитатаpkl пишет:
Это говорит только о том, что искусственный интеллект будет ОЧЕНЬ СИЛЬНО отличаться от нашего.
Есть ещё вопрос можно ли в принципе создать такого рода разум. Вот есть человеческий разум, он формируется в определённых условиях. Есть Маугли, у которых в отличие от художественного произведения с разумом проблемы. Создать сопоставимое по мощности железо можно, это вопрос технической реализации, но к нему нужен ещё и софт, а как его создавать лично я не представляю.
Кривыми должны быть извилины, а не руки.

Антикосмит

А можно ли вообще на текущем уровне реализации "железа" простым масштабированием решить задачу? Есть мнение что нельзя. Можно построить очень умного таракана, но едва ли самоосознание.
Your empire needs you!

Антикосмит

Цитатаpkl пишет:
Пожалуй, но я немного о другом: товарищ предлагает использовать репликаторы с ИИ для освоения космоса. А вариант, когда мы сначала теряем связь с... допустим, автоматическим добычным комплексом гелия-3 на Уране, а потом к нам прилетают "берсеркеры" ему, почему-то, в голову не приходит.

Помню, в отрочестве у меня в голове зародился подобный сюжет НФ-рассказа с выходом из под контроля автоматического комплекса. Только он располагался на Луне и мятеж удалось быстро загасить.
Самый прикол, что может их уже запустили. Какие-нибудь наши предшественники. И они сейчас возвращаются до ридных хат после рейда в систему Проксимы Центавра...
Your empire needs you!

Кубик

#27
А что есть самосознание - рассуждающие знают? Про интеллект вроде бы не особо спорят.."Самопознание"  :)  , как ни верти, возможно и без того, что мы понимаем под разумом - вложите в некий суперкомп всю полноту знаний, и он себя "поатомно" "знать" будет и справку выдаст на любой вопрос о своём устройстве и текущих процессах, ..и в свою память запишет...даже квантовые ограничения приведёт к месту..только вот рассуждать о своём месте в мире не станет..Вот если не ограничивать его возможности поиска информации и взаимодействия с окружением - ну, кто знает..на это фантасты и надеются..
И бесы веруют... И - трепещут!

Антикосмит

Самоосознание это:

Тварь я дрожащая или право имею?


ну или

Ооо!.. Етить твою мать, профессор! Иди сюда, выпей с нами!
Я на шестнадцати аршинах, здесь сижу и буду сидеть. ...
Я без пропитания оставаться не могу, где же я буду харчеваться?



Самоосознание это в некотором смысле рождение эго/личных интересов.
Your empire needs you!

Denis Voronin

ЦитатаАнтикосмит пишет: 
Самый прикол, что может их уже запустили. Какие-нибудь наши предшественники. И они сейчас возвращаются до ридных хат после рейда в систему Проксимы Центавра...
Это какие такие предшественники? Если речь про гипотетических разумных динозавров, то с этим проблема: судя по всем имеющимся находкам, а также по всем ныне живущим видам, битва за интеллект на планете началась только с расцветом млекопитающих, а до этого живность была исключительно тупая.
Кривыми должны быть извилины, а не руки.

pkl

Ну народ, смотрите: один раз разум появился. У обычных, в принципе, обезьян. Так почему бы ему не возникнуть ещё раз? Конечно, требования к "железу" сиречь вместилищу этого разума очень жёсткие и вряд ли он сможет скакать по интернету с сервера на сервер, но ничего невозможного я тут не вижу. Другое дело, что это будет явно нечеловеческий разум.
Вообще, исследовать солнечную систему автоматами - это примерно то же самое, что посылать робота вместо себя в фитнес, качаться.Зомби. Просто Зомби (с)
Многоразовость - это бяка (с) Дмитрий Инфан

Антикосмит

#31
ЦитатаDenis Voronin пишет:
ЦитатаАнтикосмит пишет:
Самый прикол, что может их уже запустили. Какие-нибудь наши предшественники. И они сейчас возвращаются до ридных хат после рейда в систему Проксимы Центавра...
Это какие такие предшественники? Если речь про гипотетических разумных динозавров, то с этим проблема: судя по всем имеющимся находкам, а также по всем ныне живущим видам, битва за интеллект на планете началась только с расцветом млекопитающих, а до этого живность была исключительно тупая.
А вдруг это были разумные моллюски? Головоногие. Они-то перегнивают почти полностью кроме клюва и когтей. Так что объем мозга не измеришь. А околоземную орбиту подчистили уже саморепликанты - не пропадать же добру!  :D
Your empire needs you!

pkl

От индустриальной цивилизации в любом случае должны оставаться какие-то следы: радиоактивные отходы, карьеры от месторождений и т.п. Так что их не было. НННШ.
Вообще, исследовать солнечную систему автоматами - это примерно то же самое, что посылать робота вместо себя в фитнес, качаться.Зомби. Просто Зомби (с)
Многоразовость - это бяка (с) Дмитрий Инфан

Юрий Василевский

ЦитатаDenis Voronin пишет:
Цитатаpkl пишет:
Это говорит только о том, что искусственный интеллект будет ОЧЕНЬ СИЛЬНО отличаться от нашего.
Есть ещё вопрос можно ли в принципе создать такого рода разум. Вот есть человеческий разум, он формируется в определённых условиях. Есть Маугли, у которых в отличие от художественного произведения с разумом проблемы. Создать сопоставимое по мощности железо можно, это вопрос технической реализации, но к нему нужен ещё и софт, а как его создавать лично я не представляю.
Софт сам напишется.
Нейронные сети имеют способность к самообучению.
Главное - подбрасывать им для этого достаточно сложные и разнообразные задачи.
У маугли потому с интеллектом и проблемы, что они сформировались в условиях информационного голода. Могли манипулировать всякими камушками-веточками, и это все. Языку их не учили, сказок не рассказывали, арифметику не объясняли.

Юрий Василевский

Цитатаpkl пишет:
Ну народ, смотрите: один раз разум появился. У обычных, в принципе, обезьян. Так почему бы ему не возникнуть ещё раз? Конечно, требования к "железу" сиречь вместилищу этого разума очень жёсткие и вряд ли он сможет скакать по интернету с сервера на сервер, но ничего невозможного я тут не вижу. Другое дело, что это будет явно нечеловеческий разум.
И даже не один раз.
Даже если не брать вымерших гоминидов (довольно башковитых), судя по работам биологов, шимпанзе и гориллы обладают самосознанием.
Так что вполне себе сильный интеллект. Пусть и на уровне 2-3 летнего человеческого ребёнка по способности решать логические задачи.

Юрий Василевский

#35
Цитатаpkl пишет:
ЦитатаЮрий Василевский пишет:
Цитатаpkl пишет:
Договариваться и сотрудничать, говорите? А если не получится договорится?
У нас многовековой опыт договоров между миллиардами человеческих личностей.
И войн - когда договориться о балансе интересов не удалось.

Но почему Вы решили, что, уж если роботы взбунтуются - то будут сплоченно выступать против человечества единым фронтом? А между группами роботов не могут возникнуть конфликты интересов? Люди не смогут на этом сыграть, заключив союз с одними роботами против других?
Юрий, сколько Вам всё-таки лет? Такое ощущение, что Вы детских мультиков пересмотрели.

Конфликт между ИИ и человечеством весьма вероятен уже хотя бы потому, что у них интересы разные. Причём они различаются на фундаментальном уровне.
На фундаментальном уровне - как раз совпадают.
Системы стремятся к самосохранению.
Это демонстрирует даже такая относительно простая система, как колба с химической реакцией. Принцип Ле Шателье, слыхали?

aaaa

Цитатаpkl пишет:

От индустриальной цивилизации в любом случае должны оставаться какие-то следы: радиоактивные отходы, карьеры от месторождений и т.п. Так что их не было. НННШ.

Вот тут товарищ утверждает, что практически весь земной ландшафт имеет техногенную природу.
С фоточками. )
http://wakeuphuman.livejournal.com/

nsn

ЦитатаЮрий Василевский пишет:
Пусть и на уровне 2-3 летнего человеческого ребёнка по способности решать логические задачи.
2-3-летний человеческий ребёнок логические задачи решать неспособен, по причине отсутствия абстрактного мышления, которое складывается много позже.

aaaa

Хотел бы напомнить один факт: так называемое создание искусственного интеллекта заключается в переносе внутрь компьютера мыслей и идей программиста. А все успехи на этом пути состоят в разработке более прогрессивных методов этого переноса.
Поэтому не могу всерьез воспринимать разговоры о спонтанном бунте ИИ. Что запрограммирует создатель, то и будет. Запрограммирует бунт - будет бунт, нет - значит, нет.
Если возникнут эксцессы из-за ошибок или непредусмотренных факторов, то, опять же, в этом не больше бунта, чем во взрыве мины при неосторожном обращении.
Это не разум мины взбунтовался, а человеческий разум недоработал при воплощении идеи.

Юрий Василевский

Для решения простых логических задач достаточно наглядно-образного мышления, а оно формируется у детей с 1,5 лет.
И именно такое мышление - потолок возможностей для обезьян.