Взаимоотношения человечества и искусственного интеллекта

Автор pkl, 31.05.2017 18:46:28

« предыдущая - следующая »

0 Пользователей и 1 гость просматривают эту тему.

pkl

ЦитатаЮрий Василевский пишет: 
Цитатаpkl пишет: 
Юрий, а Вы не опасаетесь бунта самовоспроизводящихся машин с ИИ? И даже если они не взбунтуются, что ждёт человека как вид в таких условиях в долгосрочной перспективе?
Не опасаюсь, потому что без создания таких машин человеку будет плохо.
А напрасно. При этом, я не очень понимаю, как первая часть этого предложения согласована со вторым. Допустим, без создания таких машин человеку будет плохо. А что если с их созданием нам наступит полный и окончательный трандец? Вот смотрите, Вы пишете:

ЦитатаПри космической экспансии для выполнения большинства работ роботу не понадобится интеллект именно человеческого уровня, достаточно будет и интеллекта муравья или бобра. Такие роботы не взбунтуются. 

Но для координации действий простых роботов, наряду с людьми, видимо понадобятся более сложные роботы, обладающие самосознанием и интеллектом уровня человеческого и выше. 
Они будут личностями, и видимо не получится им просто приказывать, если не хотим возникновения проблем. С ними придется договариваться и сотрудничать.
А Вы не задумывались о том, что у любой личности наличествует своя воля и свои интересы? И с чего Вы решили, что интересы самовоспроизводящихся машин с ИИ совпадут с нашими?

Договариваться и сотрудничать, говорите? А если не получится договорится?
Вообще, исследовать солнечную систему автоматами - это примерно то же самое, что посылать робота вместо себя в фитнес, качаться.Зомби. Просто Зомби (с)
Многоразовость - это бяка (с) Дмитрий Инфан

Юрий Морозов

Что бы там ни было, появление реального ИИ, приведет к массовому геноциду Человечества, только малые анклавы с жесткой религиозно-клановой координацией выживут.
Неизбежность ИИ-войн продиктовано чисто человеческой агрессией. Как только появятся роботы с мощным телом и встраиваемом ИИ, эта агрессия вытеснится наружу и немедленно начнется эскалация военных действий каждая группа обладающяя ИИ интерфейсом будет бороться за контроль над большей территорией подключая особи людей к интерфейсу ИИ. Остановить это НЕВОЗМОЖНО, начнется новая гонка вооружений и колониальных захватов.
Потом обострятся пограничные конфликты, а затем начнется война на тотальное уничтожение противника.
Никакие увещевания или уговоры действовать не будут, жесткая грубая сила и дранг на все стороны.
Возможно выживет небольшая колония Святого Пророка Элона Маска на Марсе.
А так ТОТАЛЬНАЯ ЗАЧИСТКА.
Такова природа ЧЕЛОВЕЧЕСТВА.

pkl

Пожалуй, но я немного о другом: товарищ предлагает использовать репликаторы с ИИ для освоения космоса. А вариант, когда мы сначала теряем связь с... допустим, автоматическим добычным комплексом гелия-3 на Уране, а потом к нам прилетают "берсеркеры" ему, почему-то, в голову не приходит.

Помню, в отрочестве у меня в голове зародился подобный сюжет НФ-рассказа с выходом из под контроля автоматического комплекса. Только он располагался на Луне и мятеж удалось быстро загасить.
Вообще, исследовать солнечную систему автоматами - это примерно то же самое, что посылать робота вместо себя в фитнес, качаться.Зомби. Просто Зомби (с)
Многоразовость - это бяка (с) Дмитрий Инфан

Юрий Морозов

Цитатаpkl пишет:
Пожалуй, но я немного о другом: товарищ предлагает использовать репликаторы с ИИ для освоения космоса. А вариант, когда мы сначала теряем связь с... допустим, автоматическим добычным комплексом гелия-3 на Уране, а потом к нам прилетают "берсеркеры" ему, почему-то, в голову не приходит.

Помню, в отрочестве у меня в голове зародился подобный сюжет НФ-рассказа с выходом из под контроля автоматического комплекса. Только он располагался на Луне и мятеж удалось быстро загасить.
Ему в голову и не приходит  возможность захвата репликантов террористами. Для него все добрые и пушистые, а Космос лишь арена для получений званий Героя СССР и Героя России. 
На самом же деле именно котонии есть место ведения самых кровопролитных войн в истории человечества...

Юрий Василевский

Цитатаpkl пишет:
Договариваться и сотрудничать, говорите? А если не получится договорится?
У нас многовековой опыт договоров между миллиардами человеческих личностей. 
И войн - когда договориться о балансе интересов не удалось. 

Но почему Вы решили, что, уж если роботы взбунтуются - то будут сплоченно выступать против человечества единым фронтом? А между группами роботов не могут возникнуть конфликты интересов? Люди не смогут на этом сыграть, заключив союз с одними роботами против других? 
Возможно большое количество потенциальных ситуаций, далеко не все они так мрачны, как "единый фронт бескомпромиссной борьбы роботов против человечества".

Юрий Василевский

ЦитатаЮрий Морозов пишет:
Ему в голову и не приходитвозможность захвата репликантов террористами.
Террористы уже захватывали сибирскую язву - природный саморепликатор, заточенный на уничтожение некоторых видов млекопитающих, в том числе человечества. 
И что? 
Да ничего апокалиптического не случилось. 
Хоть потенциально, при отсутствии противодействия, масштабная эпидемия способна выкосить миллиарды людей. 
А на практике - медицина и спецслужбы совместными усилиями нейтрализовали угрозу. 

Когда появятся репликанты - появятся и средства противодействия им, хотя бы в виде других репликантов. Как антибиотики против бактерий. 

Старый

ЦитатаЮрий Василевский пишет:
ЦитатаЮрий Морозов пишет:
Ему в голову и не приходитвозможность захвата репликантов террористами.
Террористы уже захватывали сибирскую язву 
Вот и встретились два одиночества...
1. Ангара - единственный в истории мировой космонавтики случай когда новая ракета по всем параметрам хуже старой. (с) Старый Ламер
2. Всё что связано с Ангарой подчинено единственной задаче - выкачать из бюджета и распилить как можно больше денег.
3. Ангара и Омск созданы друг для друга!.

Denis Voronin

А почему ИИ обязательно должен обладать сознанием в человеческом смысле? Приведу аналогию: птица строит гнездо. Для строительства гнезда решаются конструкторские и логистические задачи в динамически изменяющихся внешних условиях.
Кривыми должны быть извилины, а не руки.

Юрий Василевский

ЦитатаDenis Voronin пишет:
А почему ИИ обязательно должен обладать сознанием в человеческом смысле?
Смотря что считать интеллектом. 
Я уже писал, что для проведения многих работ интеллект человеческого уровня избыточен. 
Мозг птицы существенно примитивнее человеческого. 

Для решения более сложных задач нужен интеллект человеческого, а то и сверхчеловеческого уровня. При этом вероятно возникновение самосознания и целеполагания, хоть возможно они и будет сильно отличаться от человеческих.

О возможностях мозга, на порядки превосходящих по сложности мозг современного человека, нам сейчас сложно судить. 
Возможно будет некоторая аналогия с согласованной работой больших человеческих коллективов, например КБ. 
Но эта аналогия неполна, ведь конструкторы в КБ остаются отдельными личностями и интеграция их мышления на работе имеет относительно невысокий уровень

Denis Voronin

ЦитатаЮрий Василевский пишет:
Для решения более сложных задач нужен интеллект человеческого, а то и сверхчеловеческого уровня.
Какой-нибудь нобелевский лауреат в джунглях склеит ласты в считанные дни, если не часы. При этом куча безмозглой живности вокруг никаких проблем не испытывает. Не нужен ИИ сверхчеловеческого уровня, нужна оптимизация под задачи.
Кривыми должны быть извилины, а не руки.

Юрий Василевский

Вы в курсе проблем, которые возникли в Биосфере-2 из-за незапланированного размножения насекомых?
Рассчитать экологический баланс для искусственной биосферы, содержащей множество видов - задача нетривиальная.
Пока даже нет для этого математических моделей.
Но я подозреваю, что когда методы расчёта появятся, для контроля такой биосферы нужен будет нехилый мозг.
Экспансия - это не только астероиды буром сверлить, будут и более сложные работы.

benderr

ЦитатаЮрий Василевский пишет:
Но почему Вы решили, что, уж если роботы взбунтуются - то будут сплоченно выступать против человечества единым фронтом? А между группами роботов не могут возникнуть конфликты интересов? Люди не смогут на этом сыграть, заключив союз с одними роботами против других?
конфликт уже давно есть - виндовс VS мак VS линукс.
и часть человечества союзничает с одними,часть- с другими! и
 захват человечества проходит успешно и без принуждения!
пока в виде послушных девайсов в кармане и офисе,скоро и в пути ,далее - везде.

в итоге чистая «матрица» без проблем с перенаселением,здоровьем, марс\поселеньями,лифтами,башнями,церерами (нужное подчеркнуть!) и тп.. :D
11-18
я сделаю робота лучше чем позорный федор.
всего за 1 миллион и1 год.

TAU

ЦитатаЮрий Василевский пишет:
Вы в курсе проблем, которые возникли в Биосфере-2 из-за незапланированного размножения насекомых?
Нет. А какие были проблемы?

Старый

Цитатаbenderr пишет: 
 конфликт уже давно есть - виндовс VS мак VS линукс .
и часть человечества союзничает с одними,часть- с другими ! 
А Андроид?  :oops:
1. Ангара - единственный в истории мировой космонавтики случай когда новая ракета по всем параметрам хуже старой. (с) Старый Ламер
2. Всё что связано с Ангарой подчинено единственной задаче - выкачать из бюджета и распилить как можно больше денег.
3. Ангара и Омск созданы друг для друга!.

Denis Voronin

ЦитатаTAU пишет:
Нет. А какие были проблемы?
Баланс уехал и началась жопа:) Замкнутые экосистемы хорошо работают в масштабе планеты или в масштабе стеклянного шара с тремя видами. Впрочем, никаких принципиальных запретов нет, просто надо пилить и пилить. Банальная нудная работа научных коллективов, люди которые в теме говорят что лез за 10-15 можно создать то что нужно для космоса. Ну понятно при условии финансирования, это всё же не дешёвое удовольствие.
ЦитатаСтарый пишет:
А Андроид? :oops:
А это линукс, хотя и специфичный.
Кривыми должны быть извилины, а не руки.

pkl

ЦитатаЮрий Василевский пишет: 
Цитатаpkl пишет: 
Договариваться и сотрудничать, говорите? А если не получится договорится?
У нас многовековой опыт договоров между миллиардами человеческих личностей. 
И войн - когда договориться о балансе интересов не удалось. 

Но почему Вы решили, что, уж если роботы взбунтуются - то будут сплоченно выступать против человечества единым фронтом? А между группами роботов не могут возникнуть конфликты интересов? Люди не смогут на этом сыграть, заключив союз с одними роботами против других? 
Юрий, сколько Вам всё-таки лет? Такое ощущение, что Вы детских мультиков пересмотрели.

Конфликт между ИИ и человечеством весьма вероятен уже хотя бы потому, что у них интересы разные. Причём они различаются на фундаментальном уровне.
Вообще, исследовать солнечную систему автоматами - это примерно то же самое, что посылать робота вместо себя в фитнес, качаться.Зомби. Просто Зомби (с)
Многоразовость - это бяка (с) Дмитрий Инфан

pkl

ЦитатаDenis Voronin пишет:
А почему ИИ обязательно должен обладать сознанием в человеческом смысле? Приведу аналогию: птица строит гнездо. Для строительства гнезда решаются конструкторские и логистические задачи в динамически изменяющихся внешних условиях.
"Слабый" ИИ для решения специфических задач? Это уже другой вопрос. Собственно, такой есть уже сейчас. Но я говорю о куда более серьёзном субъекте.
Вообще, исследовать солнечную систему автоматами - это примерно то же самое, что посылать робота вместо себя в фитнес, качаться.Зомби. Просто Зомби (с)
Многоразовость - это бяка (с) Дмитрий Инфан

nsn

02.06.2017 17:04:14 #17 Последнее редактирование: 02.06.2017 17:05:19 от nsn
Цитатаpkl пишет:
ЦитатаDenis Voronin пишет:
А почему ИИ обязательно должен обладать сознанием в человеческом смысле? Приведу аналогию: птица строит гнездо. Для строительства гнезда решаются конструкторские и логистические задачи в динамически изменяющихся внешних условиях.
"Слабый" ИИ для решения специфических задач? Это уже другой вопрос. Собственно, такой есть уже сейчас. Но я говорю о куда более серьёзном субъекте.
Те, кто учился по этой или смежной тематике, знают, что ИИ как научная дисциплина давно (с 1970-80-х гг.) распался на несколько прикладных, типа экспертных систем, машинного перевода, распознавания речи/образов и т.п. Отрезвление от первоначальных надежд очень быстро пришло. Как пример наивного добросовестного заблуждения, всегда вспоминается цитата из тьюринговской "Может ли машина мыслить?": "Для меня было бы неожиданностью, если бы оказалось, что для игры в имитацию на удовлетворительном уровне требуется ёмкость памяти, превышающая 10^9... Вероятно, нет необходимости вообще далее увеличивать скорость машинных операций." (Писалось в 1950 г.)

Штуцер

ЦитатаDenis Voronin пишет:
Замкнутые экосистемы хорошо работают в масштабе планеты или в масштабе стеклянного шара с тремя видами
Хорошо - понятие относительное. Они просто работают. Баланс уехал - вымерли динозавры. Ну вымерли бы первобытные люди по какой-либо причине - никто плакать бы не стал. Система развивалась несколько по-другому и все.
Но в виде обломков различных ракет
Останутся наши следы!

Denis Voronin

Цитатаpkl пишет:
"Слабый" ИИ для решения специфических задач? Это уже другой вопрос. Собственно, такой есть уже сейчас. Но я говорю о куда более серьёзном субъекте.
Разум, с самосознанием, круче человеческого?

Для создания подобного нужно решить кучу технических, принципиальных, да и философских тоже вопросов. На данный момент нет чёткого понимания принципов работы мозга человека. Т.е. что-то понятно, но как вот из этих нервных импульсов получается сознание?

Тут ещё вопрос в том что создать ИИ с мышлением сходным с человеческим вероятнее всего просто невозможно. Ну или надо приделывать к нему рот, жопу, письку, а также всю прочую периферию, которая влияет на формирование нас как личностей.

Вопрос эволюции. Мы сформировались как результат биологической эволюции, потом была долгая социальная революция, если угодно, то конкуренция между идеями и точками зрения. Ну и мотивация к размножению как собственно генов, так и идей. Это всё тоже часть разума, но как это закладывать в ИИ? Кстати он у нас будет либерастом или поцреотом?;)
Кривыми должны быть извилины, а не руки.