ИИ в дальнем космосе

[kost3]

Может конечно сразу в Черную Дыру.
Хотелось бы обсудить вот что.
ИИ в настоящий момент создать можно, по моему глубокому убеждению. Один только вопрос -зачем. Действительно, на Земле ему задач немного найдется, если говорить про "сильный" ИИ (погуглите термин кому не лень), с личностью, и всеми делами. 
А вот для дальних экспедиций посылать разумное существо, специально для этого созданное, и не обладающее недостатками биологического аналога может статься интересно.
Для реконфигурации выжившего набора датчиков, самовосстановления, корректировки программы исследований.
В совсем дальней экспедиции - построение передатчика из местных материалов, выработка топлива и заправка корабля. Если например лазером разгонять межзвездную - самое то.  Да и для дальних планет солнечной системы, учитывая время в пути наверняка имеет смысл резко повысить разумность автономность и гибкость экспедиций.
Не пора ли начинать?

[pkl]

А что обсуждать? Уже много раз обсуждали, в т.ч. и в фантастических романах, как сильные, так и слабые стороны идеи.
Самый главный риск - получается нехилая бомба замедленного действия.
Но в данном разделе эта тема, имхо, офф-топ. Надо бы куда-нибудь в Космонавтику, её историю, назначение и перспективы.

[zyxman]

Самый главный момент, что неизвестно, к чему приведет создание ИИ, который независим от человека.
- Как минимум, это фактически создание нового разумного вида, который может в будущем оказаться конкурентом человека и в космосе и везде, и хорошо если не врагом.

Сейчас ПОКА еще есть вероятность варианта, что ИИ будет создаваться в глубоко изолированной виртуальной среде в лаборатории, и только убедившись в его безопасности, могут быть приняты меры по дальнейшему внедрению в жизнь.

[pkl]

zyxman пишет:
Самый главный момент, что неизвестно, к чему приведет создание ИИ, который независим от человека.
- Как минимум, это фактически создание нового разумного вида, который может в будущем оказаться конкурентом человека и в космосе и везде, и хорошо если не врагом.

Вот именно на ЭТО я и намекаю. Как бы не получилось так, что потом наши же игрушки будут долбить нас "молотами Люцифера". Р.У. Ибатуллин уже и рассказик написал:
http://samlib.ru/i/ibatullin_r_u/roseundwurm0.shtml

zyxman пишет: 
Сейчас ПОКА еще есть вероятность варианта, что ИИ будет создаваться в глубоко изолированной виртуальной среде в лаборатории, и только убедившись в его безопасности, могут быть приняты меры по дальнейшему внедрению в жизнь.

Я думаю, любой полноценный ИИ будет иметь свою волю, способность к саморазвитию и самостоятельному принятию решений. Т.е. в лаборатории/человеческом обществе он может быть вполне мирным и дружелюбным. А вот во что он превратится на борту автоматического зонда-репликатора, м? Власть и деньги людей портят. А машин?

[Антикосмит]

Хе-хе... А что такое воля? Ты уверен, что волю как явление можно воспроизвести цифровыми технологиями как и самосознание? Я думаю синтетическую личность создать или невозможно или очень и очень непросто.

[Кубик]

Да нужна ли ему воля в нашем понимании?
А разве человек может быть конкурентом такому созданию? Такой ИИ создаётся с конкретной целью - дальней разведки и, вполне возможно, её не выполнит, занявшись самосохранением, может даже наплодить помощников, но без наличия заложенных в него эмоций типа тоски по обществу, агрессии... трудно представить, что начнет завоевание Галактики, да и какие возможности даже у весьма совершенного индивидуума? Погоня за ресурсами? А сколько ему надо?

[pkl]

Антикосмит пишет:
Хе-хе... А что такое воля? Ты уверен, что волю как явление можно воспроизвести цифровыми технологиями как и самосознание? Я думаю синтетическую личность создать или невозможно или очень и очень непросто.

Хотение делать что-либо и желание довести начатое до конца. Возможно ли воспросизвести цифровыми технологиями? Не знаю. Вряд ли. Я лично сомневаюсь, что разум вообще возможно воспроизвести цифровыми технологиями, ибо материальная база не та.

[pkl]

Кубик пишет:
Да нужна ли ему воля в нашем понимании?
А разве человек может быть конкурентом такому созданию? Такой ИИ создаётся с конкретной целью - дальней разведки и, вполне возможно, её не выполнит, занявшись самосохранением, может даже наплодить помощников, но без наличия заложенных в него эмоций типа тоски по обществу, агрессии... трудно представить, что начнет завоевание Галактики, да и какие возможности даже у весьма совершенного индивидуума? Погоня за ресурсами? А сколько ему надо?

Думаю что нужна. Без неё он быстро скопытится в космосе. А Земля таким субъектам может быть интересна как скопление различных тяжёлых элементов.

[Parf]

Интеллект и воля - разные понятия. "Искусственный интеллект" (в каком-то ограниченном виде) создать можно. Искусственную волю - невозможно, да и потребности такой нет.

[Кубик]

pkl пишет:
Земля таким субъектам может быть интересна как скопление различных тяжёлых
элементов.

Далековато ему будет тянуться... Если не найдёт на месте назначения - и вовсе не сможет добраться до Земли.

[pkl]

А если сможет добраться? Globus Cassus, знаете, что такое?

[Кубик]

Вообще-то тут, как понимаю, речь о межзвездных экспедициях. Или посылается универсальный робот-разведчик с задачей определиться с местными условиями и отправить данные на Землю, но в этом случае ему о Земле и знать не надо - координаты Солнечной системы на сфере - и всё. Или - саморазвивающаяся система, способная создать промышленную базу хотя бы для своего поддержания "в форме" на много лет, но уж терраформирование -это слишком... И в таком случае опять же - зачем ему данные о Земле? Чтобы выдать враждебной цивилизации? Раз уж мы такие пугливые...или осторожные, так не забивайте их в его базу данных. А строить звездолеты - явно не та задача, что надо закладывать.

[Valerij]

Кубик пишет:
Вообще-то тут, как понимаю, речь о межзвездных экспедициях.

Вообще-то нет, в этом разделе речь о намного более близкой перспективе.

[Иван57]

Кубик пишет:
 Погоня за ресурсами? А сколько ему надо?

Ну, немного. Только себя наплодить и в путь отправить елико возможно больше.
Не намного порядков больше, чем отдельной чумной палочке.

[Кубик]

Valerij пишет:




Кубик пишет:
Вообще-то тут, как понимаю, речь о межзвездных
экспедициях.

Valerij пишет:
Вообще-то нет, в этом разделе речь о намного более близкой перспективе.

Что, собрались создавать базы в солнечной системе и боитесь, чтоб не вышло, как предвидели Стругацкие:" ...банда этих механических идиотов ночью растащила один из складов..."? Так не давайте им средств для этого. Незачем им строить в системе межпланетные корабли и бесконтрольно летать. а в других системах - другое дело, пусть осваивают, но до Земли опять же зачем дорогу прокладывать. И вообще  - зачем системам с конкретными задачами освоения конкретной планеты и разработки её ресурсов знания общей планетологии,  устройства Солнечной системы, данные о других планетах?

[Valerij]

Прочитайте, о чем этот раздел.
З.Ы.
Прошу модераторов перенести эту тему.

[Not]

kost3 пишет:
Может конечно сразу в Черную Дыру.
Хотелось бы обсудить вот что.
ИИ в настоящий момент создать можно, по моему глубокому убеждению.

Лучше конечно забыть про глубокое убеждение и включить свой естественный интеллект. И он вам подскажет, что ИИ в настоящее время невозможен как минимум по трем причинам:

1. Вычислительная сложность. Для того чтобы просто имитационно промоделировать мозг кошки потребовался суперкомпьютер мощностью почти петафлоп. Заметьте, речь не шла об интеллекте, просто о полной модели  нейронной сети. Прикиньте сколько весит петафлопный вычислительный центр, нужна ли вам кошка такого веса  и подумайте еще раз.

2. Алгоритмическая сложность. Мы не знаем как работает человеческий мозг. Наши знания все еще фрагментарны и неполны. Проблема в сложности и неочевидности взаимодействия нейронных ансамблей,  нейронов, и отдельных генов, находящихся под непрерывным влиянием многочисленных гормональных химических воздействий.

3. Высокая восприимчивость тонких структур к поражающим факторам космического излучения. Чем меньше элементарные вычислительные ячейки, тем сложнее их защитить. Но если биосистемы могут самовосстанавливаться, то у полупроводников тут и конь не валялся.

Достаточно?

[sychbird]

Not пишет:
2. Алгоритмическая сложность. Мы не знаем как работает человеческий мозг. Наши знания все еще фрагментарны и неполны. Проблема в сложности и неочевидности взаимодействия нейронных ансамблей, нейронов, и отдельных генов, находящихся под непрерывным влиянием многочисленных гормональных химических воздействий.

3. Высокая восприимчивость тонких структур к поражающим факторам космического излучения. Чем меньше элементарные вычислительные ячейки, тем сложнее их защитить. Но если биосистемы могут самовосстанавливаться, то у полупроводников тут и конь не валялся.

Впервые на этом форуме вижу, что есть понимание ключевого препятствия для создания ИИ(выделено мной красным).
Not - полный респект со снимание шляпы и глубоким поклоном.
Третий пункт тоже крайне важен, но он уже пробился в массовое сознание алкающих штурма крепости сильного ИИ.

Homo sapience - хеморегулируемый объект/субъект на верхнем уровне, а отнюдь не с электромагнитной регуляцией.
И эта хеморегуляция - аналогово-стохастическая. Не существует конкретного дискретного состояния системы в заданный момент.
Здесь ключи к эволюционной изменчивости и высокой степени адаптивности популяций. Именно популяция (социальная организация на верхнем уровне) дает запредельную для ИИ способность к адаптации и выживаемости в агрессивно изменяющихся внешних условиях. И подавляющая часть этих процессов прошита в подкорке, на инстинктивном, бессознательном уровне.

[pkl]

Угу, добавлю также, что разум, это, на мой взгляд, свойство не одного индивида, а свойство всей человеческой популяции. Т.е. создателям ИИ придётся, видимо, моделировать не один мозг, а некий коллектив мозгов /вот ещё вопрос: а разумный межзвёздный зонд не рехнётся по дороге?/. Кроме того, ни сам по себе человеческий мозг, ни вся нервная система, частью которой он является - это не цифровая вычислительная машина, а некая аналоговая система управления. Т.е. нервная система человека ближе не к современным компьютерам, а к старым аналоговым системам управления ракетами и т.п. Потому и попытки современных учёных моделировать интеллект человека на компьютерах примерно столь же перспективны, как на железных шестерёнках.

[pkl]

Кубик пишет:
 Вообще-то тут, как понимаю, речь о межзвездных экспедициях.

Ну наверное. Потому что в пределах Солнечной системы даже ровером на Титане можно управлять с Земли. А вот если нам надо будет создавать какое-то производство, допустим гелия-3 на Уране - без ИИ будет уже не обойтись.

Кубик пишет:
Или посылается универсальный робот-разведчик с задачей определиться с местными условиями и отправить данные на Землю, но в этом случае ему о Земле и знать не надо - координаты Солнечной системы на сфере - и всё.

Если ему известны координаты Солнечной системы, то о Земле он всяко догадается.

Кубик пишет:
 Или - саморазвивающаяся система, способная создать промышленную базу хотя бы для своего поддержания "в форме" на много лет, но уж терраформирование -это слишком... И в таком случае опять же - зачем ему данные о Земле?

А как он будет поддерживать связь с земной цивилизацией?