Размножающиеся машины

[pkl]

Мда! Знакомая ситуация: "Солженицина не читал, но решительно выскажу свое мнение".  

Угу. Только ещё раньше про Б. Пастернака такое же было: "Я Пастернака, конечно, не читал, но критику в его адрес поддерживаю..." Я тоже не читал /в смысле, ссылку, так, пробежал глазами/. Но! Господа! Опять мы скатились в оффтоп! Что не может радовать   Я понимаю, что гораздо интереснее мечтать, как мы будем здорово жить, когда САС будут созданы. Но их нет. И сами по себе они не создадутся  :wink: И, кстати, что-то я сомневаюсь во всеобщем счастье. "Радио! Радио! Будет радио, будет и счастье! И вот радио есть, а счастья нет" (с)

[zyxman]

Ну тут в принципе не совсем офтоп - ведь вопрос "что дадут САС" это тоже "про это"

А "из песни слов не выкинешь"..

[pkl]

Знаете ли, мне это напоминает делёжку шкуры ещё не убитого медведя. Вдобавок, избытка товаров и продуктов, как нам тут обещают, не будет. Потому что, во-первых, сохраняются ограничения по энергии /сейчас это, кстати, один из главных аргументов против возможности появления "серой слизи"/. Да и вопрос с необходимыми химическими элементами висит в воздухе.

[Dims]

На мой взгляд, живое и неживое ничем принципиально не отличаются. Только уровнем развитие (живое дольше тестировалось и отлаживалось).

Самореплицирующийся механизм просто надо сконструировать. Решить, какие входные материалы должны быть у популяции, какие технологические процессы она будет выполнять на месте и в каком порядке собирать копии. Вот и всё. Хотя, конечно, это начать и кончить.

Современные технологии не рассчитаны на полный цикл производства с нуля, каждый элемент связан с остальными и базируется на накопленном на предыдущих этапах. Задача полного цикла просто никогда не ставилась.

Я думаю, что спроектировать такой цикл будет гораздо сложней, чем спроектировать современный завод по производству процессоров (хотя бы потому, что такой завод должен быть в распоряжении популяции и являться частью её экономики).

Кстати, а рассматривался ли тут уже вопрос, что технологические существа неизбежно начнут свою собственную эволюцию (как это описано у Лема в "Непобедимом")?

Наверняка, за те 150 лет, пока популяция должна будет переработать планеты Солнечной системы, она успеет выйти из под контроля изначальной цели и начать двигаться к общей цели любой эволюции...

[zyxman]

Современные технологии не рассчитаны на полный цикл производства с нуля, каждый элемент связан с остальными и базируется на накопленном на предыдущих этапах. Задача полного цикла просто никогда не ставилась.

Я думаю, что спроектировать такой цикл будет гораздо сложней, чем спроектировать современный завод по производству процессоров (хотя бы потому, что такой завод должен быть в распоряжении популяции и являться частью её экономики).

Этот вопрос постоянно стоит на повестке дня у разработчиков военной техники - в идеале они вообще ничего не должны использовать, что требует ресурсов из-за пределов страны, как раз на случай войны, и ИМХО например в России им пока это вполне удается.
Реально космическая программа СССР была почти на 100% из продуктов, произведенных в СССР из сырья добытого в СССР (там встречались только совсем отдельные моменты, вроде уголкового отражателя, произведенного во Франции для Лунохода).
Также слова по теме "автаркия" и "натуральное хозяйство".
Немецкие станки, на которых изготовлялась советская оптика и точная механика вполне можно рассматривать как "витамины", малое количество которых, позволяет произвести большое количество продуктов.

Кстати, сейчас есть такая страна Куба - буквально до года назад они жили в экономической и информационной изоляции, еще большей чем СССР, и ничего, даже до сих пор ездят на американских автомобилях 50-х годов

Кстати, а рассматривался ли тут уже вопрос, что технологические существа неизбежно начнут свою собственную эволюцию (как это описано у Лема в "Непобедимом")?

Наверняка, за те 150 лет, пока популяция должна будет переработать планеты Солнечной системы, она успеет выйти из под контроля изначальной цели и начать двигаться к общей цели любой эволюции...

Ни о какой собственной эволюции технологических существ пока не может идти никакой речи. Мы обсуждаем современный уровень развития техники, и у нас даже нет ИИ.

[pkl]

Современные технологии не рассчитаны на полный цикл производства с нуля, каждый элемент связан с остальными и базируется на накопленном на предыдущих этапах. Задача полного цикла просто никогда не ставилась.

Я думаю, что спроектировать такой цикл будет гораздо сложней, чем спроектировать современный завод по производству процессоров (хотя бы потому, что такой завод должен быть в распоряжении популяции и являться частью её экономики).

Этот вопрос постоянно стоит на повестке дня у разработчиков военной техники - в идеале они вообще ничего не должны использовать, что требует ресурсов из-за пределов страны, как раз на случай войны, и ИМХО например в России им пока это вполне удается.
Реально космическая программа СССР была почти на 100% из продуктов, произведенных в СССР из сырья добытого в СССР (там встречались только совсем отдельные моменты, вроде уголкового отражателя, произведенного во Франции для Лунохода).
Также слова по теме "автаркия" и "натуральное хозяйство".
Немецкие станки, на которых изготовлялась советская оптика и точная механика вполне можно рассматривать как "витамины", малое количество которых, позволяет произвести большое количество продуктов.

Кстати, сейчас есть такая страна Куба - буквально до года назад они жили в экономической и информационной изоляции, еще большей чем СССР, и ничего, даже до сих пор ездят на американских автомобилях 50-х годов

Ну блин! Вы ещё про КНДР и чучхэ вспомните! Вообще сейчас проблема автономности страны с точки зрения её безопасности стоит весьма остро - в современном мире страны очень-очень взаимозависимы. Поэтому, говоря о самодостаточности, сейчас имеют в виду лишь доступ к ключевым технологиям и производство основных продуктов питания. Ну и энергетику. Посмотрите, после августовских событий на Кавказе против нас ведь тоже хотели ввести санкции - не получилось, потому как эти же санкции ударили бы по самим "вводителям". Т.е. сложность современного высокотехнологичного общества невероятна. Я вижу, мало кто реально её себе представляет. И это я называл в самом начале темы как одно из препятствий в создании самовоспроизводящегося комплекса.

Кстати, а рассматривался ли тут уже вопрос, что технологические существа неизбежно начнут свою собственную эволюцию (как это описано у Лема в "Непобедимом")?

Наверняка, за те 150 лет, пока популяция должна будет переработать планеты Солнечной системы, она успеет выйти из под контроля изначальной цели и начать двигаться к общей цели любой эволюции...

Ни о какой собственной эволюции технологических существ пока не может идти никакой речи. Мы обсуждаем современный уровень развития техники, и у нас даже нет ИИ.

Здесь нет, но на форуме я поднимал вопрос /кажется, в теме "Жизнь в Солнечной системе" и "Внеземные цивилизации"/. Пока что это лишь гипотетическая возможность. Но в будущем, когда мы отправим самовоспроизводящиеся межзвёздные зонды, мы потеряем над ними эффективный контроль. И что из этого получится - остаётся только гадать. Есть очень хороший рассказ Дэвида Брина - "Опоздавшие":http://lib.ru/INOFANT/BRIN/lungfish.txt?format=_with-big-pictures.html Там это расписано ещё лучше, чем у С. Лема.

[zyxman]

Ну блин! Вы ещё про КНДР и чучхэ вспомните! Вообще сейчас проблема автономности страны с точки зрения её безопасности стоит весьма остро - в современном мире страны очень-очень взаимозависимы. Поэтому, говоря о самодостаточности, сейчас имеют в виду лишь доступ к ключевым технологиям и производство основных продуктов питания. Ну и энергетику. Посмотрите, после августовских событий на Кавказе против нас ведь тоже хотели ввести санкции - не получилось, потому как эти же санкции ударили бы по самим "вводителям". Т.е. сложность современного высокотехнологичного общества невероятна. Я вижу, мало кто реально её себе представляет. И это я называл в самом начале темы как одно из препятствий в создании самовоспроизводящегося комплекса.

Я подхожу к вопросу очень практически. Если вы сами посмотрите, РН Союз по железу очень слабо отличается от Р-7, но все-же сейчас туда установили цифровую ЭВМ, которую можно считать "витамином".
По другим моментам зависимость в многих случаях чисто экономического характера, то есть например СССР был вынужден закупать шелк для парашутов за границей, потому что собственное производство оказалось очень-очень дорого, аналогично сейчас многие производства (кстати, часто очень грязные), выводятся из стран 1-го мира для удешевления.

Думаю, что санкции не ввели потому что была еще надежда избежать глобального кризиса, а теперь, санкции и не нужны

Насчет потенциальной эволюции согласен, но тут я должен обратить ваше внимание, что по опыту природы, каждый шаг эволюции занимает сотни циклов самовоспроизводства, а у нас организм получается очень большим и циклы очень длинными.

[pkl]

Ну блин! Вы ещё про КНДР и чучхэ вспомните! Вообще сейчас проблема автономности страны с точки зрения её безопасности стоит весьма остро - в современном мире страны очень-очень взаимозависимы. Поэтому, говоря о самодостаточности, сейчас имеют в виду лишь доступ к ключевым технологиям и производство основных продуктов питания. Ну и энергетику. Посмотрите, после августовских событий на Кавказе против нас ведь тоже хотели ввести санкции - не получилось, потому как эти же санкции ударили бы по самим "вводителям". Т.е. сложность современного высокотехнологичного общества невероятна. Я вижу, мало кто реально её себе представляет. И это я называл в самом начале темы как одно из препятствий в создании самовоспроизводящегося комплекса.

Я подхожу к вопросу очень практически. Если вы сами посмотрите, РН Союз по железу очень слабо отличается от Р-7, но все-же сейчас туда установили цифровую ЭВМ, которую можно считать "витамином".
По другим моментам зависимость в многих случаях чисто экономического характера, то есть например СССР был вынужден закупать шелк для парашутов за границей, потому что собственное производство оказалось очень-очень дорого, аналогично сейчас многие производства (кстати, часто очень грязные), выводятся из стран 1-го мира для удешевления.

Разумеется, причина в экономике. Ну так не всё ли равно? Важно, что она есть! И в критический период она может аукнуться. Спасает то, что, похоже, зависимость взаимное и, поэтому, никто не заинтересован в нарушении статус кво. Но и обольщаться не стоит - это будет работать лишь до определённого момента...

Думаю, что санкции не ввели потому что была еще надежда избежать глобального кризиса, а теперь, санкции и не нужны

Ну, озвученная мною причина называлась в качестве едва ли не основной. Но это всё оффтоп.

Насчет потенциальной эволюции согласен, но тут я должен обратить ваше внимание, что по опыту природы, каждый шаг эволюции занимает сотни циклов самовоспроизводства, а у нас организм получается очень большим и циклы очень длинными.

Хм... пожалуй, Вы правы. Ну а если мы возьмём по-настоящему большой период времени? Допустим, миллиард лет :?:  :wink:

[pkl]

Да, и вот ещё момент - конечно, технические системы гораздо менее способны к эволюции, чем биологические. Но! Репликатор почти во всех случаях /кроме, может, лунного варианта/ будет управляться ИИ. Которым может целенаправленно направлять и развивать системы. В отличие от слепого и медленного дарвиновского отбора. А в межзвёздной экспедиции этот ИИ будет предоставлен самому себе.

[zyxman]

Разумеется, причина в экономике. Ну так не всё ли равно? Важно, что она есть! И в критический период она может аукнуться. Спасает то, что, похоже, зависимость взаимное и, поэтому, никто не заинтересован в нарушении статус кво. Но и обольщаться не стоит - это будет работать лишь до определённого момента...

А в этот момент окажется экономически выгоднее делать импортируемый продукт самостоятельно
И вот собственно стратегические отрасли поддерживают на плаву именно из соображений иметь временной резерв на тот самый случай.

Насчет потенциальной эволюции согласен, но тут я должен обратить ваше внимание, что по опыту природы, каждый шаг эволюции занимает сотни циклов самовоспроизводства, а у нас организм получается очень большим и циклы очень длинными.

Хм... пожалуй, Вы правы. Ну а если мы возьмём по-настоящему большой период времени? Допустим, миллиард лет :?:  :wink:

Ну во первых тут можно сделать устройство-модератора :lol:, которое будет запрещать реплицироваться САС с слишком большими изменениями в коде (бан), или лучше наоборот, разрешать размножаться только САС с минимальными изменениями кода (предварительная модерация); или даже просто, в многих местах "ДНК", ограничить количество репликаций, считая что изменения "ДНК" за один цикл репликации пренебрежимо малы.
Опять-же, что нам мешает ограничить размер САС снизу, в смысле запретить ему реплицироваться до достижения определенного размера, чем мы автоматически достигнем увеличения периода репликации.

Во вторых, откуда в нашем случае взяться периоду в миллиарды лет, если даже полет к другой звезде на нашем уровне техники не может занять (в грубом приближении) больше тысячи лет? (иначе просто не хватит энергии чтобы этот перелет пережить)

Вобщем конечно проблема такая есть и есть опыт ее решения (модераторы появились не от хорошей жизни), но пока мы не собрались лететь в другую галактику, думаю, сможем обойтись простыми средствами.

Кстати, хорошая тема получилась. Скоро на ней можно будет книгу написать

[Кенгуру]

На мой взгляд, живое и неживое ничем принципиально не отличаются. Только уровнем развитие (живое дольше тестировалось и отлаживалось).

А любовь? Живое может любить, а не живое не может.

[Dims]

в идеале они вообще ничего не должны использовать, что требует ресурсов из-за пределов страны, как раз на случай войны, и ИМХО например в России им пока это вполне удается.

И всё-таки, на мой взгляд, речь нужно вести о ещё большей обособленности и независимости.

Рассмотрим любой продукт, допустим, книгу. Для её производства требуется делать бумагу, иметь печатные станки. Печатный станок, чтобы его произвести требует металлургии, отливки и набора печатных форм. Для отливки форм нужны образцы, которые тоже нужно как-то производить.

В конечном итоге, я думаю, всё упрётся в огромное количество человеко-часов ручного труда. Печатная буква где-то должна иметь прообраз, выточенный или вырезанный вручную.

Мы об этом не задумываемся, потому что наша среда постоянно содержит этот наработанный предыдущими поколениями ресурс. А у автономной популяции этого не будет.

Масштаб проблемы можно оценить, рассматривая американскую лунную программу: небольшой перерыв -- и они уже не могут повторить того, что делали. Требуются огромные денежные и временные затраты.

Проблемы, стоящие перед автономной популяцией роботов, будут на несколько порядков сложнее, так как им нужно будет начать с нуля не одну только лунную программу, а всё производство всего необходимого.

Реально космическая программа СССР была почти на 100% из продуктов, произведенных в СССР из сырья добытого в СССР

Кроме территориального есть ещё временной аспект. Космическая программа использовала наработки предыдущих поколений, в том числе, народившихся к моменту её реализации людей.

Всего этого у инопланетной базы не будет, это всё нужно будет создать на месте. Если мы, конечно, не рассматриваем вариант понагнать на Марс зеков и сделать там задел ихними силами.

Возможно, люди, рабочие руки, этот продукт биосферы -- это наиболее существенный дефицит на базе автономных роботов.

Ни о какой собственной эволюции технологических существ пока не может идти никакой речи. Мы обсуждаем современный уровень развития техники, и у нас даже нет ИИ.

Я утверждаю, что эволюция неотъемлема от автономности. На современном уровне техники создать популяцию самовоспроизводящихся роботов невозможно.

[Dims]

Но в будущем, когда мы отправим самовоспроизводящиеся межзвёздные зонды, мы потеряем над ними эффективный контроль. И что из этого получится - остаётся только гадать.

Ничего страшного из этого не получится -- просто придётся с ними договариваться; торговать, а не командовать. Контроль находится в противоречии с самостоятельностью, этот факт проявляется миллионы раз и в биологии, и в отношениях отцов и детей и в отношениях между народами.

Поэтому, автономную популяцию нужно изначально проектировать, как самодостаточную свободную сущность со своей собственной волей к жизни, а свою роль -- не как командиров, а как поставщиков того, что в данной популяции объективно будет пользоваться спросом.

[Dims]

а у нас организм получается очень большим и циклы очень длинными.

Если цикл очень длинный, то зачем он вообще тогда нужен? Тогда нужно просто рассматривать одноразовых роботов, которых засылают с Земли.

Ведь суть идеи самовоспроизводства в том, чтобы не заморачиваться на Земле вопросами производства и ремонта и поручить это самим роботам. Это значит, что мы рассчитваем на существенное количество циклов производства, от бремени которых хотим избавиться.

[Dims]

Ну во первых тут можно сделать устройство-модератора :lol:, которое будет запрещать реплицироваться САС с слишком большими изменениями в коде (бан),

Всё это есть в природе. Но модераторы тоже должны реплицироваться, при этом тоже возникают ошибки и эволюция всё равно идёт.

Влияние первоначальной установки неизбежно будет экспоненциально спадать со временем, по мере того, как поколения роботов будут сменять друг друга.

Следовательно, не нужно изначально стремиться ставить цели, слишком чуждые "геополитическим интересам" самой популяции.

Во вторых, откуда в нашем случае взяться периоду в миллиарды лет,

Важно не время, а количество циклов репликации. Вирусы и бактерии, которые очень быстро сменяют поколения, и эволюционируют быстро.

[Dims]

А любовь? Живое может любить, а не живое не может.

Я не уверен, что когда мы сделаем ИИ, который способен решать человеческие задачи, мы не получим автоматически и свободу воли и способность любить и весь букет "человеческих факторов".

[Dims]

Поэтому, автономную популяцию нужно изначально проектировать, как самодостаточную свободную сущность со своей собственной волей к жизни, а свою роль -- не как командиров, а как поставщиков того, что в данной популяции объективно будет пользоваться спросом.

Кстати, может быть, мы, люди -- и есть такая популяция

[Кенгуру]

А любовь? Живое может любить, а не живое не может.

Я не уверен, что когда мы сделаем ИИ, который способен решать человеческие задачи, мы не получим автоматически и свободу воли и способность любить и весь букет "человеческих факторов".

А когда мы сделаем ИИ который способен решать человеческие задачи?

Компьютерам уже не один десяток лет, языков программирования - полно, программистов - тоже, а ИИ как не было так и нет.

Почему?


Потому, что любовь - не программа.

[duke]

Потому, что любовь - не программа.

Потому что в большинстве задач это нахрен не нужная функция

А когда мы сделаем ИИ который способен решать человеческие задачи?

Когда человечеству жить надоест. Надо ж чего-то всё-равно оставить

[Dims]

А когда мы сделаем ИИ который способен решать человеческие задачи?

В течение ближайших 15 лет.