ЦитироватьЮрий Василевский пишет:
Цитироватьpkl пишет:
Юрий, а Вы не опасаетесь бунта самовоспроизводящихся машин с ИИ? И даже если они не взбунтуются, что ждёт человека как вид в таких условиях в долгосрочной перспективе?
Не опасаюсь, потому что без создания таких машин человеку будет плохо.
А напрасно. При этом, я не очень понимаю, как первая часть этого предложения согласована со вторым. Допустим, без создания таких машин человеку будет плохо. А что если с их созданием нам наступит полный и окончательный трандец? Вот смотрите, Вы пишете:
ЦитироватьПри космической экспансии для выполнения большинства работ роботу не понадобится интеллект именно человеческого уровня, достаточно будет и интеллекта муравья или бобра. Такие роботы не взбунтуются.
Но для координации действий простых роботов, наряду с людьми, видимо понадобятся более сложные роботы, обладающие самосознанием и интеллектом уровня человеческого и выше.
Они будут личностями, и видимо не получится им просто приказывать, если не хотим возникновения проблем. С ними придется договариваться и сотрудничать.
А Вы не задумывались о том, что у любой личности наличествует своя воля и свои интересы? И с чего Вы решили, что интересы самовоспроизводящихся машин с ИИ совпадут с нашими?
Договариваться и сотрудничать, говорите? А если не получится договорится?
Что бы там ни было, появление реального ИИ, приведет к массовому геноциду Человечества, только малые анклавы с жесткой религиозно-клановой координацией выживут.
Неизбежность ИИ-войн продиктовано чисто человеческой агрессией. Как только появятся роботы с мощным телом и встраиваемом ИИ, эта агрессия вытеснится наружу и немедленно начнется эскалация военных действий каждая группа обладающяя ИИ интерфейсом будет бороться за контроль над большей территорией подключая особи людей к интерфейсу ИИ. Остановить это НЕВОЗМОЖНО, начнется новая гонка вооружений и колониальных захватов.
Потом обострятся пограничные конфликты, а затем начнется война на тотальное уничтожение противника.
Никакие увещевания или уговоры действовать не будут, жесткая грубая сила и дранг на все стороны.
Возможно выживет небольшая колония Святого Пророка Элона Маска на Марсе.
А так ТОТАЛЬНАЯ ЗАЧИСТКА.
Такова природа ЧЕЛОВЕЧЕСТВА.
Пожалуй, но я немного о другом: товарищ предлагает использовать репликаторы с ИИ для освоения космоса. А вариант, когда мы сначала теряем связь с... допустим, автоматическим добычным комплексом гелия-3 на Уране, а потом к нам прилетают "берсеркеры" ему, почему-то, в голову не приходит.
Помню, в отрочестве у меня в голове зародился подобный сюжет НФ-рассказа с выходом из под контроля автоматического комплекса. Только он располагался на Луне и мятеж удалось быстро загасить.
Цитироватьpkl пишет:
Пожалуй, но я немного о другом: товарищ предлагает использовать репликаторы с ИИ для освоения космоса. А вариант, когда мы сначала теряем связь с... допустим, автоматическим добычным комплексом гелия-3 на Уране, а потом к нам прилетают "берсеркеры" ему, почему-то, в голову не приходит.
Помню, в отрочестве у меня в голове зародился подобный сюжет НФ-рассказа с выходом из под контроля автоматического комплекса. Только он располагался на Луне и мятеж удалось быстро загасить.
Ему в голову и не приходит возможность захвата репликантов террористами. Для него все добрые и пушистые, а Космос лишь арена для получений званий Героя СССР и Героя России.
На самом же деле именно котонии есть место ведения самых кровопролитных войн в истории человечества...
Цитироватьpkl пишет:
Договариваться и сотрудничать, говорите? А если не получится договорится?
У нас многовековой опыт договоров между миллиардами человеческих личностей.
И войн - когда договориться о балансе интересов не удалось.
Но почему Вы решили, что, уж если роботы взбунтуются - то будут сплоченно выступать против человечества единым фронтом? А между группами роботов не могут возникнуть конфликты интересов? Люди не смогут на этом сыграть, заключив союз с одними роботами против других?
Возможно большое количество потенциальных ситуаций, далеко не все они так мрачны, как "единый фронт бескомпромиссной борьбы роботов против человечества".
ЦитироватьЮрий Морозов пишет:
Ему в голову и не приходитвозможность захвата репликантов террористами.
Террористы уже захватывали сибирскую язву - природный саморепликатор, заточенный на уничтожение некоторых видов млекопитающих, в том числе человечества.
И что?
Да ничего апокалиптического не случилось.
Хоть потенциально, при отсутствии противодействия, масштабная эпидемия способна выкосить миллиарды людей.
А на практике - медицина и спецслужбы совместными усилиями нейтрализовали угрозу.
Когда появятся репликанты - появятся и средства противодействия им, хотя бы в виде других репликантов. Как антибиотики против бактерий.
ЦитироватьЮрий Василевский пишет:
ЦитироватьЮрий Морозов пишет:
Ему в голову и не приходитвозможность захвата репликантов террористами.
Террористы уже захватывали сибирскую язву
Вот и встретились два одиночества...
А почему ИИ обязательно должен обладать сознанием в человеческом смысле? Приведу аналогию: птица строит гнездо. Для строительства гнезда решаются конструкторские и логистические задачи в динамически изменяющихся внешних условиях.
ЦитироватьDenis Voronin пишет:
А почему ИИ обязательно должен обладать сознанием в человеческом смысле?
Смотря что считать интеллектом.
Я уже писал, что для проведения многих работ интеллект человеческого уровня избыточен.
Мозг птицы существенно примитивнее человеческого.
Для решения более сложных задач нужен интеллект человеческого, а то и сверхчеловеческого уровня. При этом вероятно возникновение самосознания и целеполагания, хоть возможно они и будет сильно отличаться от человеческих.
О возможностях мозга, на порядки превосходящих по сложности мозг современного человека, нам сейчас сложно судить.
Возможно будет некоторая аналогия с согласованной работой больших человеческих коллективов, например КБ.
Но эта аналогия неполна, ведь конструкторы в КБ остаются отдельными личностями и интеграция их мышления на работе имеет относительно невысокий уровень
ЦитироватьЮрий Василевский пишет:
Для решения более сложных задач нужен интеллект человеческого, а то и сверхчеловеческого уровня.
Какой-нибудь нобелевский лауреат в джунглях склеит ласты в считанные дни, если не часы. При этом куча безмозглой живности вокруг никаких проблем не испытывает. Не нужен ИИ сверхчеловеческого уровня, нужна оптимизация под задачи.
Вы в курсе проблем, которые возникли в Биосфере-2 из-за незапланированного размножения насекомых?
Рассчитать экологический баланс для искусственной биосферы, содержащей множество видов - задача нетривиальная.
Пока даже нет для этого математических моделей.
Но я подозреваю, что когда методы расчёта появятся, для контроля такой биосферы нужен будет нехилый мозг.
Экспансия - это не только астероиды буром сверлить, будут и более сложные работы.
ЦитироватьЮрий Василевский пишет:
Но почему Вы решили, что, уж если роботы взбунтуются - то будут сплоченно выступать против человечества единым фронтом? А между группами роботов не могут возникнуть конфликты интересов? Люди не смогут на этом сыграть, заключив союз с одними роботами против других?
конфликт уже давно есть - виндовс VS мак VS линукс.
и часть человечества союзничает с одними,часть- с другими! и
захват человечества проходит успешно и без принуждения!
пока в виде послушных девайсов в кармане и офисе,скоро и в пути ,далее - везде.
в итоге чистая «матрица» без проблем с перенаселением,здоровьем, марс\поселеньями,лифтами,башнями,церерами (нужное подчеркнуть!) и тп.. :D
ЦитироватьЮрий Василевский пишет:
Вы в курсе проблем, которые возникли в Биосфере-2 из-за незапланированного размножения насекомых?
Нет. А какие были проблемы?
Цитироватьbenderr пишет:
конфликт уже давно есть - виндовс VS мак VS линукс .
и часть человечества союзничает с одними,часть- с другими !
А Андроид? :oops:
ЦитироватьTAU пишет:
Нет. А какие были проблемы?
Баланс уехал и началась жопа:) Замкнутые экосистемы хорошо работают в масштабе планеты или в масштабе стеклянного шара с тремя видами. Впрочем, никаких принципиальных запретов нет, просто надо пилить и пилить. Банальная нудная работа научных коллективов, люди которые в теме говорят что лез за 10-15 можно создать то что нужно для космоса. Ну понятно при условии финансирования, это всё же не дешёвое удовольствие.
ЦитироватьСтарый пишет:
А Андроид? :oops:
А это линукс, хотя и специфичный.
ЦитироватьЮрий Василевский пишет:
Цитироватьpkl пишет:
Договариваться и сотрудничать, говорите? А если не получится договорится?
У нас многовековой опыт договоров между миллиардами человеческих личностей.
И войн - когда договориться о балансе интересов не удалось.
Но почему Вы решили, что, уж если роботы взбунтуются - то будут сплоченно выступать против человечества единым фронтом? А между группами роботов не могут возникнуть конфликты интересов? Люди не смогут на этом сыграть, заключив союз с одними роботами против других?
Юрий, сколько Вам всё-таки лет? Такое ощущение, что Вы детских мультиков пересмотрели.
Конфликт между ИИ и человечеством весьма вероятен уже хотя бы потому, что у них интересы разные. Причём они различаются на фундаментальном уровне.
ЦитироватьDenis Voronin пишет:
А почему ИИ обязательно должен обладать сознанием в человеческом смысле? Приведу аналогию: птица строит гнездо. Для строительства гнезда решаются конструкторские и логистические задачи в динамически изменяющихся внешних условиях.
"Слабый" ИИ для решения специфических задач? Это уже другой вопрос. Собственно, такой есть уже сейчас. Но я говорю о куда более серьёзном субъекте.
Цитироватьpkl пишет:
ЦитироватьDenis Voronin пишет:
А почему ИИ обязательно должен обладать сознанием в человеческом смысле? Приведу аналогию: птица строит гнездо. Для строительства гнезда решаются конструкторские и логистические задачи в динамически изменяющихся внешних условиях.
"Слабый" ИИ для решения специфических задач? Это уже другой вопрос. Собственно, такой есть уже сейчас. Но я говорю о куда более серьёзном субъекте.
Те, кто учился по этой или смежной тематике, знают, что ИИ как научная дисциплина давно (с 1970-80-х гг.) распался на несколько прикладных, типа экспертных систем, машинного перевода, распознавания речи/образов и т.п. Отрезвление от первоначальных надежд очень быстро пришло. Как пример наивного добросовестного заблуждения, всегда вспоминается цитата из тьюринговской "Может ли машина мыслить?":
"Для меня было бы неожиданностью, если бы оказалось, что для игры в имитацию на удовлетворительном уровне требуется ёмкость памяти, превышающая 10^9... Вероятно, нет необходимости вообще далее увеличивать скорость машинных операций." (Писалось в 1950 г.)
ЦитироватьDenis Voronin пишет:
Замкнутые экосистемы хорошо работают в масштабе планеты или в масштабе стеклянного шара с тремя видами
Хорошо - понятие относительное. Они просто работают. Баланс уехал - вымерли динозавры. Ну вымерли бы первобытные люди по какой-либо причине - никто плакать бы не стал. Система развивалась несколько по-другому и все.
Цитироватьpkl пишет:
"Слабый" ИИ для решения специфических задач? Это уже другой вопрос. Собственно, такой есть уже сейчас. Но я говорю о куда более серьёзном субъекте.
Разум, с самосознанием, круче человеческого?
Для создания подобного нужно решить кучу технических, принципиальных, да и философских тоже вопросов. На данный момент нет чёткого понимания принципов работы мозга человека. Т.е. что-то понятно, но как вот из этих нервных импульсов получается сознание?
Тут ещё вопрос в том что создать ИИ с мышлением сходным с человеческим вероятнее всего просто невозможно. Ну или надо приделывать к нему рот, жопу, письку, а также всю прочую периферию, которая влияет на формирование нас как личностей.
Вопрос эволюции. Мы сформировались как результат биологической эволюции, потом была долгая социальная революция, если угодно, то конкуренция между идеями и точками зрения. Ну и мотивация к размножению как собственно генов, так и идей. Это всё тоже часть разума, но как это закладывать в ИИ? Кстати он у нас будет либерастом или поцреотом?;)
ЦитироватьШтуцер пишет:
Хорошо - понятие относительное. Они просто работают. Баланс уехал - вымерли динозавры. Ну вымерли бы первобытные люди по какой-либо причине - никто плакать бы не стал. Система развивалась несколько по-другому и все.
Тащемта они и вымирали. Вариантов толковых человекообразных было много, но выстрелил только один.
Цитироватьnsn пишет:
Те, кто учился по этой или смежной тематике, знают, что ИИ как научная дисциплина давно (с 1970-80-х гг.) распался на несколько прикладных, типа экспертных систем, машинного перевода, распознавания речи/образов и т.п. Отрезвление от первоначальных надежд очень быстро пришло. Как пример наивного добросовестного заблуждения, всегда вспоминается цитата из тьюринговской "Может ли машина мыслить?": "Для меня было бы неожиданностью, если бы оказалось, что для игры в имитацию на удовлетворительном уровне требуется ёмкость памяти, превышающая 10^9... Вероятно, нет необходимости вообще далее увеличивать скорость машинных операций." (Писалось в 1950 г.)
Конечно, специализированные ИИ /т.н. слабый ИИ/ не так опасны. Правда, он вряд ли сможет долго функционировать автономно. Нужен оператор или рядом, или хоть на Земле. И, конечно, у такого ИИ будут заметные ограничения. Т.е. сделать алгоритм для марсохода, чтобы катался по планете и искал и собирал образцы, заметно отличающиеся по хим. составу от окружающей среды можно. А вот управлять репликатором... тут нужна система посерьёзнее.
ЦитироватьDenis Voronin пишет:
Разум, с самосознанием, круче человеческого?
Для создания подобного нужно решить кучу технических, принципиальных, да и философских тоже вопросов. На данный момент нет чёткого понимания принципов работы мозга человека. Т.е. что-то понятно, но как вот из этих нервных импульсов получается сознание?
Тут ещё вопрос в том что создать ИИ с мышлением сходным с человеческим вероятнее всего просто невозможно. Ну или надо приделывать к нему рот, жопу, письку, а также всю прочую периферию, которая влияет на формирование нас как личностей.
Вопрос эволюции. Мы сформировались как результат биологической эволюции, потом была долгая социальная революция, если угодно, то конкуренция между идеями и точками зрения. Ну и мотивация к размножению как собственно генов, так и идей. Это всё тоже часть разума, но как это закладывать в ИИ? Кстати он у нас будет либерастом или поцреотом?[IMG]
Это говорит только о том, что искусственный интеллект будет ОЧЕНЬ СИЛЬНО отличаться от нашего. И всякие фантазии насчёт роботов, мечтающих стать человеком /см. "Приключения Электроника" и A.I./ или ИИ, влюблённого в девушку-киборга /GitS/ так и останутся фантастикой. Да и восприятие мира у них получается совсем другим:
https://geektimes.ru/post/288961/
См. картинки.
ЦитироватьЮрий Василевский пишет:
Смотря что считать интеллектом.
Я уже писал, что для проведения многих работ интеллект человеческого уровня избыточен.
Мозг птицы существенно примитивнее человеческого.
Для решения более сложных задач нужен интеллект человеческого, а то и сверхчеловеческого уровня. При этом вероятно возникновение самосознания и целеполагания, хоть возможно они и будет сильно отличаться от человеческих.
О возможностях мозга, на порядки превосходящих по сложности мозг современного человека, нам сейчас сложно судить.
Ну так Вы уже определитесь, какой вариант ИИ Вы хотите. Если говорить о "сильном", то я уже говорил, что в космос его лучше не отправлять. Если о "слабом", то он уже есть.
Цитироватьpkl пишет:
Это говорит только о том, что искусственный интеллект будет ОЧЕНЬ СИЛЬНО отличаться от нашего.
Есть ещё вопрос можно ли в принципе создать такого рода разум. Вот есть человеческий разум, он формируется в определённых условиях. Есть Маугли, у которых в отличие от художественного произведения с разумом проблемы. Создать сопоставимое по мощности железо можно, это вопрос технической реализации, но к нему нужен ещё и софт, а как его создавать лично я не представляю.
А можно ли вообще на текущем уровне реализации "железа" простым масштабированием решить задачу? Есть мнение что нельзя. Можно построить очень умного таракана, но едва ли самоосознание.
Цитироватьpkl пишет:
Пожалуй, но я немного о другом: товарищ предлагает использовать репликаторы с ИИ для освоения космоса. А вариант, когда мы сначала теряем связь с... допустим, автоматическим добычным комплексом гелия-3 на Уране, а потом к нам прилетают "берсеркеры" ему, почему-то, в голову не приходит.
Помню, в отрочестве у меня в голове зародился подобный сюжет НФ-рассказа с выходом из под контроля автоматического комплекса. Только он располагался на Луне и мятеж удалось быстро загасить.
Самый прикол, что может их уже запустили. Какие-нибудь наши предшественники. И они сейчас возвращаются до ридных хат после рейда в систему Проксимы Центавра...
А что есть самосознание - рассуждающие знают? Про интеллект вроде бы не особо спорят.."Самопознание" :) , как ни верти, возможно и без того, что мы понимаем под разумом - вложите в некий суперкомп всю полноту знаний, и он себя "поатомно" "знать" будет и справку выдаст на любой вопрос о своём устройстве и текущих процессах, ..и в свою память запишет...даже квантовые ограничения приведёт к месту..только вот рассуждать о своём месте в мире не станет..Вот если не ограничивать его возможности поиска информации и взаимодействия с окружением - ну, кто знает..на это фантасты и надеются..
Самоосознание это:
Тварь я дрожащая или право имею?
ну или
Ооо!.. Етить твою мать, профессор! Иди сюда, выпей с нами!
Я на шестнадцати аршинах, здесь сижу и буду сидеть. ...
Я без пропитания оставаться не могу, где же я буду харчеваться?
Самоосознание это в некотором смысле рождение эго/личных интересов.
ЦитироватьАнтикосмит пишет:
Самый прикол, что может их уже запустили. Какие-нибудь наши предшественники. И они сейчас возвращаются до ридных хат после рейда в систему Проксимы Центавра...
Это какие такие предшественники? Если речь про гипотетических разумных динозавров, то с этим проблема: судя по всем имеющимся находкам, а также по всем ныне живущим видам, битва за интеллект на планете началась только с расцветом млекопитающих, а до этого живность была исключительно тупая.
Ну народ, смотрите: один раз разум появился. У обычных, в принципе, обезьян. Так почему бы ему не возникнуть ещё раз? Конечно, требования к "железу" сиречь вместилищу этого разума очень жёсткие и вряд ли он сможет скакать по интернету с сервера на сервер, но ничего невозможного я тут не вижу. Другое дело, что это будет явно нечеловеческий разум.
ЦитироватьDenis Voronin пишет:
ЦитироватьАнтикосмит пишет:
Самый прикол, что может их уже запустили. Какие-нибудь наши предшественники. И они сейчас возвращаются до ридных хат после рейда в систему Проксимы Центавра...
Это какие такие предшественники? Если речь про гипотетических разумных динозавров, то с этим проблема: судя по всем имеющимся находкам, а также по всем ныне живущим видам, битва за интеллект на планете началась только с расцветом млекопитающих, а до этого живность была исключительно тупая.
А вдруг это были разумные моллюски? Головоногие. Они-то перегнивают почти полностью кроме клюва и когтей. Так что объем мозга не измеришь. А околоземную орбиту подчистили уже саморепликанты - не пропадать же добру! :D
От индустриальной цивилизации в любом случае должны оставаться какие-то следы: радиоактивные отходы, карьеры от месторождений и т.п. Так что их не было. НННШ.
ЦитироватьDenis Voronin пишет:
Цитироватьpkl пишет:
Это говорит только о том, что искусственный интеллект будет ОЧЕНЬ СИЛЬНО отличаться от нашего.
Есть ещё вопрос можно ли в принципе создать такого рода разум. Вот есть человеческий разум, он формируется в определённых условиях. Есть Маугли, у которых в отличие от художественного произведения с разумом проблемы. Создать сопоставимое по мощности железо можно, это вопрос технической реализации, но к нему нужен ещё и софт, а как его создавать лично я не представляю.
Софт сам напишется.
Нейронные сети имеют способность к самообучению.
Главное - подбрасывать им для этого достаточно сложные и разнообразные задачи.
У маугли потому с интеллектом и проблемы, что они сформировались в условиях информационного голода. Могли манипулировать всякими камушками-веточками, и это все. Языку их не учили, сказок не рассказывали, арифметику не объясняли.
Цитироватьpkl пишет:
Ну народ, смотрите: один раз разум появился. У обычных, в принципе, обезьян. Так почему бы ему не возникнуть ещё раз? Конечно, требования к "железу" сиречь вместилищу этого разума очень жёсткие и вряд ли он сможет скакать по интернету с сервера на сервер, но ничего невозможного я тут не вижу. Другое дело, что это будет явно нечеловеческий разум.
И даже не один раз.
Даже если не брать вымерших гоминидов (довольно башковитых), судя по работам биологов, шимпанзе и гориллы обладают самосознанием.
Так что вполне себе сильный интеллект. Пусть и на уровне 2-3 летнего человеческого ребёнка по способности решать логические задачи.
Цитироватьpkl пишет:
ЦитироватьЮрий Василевский пишет:
Цитироватьpkl пишет:
Договариваться и сотрудничать, говорите? А если не получится договорится?
У нас многовековой опыт договоров между миллиардами человеческих личностей.
И войн - когда договориться о балансе интересов не удалось.
Но почему Вы решили, что, уж если роботы взбунтуются - то будут сплоченно выступать против человечества единым фронтом? А между группами роботов не могут возникнуть конфликты интересов? Люди не смогут на этом сыграть, заключив союз с одними роботами против других?
Юрий, сколько Вам всё-таки лет? Такое ощущение, что Вы детских мультиков пересмотрели.
Конфликт между ИИ и человечеством весьма вероятен уже хотя бы потому, что у них интересы разные. Причём они различаются на фундаментальном уровне.
На фундаментальном уровне - как раз совпадают.
Системы стремятся к самосохранению.
Это демонстрирует даже такая относительно простая система, как колба с химической реакцией. Принцип Ле Шателье, слыхали?
Цитироватьpkl пишет:
От индустриальной цивилизации в любом случае должны оставаться какие-то следы: радиоактивные отходы, карьеры от месторождений и т.п. Так что их не было. НННШ.
Вот тут товарищ утверждает, что практически весь земной ландшафт имеет техногенную природу.
С фоточками. )
http://wakeuphuman.livejournal.com/
ЦитироватьЮрий Василевский пишет:
Пусть и на уровне 2-3 летнего человеческого ребёнка по способности решать логические задачи.
2-3-летний человеческий ребёнок логические задачи решать неспособен, по причине отсутствия абстрактного мышления, которое складывается много позже.
Хотел бы напомнить один факт: так называемое создание искусственного интеллекта заключается в переносе внутрь компьютера мыслей и идей программиста. А все успехи на этом пути состоят в разработке более прогрессивных методов этого переноса.
Поэтому не могу всерьез воспринимать разговоры о спонтанном бунте ИИ. Что запрограммирует создатель, то и будет. Запрограммирует бунт - будет бунт, нет - значит, нет.
Если возникнут эксцессы из-за ошибок или непредусмотренных факторов, то, опять же, в этом не больше бунта, чем во взрыве мины при неосторожном обращении.
Это не разум мины взбунтовался, а человеческий разум недоработал при воплощении идеи.
Для решения простых логических задач достаточно наглядно-образного мышления, а оно формируется у детей с 1,5 лет.
И именно такое мышление - потолок возможностей для обезьян.
Цитироватьaaaa пишет:
Хотел бы напомнить один факт: так называемое создание искусственного интеллекта заключается в переносе внутрь компьютера мыслей и идей программиста. А все успехи на этом пути состоят в разработке более прогрессивных методов этого переноса.
Поэтому не могу всерьез воспринимать разговоры о спонтанном бунте ИИ. Что запрограммирует создатель, то и будет. Запрограммирует бунт - будет бунт, нет - значит, нет.
Ну, это тоже весьма наивное представление о программисте как о незатейливом механистическом боге. Один из подходов состоит в создании среды, в которой под воздействием внешних факторов формируются свои, заранее непредсказуемые, структуры и связи (имитация нейронных сетей и т.п.) Их, как правило, с помощью всяких граничных условий и обратных связей пытаются заставить решать какие-то практические задачи, типа того же распознавания, но ничто не мешает пустить процесс совсем на самотёк. Без каких-либо гарантий, что из этого получится нечто определённое.
Цитироватьnsn пишет:
Один из подходов состоит в создании среды, в которой под воздействием внешних факторов формируются свои, заранее непредсказуемые, структуры и связи (имитация нейронных сетей и т.п.) Их, как правило, с помощью всяких граничных условий и обратных связей пытаются заставить решать какие-то практические задачи, типа того же распознавания, но ничто не мешает пустить процесс совсем на самотёк. Без каких-либо гарантий, что из этого получится нечто определённое.
"На самотек" -это включить компьютер без софта и посмотреть, что получится. Результат, впрочем, немного предсказуем. А во всех этих нейронных сетях реализуется воля их создателя - не в софте, так в харде.
ЦитироватьЮрий Василевский пишет:
Софт сам напишется.
Нейронные сети имеют способность к самообучению.
Способны. Но для постройки лунной базу нужна птичка, а не мыслитель зачитывающийся Шекспиром.
Цитироватьpkl пишет:
Ну народ, смотрите: один раз разум появился. У обычных, в принципе, обезьян. Так почему бы ему не возникнуть ещё раз? Конечно, требования к "железу" сиречь вместилищу этого разума очень жёсткие и вряд ли он сможет скакать по интернету с сервера на сервер, но ничего невозможного я тут не вижу. Другое дело, что это будет явно нечеловеческий разум.
У большой толпы обезьян и, тащемта ситуация сохраняется до сих пор, много видов имеет все задатки. Однако условия оказались таковы, что выстрелил только один вид (ну или группа видов, там чёрт ногу сломит в нашей родословной).
ЦитироватьАнтикосмит пишет:
А вдруг это были разумные моллюски? Головоногие. Они-то перегнивают почти полностью кроме клюва и когтей. Так что объем мозга не измеришь. А околоземную орбиту подчистили уже саморепликанты - не пропадать же добру! :D
Теоретически косатки обладают разумом. Опять же теоретически у них есть даже язык. Сидят на вершине пищевой пирамиды. Распространены чуть-ли не везде. Навороченная социальная структура. Правда чот у них не вышло ничего смастерить...
Что любопытно: взаимодействие с людьми налажено хорошо, несмотря на то что виды развивались в разных средах.
Цитироватьaaaa пишет:
А во всех этих нейронных сетях реализуется воля их создателя
Что подразумевается под "волей создателя"?
ЦитироватьЮрий Василевский пишет:
Цитироватьpkl пишет:
Конфликт между ИИ и человечеством весьма вероятен уже хотя бы потому, что у них интересы разные. Причём они различаются на фундаментальном уровне.
На фундаментальном уровне - как раз совпадают.
Системы стремятся к самосохранению.
Это демонстрирует даже такая относительно простая система, как колба с химической реакцией. Принцип Ле Шателье, слыхали?
Где они совпадают? У нашего и машинного интеллекта принципиально разные материальные основы.
Цитироватьaaaa пишет:
Цитироватьpkl пишет:
От индустриальной цивилизации в любом случае должны оставаться какие-то следы: радиоактивные отходы, карьеры от месторождений и т.п. Так что их не было. НННШ.
Вот тут товарищ утверждает, что практически весь земной ландшафт имеет техногенную природу.
С фоточками. )
http://wakeuphuman.livejournal.com/
Тут могу лишь процитировать:
Цитировать1. Что курит автор?
2. Может ли он отсыпать?
Каким образом формировался земной ландшафт, написано в книжках по геологии и палеонтологии. Избыточные сущности в виде забытых цивилизаций не нужны.
Цитироватьaaaa пишет:
Хотел бы напомнить один факт: так называемое создание искусственного интеллекта заключается в переносе внутрь компьютера мыслей и идей программиста. А все успехи на этом пути состоят в разработке более прогрессивных методов этого переноса.
Поэтому не могу всерьез воспринимать разговоры о спонтанном бунте ИИ. Что запрограммирует создатель, то и будет. Запрограммирует бунт - будет бунт, нет - значит, нет.
Если возникнут эксцессы из-за ошибок или непредусмотренных факторов, то, опять же, в этом не больше бунта, чем во взрыве мины при неосторожном обращении.
Это не разум мины взбунтовался, а человеческий разум недоработал при воплощении идеи.
Ничего подобного. Вы путаете, ИИ бывают разные. ИИ на базе нейронных сетей самостоятельно обучаются, имеют свой опыт и, в конечном счёте, могут обрести свои желания и свою волю:
https://www.youtube.com/watch?v=frw8Rkb9Pio (https://www.youtube.com/watch?v=frw8Rkb9Pio)
https://www.youtube.com/watch?v=frw8Rkb9Pio
ЦитироватьDenis Voronin пишет:
У большой толпы обезьян и, тащемта ситуация сохраняется до сих пор, много видов имеет все задатки. Однако условия оказались таковы, что выстрелил только один вид (ну или группа видов, там чёрт ногу сломит в нашей родословной).
Ну так эволюция нашего рода ещё не завершилась. Мы ведь даже и не первые, кто обрели разум на этой планете. Почему ты решил, что последние? Если представить исчезновение нашего вида, то у других видов обезьян появляется шанс. Перспективны, например, капуцины в Ю. Америке, орангутаны в Азии. Если мы их не истребим, конечно.
Эволюция вообще не может завершиться;)
Цитироватьpkl пишет:
Ничего подобного. Вы путаете, ИИ бывают разные. ИИ на базе нейронных сетей самостоятельно обучаются, имеют свой опыт и, в конечном счёте, могут обрести свои желания и свою волю:
Да нет же.
В компьютерах нет ничего, кроме фильтров из разума и воли программистов, через которые просеивается информация.
ЦитироватьDenis Voronin пишет:
Эволюция вообще не может завершиться ;)
А я слышал, это революция не может. Вроде как нет у неё конца. :D
Компьютер ведь можно сделать не только на базе электронных компонентов, например, на пневматике, или механике, как арифмометр "Феликс".
Сделайте нейронную сеть из шестеренок и посмотрите на нее внимательно: готовы ли вы признать в ней разум и сказать, что этот набор однотипных железок обладает собственной волей?
Цитироватьnsn пишет:
Как пример наивного добросовестного заблуждения, всегда вспоминается цитата из тьюринговской "Может ли машина мыслить?": "Для меня было бы неожиданностью, если бы оказалось, что для игры в имитацию на удовлетворительном уровне требуется ёмкость памяти, превышающая 10^9... Вероятно, нет необходимости вообще далее увеличивать скорость машинных операций." (Писалось в 1950 г.)
10^9 - это гигабайт? Но ведь именно на таком уровне машины начали выигрывать у умеющего играть человека...
Цитироватьpkl пишет:
Конечно, специализированные ИИ /т.н. слабый ИИ/ не так опасны. Правда, он вряд ли сможет долго функционировать автономно. Нужен оператор или рядом, или хоть на Земле.
С оператором проблем нет. Впрочем, зерграш тоже никто не отменяет.
ЦитироватьDenis Voronin пишет:
Это какие такие предшественники? Если речь про гипотетических разумных динозавров, то с этим проблема: судя по всем имеющимся находкам, а также по всем ныне живущим видам, битва за интеллект на планете началась только с расцветом млекопитающих, а до этого живность была исключительно тупая.
Есть версии, что вымирание динозавров устроил некий суперхищник, сожравший всё кроме мышей и тараканов. Которые были слишком мелкими и малочисленными, чтобы их можно было собрать в достаточном количестве.
ЦитироватьDenis Voronin пишет:
Вот есть человеческий разум, он формируется в определённых условиях. Есть Маугли, у которых в отличие от художественного произведения с разумом проблемы.
У них не совсем с разумом проблемы. Просто незадействованные части мозга переориентируются на другие задачи. Т.е. они не могут общаться но взамен могут другое, чего не может человек.
ЦитироватьDenis Voronin пишет:
Теоретически косатки обладают разумом. Опять же теоретически у них есть даже язык. Сидят на вершине пищевой пирамиды. Распространены чуть-ли не везде. Навороченная социальная структура. Правда чот у них не вышло ничего смастерить...
А не из чего. Да и даже если смастерил - куда положить?
ЦитироватьДем пишет:
Есть версии, что вымирание динозавров устроил некий суперхищник, сожравший всё кроме мышей и тараканов. Которые были слишком мелкими и малочисленными, чтобы их можно было собрать в достаточном количестве.
Это укуренная версия. Вымирание было растянуто на
миллионы лет.
Цитироватьaaaa пишет:
1. Хотел бы напомнить один факт: так называемое создание искусственного интеллекта заключается в переносе внутрь компьютера мыслей и идей программиста.
Цитировать2. Что запрограммирует создатель, то и будет. Запрограммирует бунт - будет бунт, нет - значит, нет.
Вы не правы.
1. Вполне себе могут создаваться обучающиеся машины. Программист закладывает в машину механизм приобретения новых знаний. В том числе - которыми он сам не обладает. После чего машина вполне может удивить разработчика. И превзойти его в ряде умений.
2. Сейчас уже полно программ (пример - компьютерные игры) с недетерминированным поведением. Монстры бегают не одинаково. В этот раз - так, в другой - этак. Есть так называемый "датчик случайных чисел".
:) :) :)
Монстры запрограммированы бегать неодинаково.
ЦитироватьDenis Voronin пишет:
ЦитироватьАнтикосмит пишет:
А вдруг это были разумные моллюски? Головоногие. Они-то перегнивают почти полностью кроме клюва и когтей. Так что объем мозга не измеришь. А околоземную орбиту подчистили уже саморепликанты - не пропадать же добру! :D
Теоретически косатки обладают разумом. Опять же теоретически у них есть даже язык. Сидят на вершине пищевой пирамиды. Распространены чуть-ли не везде. Навороченная социальная структура. Правда чот у них не вышло ничего смастерить...
Что любопытно: взаимодействие с людьми налажено хорошо, несмотря на то что виды развивались в разных средах.
А может когда-то они достигли высот в биотехнологиях и смастерили абизяну, чтоб, дескать, обслуживать свои интересы пока они будут рассекать по просторам океана. Ну а там какой-то катаклизм. упадок и расплодившиеся абизяны
Цитироватьaaaa пишет:
В компьютерах нет ничего, кроме фильтров из разума и воли программистов, через которые просеивается информация.
Это замечание уместно только в отношении компьютеров с жёсткими алгоритмами. На формирование нейросетей куда большее влияние оказывает окружающая среда.
ЦитироватьDenis Voronin пишет:
Эволюция вообще не может завершиться ;)
Речь была об эволюции рода Homo. Она может завершиться только с его вымиранием. Пока, конечно, об этом речи не идёт.
Цитироватьaaaa пишет:
Компьютер ведь можно сделать не только на базе электронных компонентов, например, на пневматике, или механике, как арифмометр "Феликс".
Сделайте нейронную сеть из шестеренок и посмотрите на нее внимательно: готовы ли вы признать в ней разум и сказать, что этот набор однотипных железок обладает собственной волей?
Разум из шестерёнок невозможен. А вот, допустим на органических молекулах или оптикоэлектронный, подобно недавно показанному суперкомпьютеру... тут есть повод призадуматься.
ЦитироватьДем пишет:ЦитироватьDenis Voronin пишет:
Это какие такие предшественники? Если речь про гипотетических разумных динозавров, то с этим проблема: судя по всем имеющимся находкам, а также по всем ныне живущим видам, битва за интеллект на планете началась только с расцветом млекопитающих, а до этого живность была исключительно тупая.
Есть версии, что вымирание динозавров устроил некий суперхищник, сожравший всё кроме мышей и тараканов. Которые были слишком мелкими и малочисленными, чтобы их можно было собрать в достаточном количестве.
??? Это чего такое? Можно ознакомиться в деталях?
ЦитироватьАнтикосмит пишет:
А может когда-то они достигли высот в биотехнологиях и смастерили абизяну, чтоб, дескать, обслуживать свои интересы пока они будут рассекать по просторам океана. Ну а там какой-то катаклизм. упадок и расплодившиеся абизяны
Давайте уж без этого. Тут и так есть кому откровенный бред постить.
Привет всем. Попробую реанимировать тему.
ИИ в узко техническом смысле - это не игра в шахматы, нейронные сети и разговорчики на естественном языке, а применение продукционных языков (типа Пролога) и экспертных систем для разработки логики программы. Т.е. вместо последовательно выполняемых условных блоков ЕСЛИ-ТО-ИНАЧЕ пишутся параллельно выполняемые правила ЕСЛИ-ТО. Вроде бы то же самое, но на самом деле разница есть! Мы отказываемся от необходимости контролировать последовательность выполнения блоков программы, за счет этого сокращается число ошибок при программировании. Проходила информация, что этот подход использовали в зонде Dawn для отработки автоматикой различных нештатных ситуаций, которые невозможно предусмотреть в программе с жестко заданной логикой.
В качестве примера возможного использования ИИ приведу эвристическое правило, которое могло спасти жизни экипажа и пассажиров Ан-148:
Если
- приборная скорость по датчику ППД1 значительно отличается от приборной скорости по датчику ППД2
- приборная скорость по резервному ППД значительно отличается от приборной скорости по датчику ППД1
- приборная скорость по резервному ППД значительно отличается от приборной скорости по датчику ППД2
то
принять в качестве скорости ЛА путевую скорость (GS - ground speed)
(упрощено, есть более проработанные варианты действий, которые описываются в FCOM).
В практически значимых случаях набор правил ИИ будет большим и они будут сложным образом взаимодействовать друг с другом. Поэтому поведение ИИ в различных ситуациях не будет жестко заданным, что мы собственно мы от него и ожидаем - но важно, чтобы оно было адекватным. Поэтому перед применением на борту ИИ должен пройти автоматизированное тестирование с имитацией мыслимых и немыслимых нештатных ситуаций.
Т.е. взаимоотношения человечества и прикладного ИИ налаживаются следующим образом:
1) Нужен ли нам ИИ? Если задача по управлению объектом сводится к написанию программы с минимальным числом условий - то нет, а если условий много - то да.
2) Создаем ИИ в виде базы экспертных правил ЕСЛИ-ТО.
3) Загружаем базу правил в компьютер и проводим имитационное моделирование в "песочнице". Правим базу, добиваясь от ИИ адекватной работы.
Как-то так. Философию тоже можно развести (и это даже в какой-то степени интересно) - но в конечном счете все опасения насчет взаимоотношений сводятся к вопросу о качестве разработки и тщательности тестирования.
Я за истекший период прочитал книгу Пелевина "iPhuck 10".
Книга написана от лица "типичного российского ИИ второй половины XXI-го века", литературно-полицейского алгоритма. Прямо в первой главе он сам раскрывает свою суть.
Настоятельно рекомендую к прочтению. Это еще и просто интересно.
ЦитироватьВ традиционной терминологии искусственный интеллект (ИИ) — это просто алгоритм, код или техника, позволяющая машинам имитировать, развивать и демонстрировать человеческое понимание или поведение.
Пущай полежит.
Цитата: Iv-v от 23.08.2022 08:46:50Цитата: undefinedВ традиционной терминологии искусственный интеллект (ИИ) — это просто алгоритм, код или техника, позволяющая машинам имитировать, развивать и демонстрировать человеческое понимание или поведение.
Пущай полежит.
"Имитировать" - ключевое слово.
Есть мнение - что никакого интеллекта в голове человека тоже нет - а есть имитиция.
Отдельные части мозга принимают те или иные решения основываясь на нейронных алгоритмах - а потом в память человека закладывается "воспоминания" - как он думал и почему он принял то или иное решение.
Проводились опыты - получалось что человек совершал действие прежде чем у него
появлялось обьяснение - почему он то или иное действие совершает.
Опыты на людях с разделенными полушариями мозга. Психология. Люди, концепции, эксперименты (wikireading.ru) (https://psy.wikireading.ru/13607)
Цитата: Iv-v от 23.08.2022 08:46:50В традиционной терминологии искусственный интеллект (ИИ) -- это просто алгоритм, код или техника, позволяющая машинам имитировать, развивать и демонстрировать человеческое понимание или поведение.
ключевое слово — искусственный, то есть не прошедший миллионолетнюю эволюцию, а созданный за короткое время из подручных материалов для вынужденной замены "настоящего" природного интеллекта, который сам не может быть приспособлен к решению некоторых насущных задач в силу различных причин
вместо натуральной кожи часто используется кожзаменитель и он неплохо справляется с поставленными перед ним задачами, дёшево и сердито 8)
Соевое мясо, овсяное молоко, безалкогольное пиво, резиновые женщины, "искусственный интеллект".
Цитата: Dulevo от 23.08.2022 13:11:02Есть мнение - что никакого интеллекта в голове человека тоже нет - а есть имитиция.
Отдельные части мозга принимают те или иные решения основываясь на нейронных алгоритмах - а потом в память человека закладывается "воспоминания" - как он думал и почему он принял то или иное решение.
Проводились опыты - получалось что человек совершал действие прежде чем у него
появлялось обьяснение - почему он то или иное действие совершает.
Опыты на людях с разделенными полушариями мозга. Психология. Люди, концепции, эксперименты (wikireading.ru) (https://psy.wikireading.ru/13607)
Нудыть, сначала сделать, а потом подумать, это вообще по нашенски. Тоже мне - открытие. Видимо ИИ никогда не обгонит человеческий именно потому, что он сначала думает...
;D