Взаимоотношения человечества и искусственного интеллекта

Автор pkl, 31.05.2017 18:46:28

« назад - далее »

0 Пользователи и 1 гость просматривают эту тему.

nsn

Цитироватьaaaa пишет:
Хотел бы напомнить один факт: так называемое создание искусственного интеллекта заключается в переносе внутрь компьютера мыслей и идей программиста. А все успехи на этом пути состоят в разработке более прогрессивных методов этого переноса.
Поэтому не могу всерьез воспринимать разговоры о спонтанном бунте ИИ. Что запрограммирует создатель, то и будет. Запрограммирует бунт - будет бунт, нет - значит, нет.
Ну, это тоже весьма наивное представление о программисте как о незатейливом механистическом боге. Один из подходов состоит в создании среды, в которой под воздействием внешних факторов формируются свои, заранее непредсказуемые, структуры и связи (имитация нейронных сетей и т.п.) Их, как правило, с помощью всяких граничных условий и обратных связей пытаются заставить решать какие-то практические задачи, типа того же распознавания, но ничто не мешает пустить процесс совсем на самотёк. Без каких-либо гарантий, что из этого получится нечто определённое.

aaaa

Цитироватьnsn пишет:
 Один из подходов состоит в создании среды, в которой под воздействием внешних факторов формируются свои, заранее непредсказуемые, структуры и связи (имитация нейронных сетей и т.п.) Их, как правило, с помощью всяких граничных условий и обратных связей пытаются заставить решать какие-то практические задачи, типа того же распознавания, но ничто не мешает пустить процесс совсем на самотёк. Без каких-либо гарантий, что из этого получится нечто определённое.
"На самотек" -это включить компьютер без софта и посмотреть, что получится. Результат, впрочем, немного предсказуем. А во всех этих нейронных сетях реализуется воля их создателя - не в софте, так в харде.

Denis Voronin

ЦитироватьЮрий Василевский пишет:
Софт сам напишется.
Нейронные сети имеют способность к самообучению.
Способны. Но для постройки лунной базу нужна птичка, а не мыслитель зачитывающийся Шекспиром.
Кривыми должны быть извилины, а не руки.

Denis Voronin

Цитироватьpkl пишет:
Ну народ, смотрите: один раз разум появился. У обычных, в принципе, обезьян. Так почему бы ему не возникнуть ещё раз? Конечно, требования к "железу" сиречь вместилищу этого разума очень жёсткие и вряд ли он сможет скакать по интернету с сервера на сервер, но ничего невозможного я тут не вижу. Другое дело, что это будет явно нечеловеческий разум.
У большой толпы обезьян и, тащемта ситуация сохраняется до сих пор, много видов имеет все задатки. Однако условия оказались таковы, что выстрелил только один вид (ну или группа видов, там чёрт ногу сломит в нашей родословной).
ЦитироватьАнтикосмит пишет:
А вдруг это были разумные моллюски? Головоногие. Они-то перегнивают почти полностью кроме клюва и когтей. Так что объем мозга не измеришь. А околоземную орбиту подчистили уже саморепликанты - не пропадать же добру!  :D  
Теоретически косатки обладают разумом. Опять же теоретически у них есть даже язык. Сидят на вершине пищевой пирамиды. Распространены чуть-ли не везде. Навороченная социальная структура. Правда чот у них не вышло ничего смастерить...

Что любопытно: взаимодействие с людьми налажено хорошо, несмотря на то что виды развивались в разных средах.
Кривыми должны быть извилины, а не руки.

nsn

Цитироватьaaaa пишет:
А во всех этих нейронных сетях реализуется воля их создателя
Что подразумевается под "волей создателя"?

pkl

ЦитироватьЮрий Василевский пишет:
Цитироватьpkl пишет:
Конфликт между ИИ и человечеством весьма вероятен уже хотя бы потому, что у них интересы разные. Причём они различаются на фундаментальном уровне.
На фундаментальном уровне - как раз совпадают.
Системы стремятся к самосохранению.
Это демонстрирует даже такая относительно простая система, как колба с химической реакцией. Принцип Ле Шателье, слыхали?
Где они совпадают? У нашего и машинного интеллекта принципиально разные материальные основы.
Вообще, исследовать солнечную систему автоматами - это примерно то же самое, что посылать робота вместо себя в фитнес, качаться.Зомби. Просто Зомби (с)
Многоразовость - это бяка (с) Дмитрий Инфан

pkl

Цитироватьaaaa пишет:
Цитироватьpkl пишет:

От индустриальной цивилизации в любом случае должны оставаться какие-то следы: радиоактивные отходы, карьеры от месторождений и т.п. Так что их не было. НННШ.
Вот тут товарищ утверждает, что практически весь земной ландшафт имеет техногенную природу.
С фоточками. )
 http://wakeuphuman.livejournal.com/
Тут могу лишь процитировать:
Цитировать1. Что курит автор?
2. Может ли он отсыпать?
Каким образом формировался земной ландшафт, написано в книжках по геологии и палеонтологии. Избыточные сущности в виде забытых цивилизаций не нужны.
Вообще, исследовать солнечную систему автоматами - это примерно то же самое, что посылать робота вместо себя в фитнес, качаться.Зомби. Просто Зомби (с)
Многоразовость - это бяка (с) Дмитрий Инфан

pkl

Цитироватьaaaa пишет:
Хотел бы напомнить один факт: так называемое создание искусственного интеллекта заключается в переносе внутрь компьютера мыслей и идей программиста. А все успехи на этом пути состоят в разработке более прогрессивных методов этого переноса.
Поэтому не могу всерьез воспринимать разговоры о спонтанном бунте ИИ. Что запрограммирует создатель, то и будет. Запрограммирует бунт - будет бунт, нет - значит, нет.
Если возникнут эксцессы из-за ошибок или непредусмотренных факторов, то, опять же, в этом не больше бунта, чем во взрыве мины при неосторожном обращении.
Это не разум мины взбунтовался, а человеческий разум недоработал при воплощении идеи.
Ничего подобного. Вы путаете, ИИ бывают разные. ИИ на базе нейронных сетей самостоятельно обучаются, имеют свой опыт и, в конечном счёте, могут обрести свои желания и свою волю:
 
 https://www.youtube.com/watch?v=frw8Rkb9Pio

 https://www.youtube.com/watch?v=frw8Rkb9Pio
Вообще, исследовать солнечную систему автоматами - это примерно то же самое, что посылать робота вместо себя в фитнес, качаться.Зомби. Просто Зомби (с)
Многоразовость - это бяка (с) Дмитрий Инфан

pkl

ЦитироватьDenis Voronin пишет:
У большой толпы обезьян и, тащемта ситуация сохраняется до сих пор, много видов имеет все задатки. Однако условия оказались таковы, что выстрелил только один вид (ну или группа видов, там чёрт ногу сломит в нашей родословной).
Ну так эволюция нашего рода ещё не завершилась. Мы ведь даже и не первые, кто обрели разум на этой планете. Почему ты решил, что последние? Если представить исчезновение нашего вида, то у других видов обезьян появляется шанс. Перспективны, например, капуцины в Ю. Америке, орангутаны в Азии. Если мы их не истребим, конечно.
Вообще, исследовать солнечную систему автоматами - это примерно то же самое, что посылать робота вместо себя в фитнес, качаться.Зомби. Просто Зомби (с)
Многоразовость - это бяка (с) Дмитрий Инфан

Denis Voronin

Кривыми должны быть извилины, а не руки.

aaaa

Цитироватьpkl пишет:
Ничего подобного. Вы путаете, ИИ бывают разные. ИИ на базе нейронных сетей самостоятельно обучаются, имеют свой опыт и, в конечном счёте, могут обрести свои желания и свою волю:
Да нет же.
В компьютерах нет ничего, кроме фильтров из разума и воли программистов, через которые просеивается информация.

nsn

ЦитироватьDenis Voronin пишет:
Эволюция вообще не может завершиться ;)
А я слышал, это революция не может. Вроде как нет у неё конца.  :D

aaaa

Компьютер ведь можно сделать не только на базе электронных компонентов, например, на пневматике, или механике, как арифмометр "Феликс".
Сделайте нейронную сеть из шестеренок и посмотрите на нее внимательно: готовы ли вы признать  в ней разум и сказать, что этот набор однотипных железок обладает собственной волей?

Дем

Цитироватьnsn пишет:
Как пример наивного добросовестного заблуждения, всегда вспоминается цитата из тьюринговской "Может ли машина мыслить?": "Для меня было бы неожиданностью, если бы оказалось, что для игры в имитацию на удовлетворительном уровне требуется ёмкость памяти, превышающая 10^9... Вероятно, нет необходимости вообще далее увеличивать скорость машинных операций." (Писалось в 1950 г.)
10^9 - это гигабайт? Но ведь именно на таком уровне машины начали выигрывать у умеющего играть человека...
Цитироватьpkl пишет:
Конечно, специализированные ИИ /т.н. слабый ИИ/ не так опасны. Правда, он вряд ли сможет долго функционировать автономно. Нужен оператор или рядом, или хоть на Земле.
С оператором проблем нет. Впрочем, зерграш тоже никто не отменяет.
ЦитироватьDenis Voronin пишет:
Это какие такие предшественники? Если речь про гипотетических разумных динозавров, то с этим проблема: судя по всем имеющимся находкам, а также по всем ныне живущим видам, битва за интеллект на планете началась только с расцветом млекопитающих, а до этого живность была исключительно тупая.
Есть версии, что вымирание динозавров устроил некий суперхищник, сожравший всё кроме мышей и тараканов. Которые были слишком мелкими и малочисленными, чтобы их можно было собрать в достаточном количестве.
ЦитироватьDenis Voronin пишет:
Вот есть человеческий разум, он формируется в определённых условиях. Есть Маугли, у которых в отличие от художественного произведения с разумом проблемы.
У них не совсем с разумом проблемы. Просто незадействованные части мозга переориентируются на другие задачи. Т.е. они не могут общаться но взамен могут другое, чего не может человек.
ЦитироватьDenis Voronin пишет:
Теоретически косатки обладают разумом. Опять же теоретически у них есть даже язык. Сидят на вершине пищевой пирамиды. Распространены чуть-ли не везде. Навороченная социальная структура. Правда чот у них не вышло ничего смастерить...
А не из чего. Да и даже если смастерил - куда положить?
Летать в космос необходимо. Жить - не необходимо.

Denis Voronin

ЦитироватьДем пишет:
Есть версии, что вымирание динозавров устроил некий суперхищник, сожравший всё кроме мышей и тараканов. Которые были слишком мелкими и малочисленными, чтобы их можно было собрать в достаточном количестве.
Это укуренная версия. Вымирание было растянуто на миллионы лет.
Кривыми должны быть извилины, а не руки.

TAU

Цитироватьaaaa пишет:
1. Хотел бы напомнить один факт: так называемое создание искусственного интеллекта заключается в переносе внутрь компьютера мыслей и идей программиста. 
Цитировать2. Что запрограммирует создатель, то и будет. Запрограммирует бунт - будет бунт, нет - значит, нет.
Вы не правы.

1. Вполне себе могут создаваться обучающиеся машины. Программист закладывает в машину механизм приобретения новых знаний. В том числе - которыми он сам не обладает. После чего машина вполне может удивить разработчика. И превзойти его в ряде умений.

2. Сейчас уже полно программ (пример - компьютерные игры) с недетерминированным поведением. Монстры бегают не одинаково. В этот раз - так, в другой - этак. Есть так называемый "датчик случайных чисел". 

aaaa

:) :) :)
Монстры запрограммированы бегать неодинаково.

Антикосмит

ЦитироватьDenis Voronin пишет:
ЦитироватьАнтикосмит пишет:
А вдруг это были разумные моллюски? Головоногие. Они-то перегнивают почти полностью кроме клюва и когтей. Так что объем мозга не измеришь. А околоземную орбиту подчистили уже саморепликанты - не пропадать же добру!  :D  
Теоретически косатки обладают разумом. Опять же теоретически у них есть даже язык. Сидят на вершине пищевой пирамиды. Распространены чуть-ли не везде. Навороченная социальная структура. Правда чот у них не вышло ничего смастерить...

Что любопытно: взаимодействие с людьми налажено хорошо, несмотря на то что виды развивались в разных средах.
А может когда-то они достигли высот в биотехнологиях и смастерили абизяну, чтоб, дескать, обслуживать свои интересы пока они будут рассекать по просторам океана. Ну а там какой-то катаклизм. упадок и расплодившиеся абизяны
Ты еще не встретил инопланетян, а они уже обвели тебя вокруг пальца (с) Питер Уоттс

pkl

Цитироватьaaaa пишет:
В компьютерах нет ничего, кроме фильтров из разума и воли программистов, через которые просеивается информация.
Это замечание уместно только в отношении компьютеров с жёсткими алгоритмами. На формирование нейросетей куда большее влияние оказывает окружающая среда.
Вообще, исследовать солнечную систему автоматами - это примерно то же самое, что посылать робота вместо себя в фитнес, качаться.Зомби. Просто Зомби (с)
Многоразовость - это бяка (с) Дмитрий Инфан

pkl

ЦитироватьDenis Voronin пишет:
Эволюция вообще не может завершиться ;)
Речь была об эволюции рода Homo. Она может завершиться только с его вымиранием. Пока, конечно, об этом речи не идёт.
Вообще, исследовать солнечную систему автоматами - это примерно то же самое, что посылать робота вместо себя в фитнес, качаться.Зомби. Просто Зомби (с)
Многоразовость - это бяка (с) Дмитрий Инфан