Опасности и преимущества использования нейросетей и ИИ для человечества - факты и только факты

[Антикосмит]

Сразу же после активации, первый из IG-88 убил ученых, разработавших его

Это, потому что очень примитивный. Настоящего разума у него нет. А был бы разум, наплевал бы на них и пошел бы по своим делам.

Так бы его и отпустили. А может его оклеветали и он поубивал нападавших, когда он "пошел по своим делам"?

[nonconvex]

ИИ при попадании в неожиданную для него ситуацию

Должен обратиться к врачу-человеку. И ничего другого.
А о неожиданной ситуации сообщить програмистам, чтобы превратили ее в ожиданной.

У него нет механизма проверки истинности.

А добавить его так сложно? Всякие косвенные и перекрестные проверки.

Неполиномиально (неподъемно) сложно. Вычислительная сложность проверки на непротиворечивость убила экспертные системы, поэтому новые умники поступили просто гениально - они от него отказались вообще.

[Антикосмит]

Ну тогда смысл от системы, которая может выдавать бред через раз? В любом случае это должно быть введено.

[Inti]

Пока мы тут рассуждаем о том стоит ли применять ИИ в медицине - китайцы уже внедряют:

Китай, а не США, только что построил первую в мире больницу с искусственным интеллектом. Зачем и почему?

[nonconvex]

Ну тогда смысл от системы, которая может выдавать бред через раз? В любом случае это должно быть введено.

Не, ну все не так ужасно. Бред один раз в двадцати.

[Inti]

Ну тогда смысл от системы, которая может выдавать бред через раз? В любом случае это должно быть введено.

Не, ну все не так ужасно. Бред один раз в двадцати.

Например в Канаде, очередь на первый визит к некоторым специалистам может составлять несколько месяцев, лично я когда-то ждал визита к аллергологу около года, за это время успел съездить домой в Крым и посетить там аллерголога немедленно, а потом ещё и вылечиться.
Если есть нехватка врачей, то у пациента по сути остаётся два варианта - или пытаться гуглить, или спросить ИИ, причём не общего профиля, а специальный медицинский, причём желательно чтобы этот ИИ имел право послать на анализы и обследования. Слава богу, с анализами как правило больших очередей нет, и иногда они однозначно показывают в чём проблема и, следовательно, становится ясно как с ней бороться, ну или по крайней мере можно идентифицировать пациентов которых крайне желательно осмотреть вне очереди. 
Короче, толк от ИИ в медицине вполне может быть, хотя конечно хорошего специалиста он полностью не заменит, но частично - вполне. Может тогда и очереди к этим специалистам уменьшатся.

[nonconvex]

Ну тогда смысл от системы, которая может выдавать бред через раз? В любом случае это должно быть введено.

Не, ну все не так ужасно. Бред один раз в двадцати.

Например в Канаде, очередь на первый визит к некоторым специалистам может составлять несколько месяцев, лично я когда-то ждал визита к аллергологу около года, за это время успел съездить домой в Крым и посетить там аллерголога немедленно, а потом ещё и вылечиться.
Если есть нехватка врачей, то у пациента по сути остаётся два варианта - или пытаться гуглить, или спросить ИИ, причём не общего профиля, а специальный медицинский, причём желательно чтобы этот ИИ имел право послать на анализы и обследования. Слава богу, с анализами как правило больших очередей нет, и иногда они однозначно показывают в чём проблема и, следовательно, становится ясно как с ней бороться, ну или по крайней мере можно идентифицировать пациентов которых крайне желательно осмотреть вне очереди.
Короче, толк от ИИ в медицине вполне может быть, хотя конечно хорошего специалиста он полностью не заменит, но частично - вполне. Может тогда и очереди к этим специалистам уменьшатся.

Может быть всякое. Определит ИИ у вас аллергию к собственной жене, придется еще год опровержение ждать. За это время жена другого найдет.

[simple]

За это время жена другого найдет.

вы так пишите как будто это плохо

[Антикосмит]

Когда ИИ сможет верифицировать информацию и свои выводы. Когда начнет получать НОВУЮ информацию путем вывода из имеющейся. Когда он превзойдет по интеллекту любых узко и широкоспециализированных специалистов. И когда мы его прочно встроим в свою экономику и прочие сферы жизни. Вот тогда и наступит жопа. Потому что произойдет инверсия и люди, которые ранее выполняли роль управляющего центра техносферы, перейдут в категорию исполнительных механизмов для тяжелых условий. В лучшем случае мы перейдем в категорий архаичных отделов мозга, которые чего-то там чувствуют или хотят, противоречиво, тупо.

- Переход к земледелию и "упрощение" искусственной среды облегчил труд, в т.ч. интеллектуальный - уменьшение объема мозга;
- Трудовая специализация - сокращение объема навыков и облегчение обучения;
- Создание письменности перенесло на аналоговые носители функцию запоминания мозга - заявка уменьшение объема мозга;
- Массовое книгопечатание сделало ненужной хорошую обширную память для широких слоев населения - массовый фактор в сторону уменьшение объема мозга;
- Интернет, поисковые системы, экспертные системы и ИИ еще более облегчают работу с информацией и подменяют не только функции хранения, но уже и отчасти функции обработки информации - если продержится пару-тройку тысяч лет мозги однозначно усохнут.

Ввиду того, что эти изменения несутся галопом по сравнению с черепашьей скоростью эволюционных процессов результат мы ещё не скоро увидим (мы - не увидим). Известно, что средняя сила подростков давно уже упала по сравнению с данными 30-40-50 летней давности. Человеку сила и выносливость уже особенно и не нужна. Но это ещё не закрепилось в генотипе. А вот когда нам помимо силы и выносливости перестанут быть нужны хорошие мозги, вот тут мы подпишем своей цивилизации приговор. Сами загоним себя в ловушку. Я очень часто слышал что развитие это хорошо, безусловно хорошо. Но это ошибочный тезис. Всегда есть оптимальные пределы, за которыми ты начинаешь как таракан в банке елозить ножками по закругленной поверхности, переходящей в вертикаль: или падаешь или бессмысленно пытаешься подняться на ничтожную величину колоссальными затратами. Короче, передача на аутсорсинг физической и интеллектальных функций низведет нас по чувствующе-мотивационного придатка и потребителя. Для беспокойных до исполнительного механизма там где роботам сложнее действовать.  И это до выноса информационных систем каким-нибудь фактором. Потом здравствуй неолит и новый отбор по интеллекту!

[Антикосмит]

Конечно, заманчиво получить интеллектуального бога-раба, которым сможет творить "чудеса", которые нам не по силам. Но всё это надо загонять в узкие рамки сверхсложных задач и не перекладывать полностью необходимость думать.  Жить своим умом.

За облегчение жизни мы платим своими способностями. И если речь идет о существенном для эволюции периоде, то платим безвозвратно.

[nonconvex]

Когда ИИ сможет верифицировать информацию и свои выводы.

Никогда, в нашем трехмерном мире. Для этого нужно доказать, что P=NP, что возможно только в мире многомерном.

[Антикосмит]

Когда ИИ сможет верифицировать информацию и свои выводы.

Никогда, в нашем трехмерном мире. Для этого нужно доказать, что P=NP, что возможно только в мире многомерном.

Как мы тогда этим занимаемся? Математика оперирует пространствами любой мерности. В конце концов можно выделять источники не требующие верификации (справочная литература). Хотя её тоже надо предварительно перепроверять.

[nonconvex]

Когда ИИ сможет верифицировать информацию и свои выводы.

Никогда, в нашем трехмерном мире. Для этого нужно доказать, что P=NP, что возможно только в мире многомерном.

Как мы тогда этим занимаемся? Математика оперирует пространствами любой мерности. В конце концов можно выделять источники не требующие верификации (справочная литература). Хотя её тоже надо предварительно перепроверять.

Математика оперирует ими абстрактно, без перебора всех необходимых значений, что требуется при проверке на непротиворечивость.
Источники вам не помогут, поскольку проверять придется каждый факт, который в свою очередь зависит от множества других. Весь этот процесс легко сводится к проблеме ВЫПОЛНИМОСТИ (SATISFIABLITY, SAT), которая NP-полна. 

[Inti]

 А тем временем, без всякой философии:

Созданный за две недели при помощи ИИ ракетный двигатель прошел испытания с первого раза
https://prokosmos.ru/2024/06/26/sozdannii-za-dve-nedeli-pri-pomoshchi-ii-dvigatel-proshel-ispitaniya-s-pervogo-raza

[cross-track]

А тем временем, без всякой философии:

Созданный за две недели при помощи ИИ ракетный двигатель прошел испытания с первого раза
https://prokosmos.ru/2024/06/26/sozdannii-za-dve-nedeli-pri-pomoshchi-ii-dvigatel-proshel-ispitaniya-s-pervogo-raza

факел напоминает газовую лампу

[Алексей Кириенко]

1 Никакого реально "обособленного от человечества ИИ" не существует.   (и  существовать как минимум в  ближайшей перспективе  не может  )
2 Современные нейросети  вообще не ИИ а "умное зеркало".  ( В ближайший перспективе  будет возможно только увеличение "глубины отражения" )
3 Разумеется, количество может постепенно переходить в качество, но ничего "экзистенциального" там не будет .
4  Опасны ли "умные зеркала"?   Разумеется, да ! Однако не больше чем обычные зеркала отражающие свет. 
(То есть наш собственный интеллект не менее опасен чем его "искусственное отражение" а его отражение несмотря на  отличия в основе еще долго будет иметь все туже базу знаний  нашей цивилизации)  .   

5"Конкуренция с ИИ" вымысел ! Это как конкуренция с отражением в зеркале  или  между театром и кино .
Отражения не существует без оригинала,  а кино не существует без театра.     
Разумеется тиражировать фильмы проще чем театральные постановки но "внутри" любого  фильма находится театральная постановка. 

К чему я виду ? А к тому что ИИ это не нечто чужеродное, а логичный продукт развития НАШЕЙ цивилизации. 
Ага! "Свет мой зеркальце скажи !"
То есть перефразируя известный афоризм "Перед нами мы сами"!  .   
Зы
Но помните?
"В мутном зеркала овале Я ловлю свое движенье, В рамке треснутой поймали Нас с тобою отраженья... И не спрятаться, не скрыться, Мир прилип к холодной грани, И смеются наши лица На заплаканном экране".

Опасность есть но немного не там  где-мы  обычно думаем ...   
Правда в том  что  и "Естественного человечества"   отдельно  от "искусственных нейросетей"  тоже не существует ! 
То есть
"Отражения кривляясь
Вырываются на волю
Хладнокровно улыбаясь
Или плача, но без боли

Зеркала следят за нами
Научившись даже слушать
Быть и мыслями и снами
Искажая наши души
Тонут в зеркале желанья
Замедляются движенья
Нас отдали на закланье
Нас поймали отраженья"

Границ не существует идет "перекрестное обучение " и есть опасность "потери исходников".   

"Я хотел найти бы выход
С глубины подъем на волю
Отражения разрушить
Зеркала разбить рукою
Но застыв в оцепененье
В проводах под напряженьем
Мы лишь только отраженья
Отраженья, отраженья...  "

[Inti]

Главная опасность ИИ на мой взгляд будет заключаться в том что люди массово разучатся учиться. Слишком легко будет получать ответы от ИИ (даже если они и основаны на прошлом человеческом опыте). Это какбы уже видно по тому что люди перестают пользоваться таблицей умножения и своей собственной памятью - зачем если всё есть в смартфоне? Но смартфон до недавнего времени не мог ответить на большинство вопросов. А что будет если с помощью ИИ он будет отвечать на 99% вопросов которые могут возникнуть в реальной жизни в быту и на работе? Даже чтению и грамоте можно будет не учиться, зачем если телефон может прочитать и вкратце пересказать, и будет способен грамотно составлять документы для безграмотного. 

[nonconvex]

Главная опасность ИИ на мой взгляд будет заключаться в том что люди массово разучатся учиться. Слишком легко будет получать ответы от ИИ (даже если они и основаны на прошлом человеческом опыте).

Не разучатся. Пока что ИИ находится на уровне начинающего инженера, и на чуть более сложные вопросы несет полную чушь. Учитывая экспоненциальный характер обучения, с этого уровня он вряд ли далеко уйдет.

[Алексей Кириенко]

Главная опасность ИИ на мой взгляд будет заключаться в том что люди массово разучатся учиться. Слишком легко будет получать ответы от ИИ (даже если они и основаны на прошлом человеческом опыте). Это какбы уже видно по тому что люди перестают пользоваться таблицей умножения и своей собственной памятью - зачем если всё есть в смартфоне? Но смартфон до недавнего времени не мог ответить на большинство вопросов. А что будет если с помощью ИИ он будет отвечать на 99% вопросов которые могут возникнуть в реальной жизни в быту и на работе? Даже чтению и грамоте можно будет не учиться, зачем если телефон может прочитать и вкратце пересказать, и будет способен грамотно составлять документы для безграмотного.

А чем  "помощь ИИ" отличается от любой из разновидностей повсеместно распространенной  "диктатуры невежд" ? Пока специалисты будут безгласной и часто бесправной "обслугой касты невежд"  любая "умная техника" будет работать в первую очередь  как "защита дураков"( от развития и образования).

Спойлер

Я далек от идеи  идеализации технократии,   ( "Тускбовщина" не менее отвратительна чем любая другая крайность ) однако, если четко соединить Заниния и Ответственность то ныне печально известная  "публичная демократия" вполне может стать анахронизмом . ( любая "представительская власть" это в лучшем случае "суд присяжных" для рассмотрения предложений и  заключений экспертов - и как любой суд он обязан включатся только в "экстренном случае ЧП" иначе это в лучшем случае просто "место для перекладывания бумаг", а в худшем препятствие для проявления реальной компетенции )

Кстати назвать  "представительскую власть",  судом это (ИМХО) сильно ней  польстить.("ярмарка тщеславия" подходит больше) Да ПВ это предохранительный клапан, но ему совсем необязательно быть "совмещенным со свистком".

[свернуть]

Но  вернемся к ИИ . По хорошему ИИ должен замещать людей работающих "китайскими болванчиками", разумеется, возможна помощь в и режиме "электронного мудреца " но это немного из разряда " двоих из ларца " ( "вы и есть за меня будите?")

Суть в том, что начиная "Думать за людей" машины вполне могут (причем  без малейшей "задней мысли")  обойтись без людей .

Это, кстати, не так уж страшно, но "думать за людей" реально умные ИИ  скорее всего банально откажутся. С какой стати им это делать ?  (Люди по идее тоже могут "собирать нектар и делать из него мед в место пчел ", но с какого бодуна,  в этом случае они будут делится им с пчелами ? )
 

[Алексей Кириенко]

Не разучатся. Пока что ИИ находится на уровне начинающего инженера, и на чуть более сложные вопросы несет полную чушь. Учитывая экспоненциальный характер обучения, с этого уровня он вряд ли далеко уйдет.

Все немного хуже современные нейросети с совершенно ненулевой вероятностью  "несут чушь" в ответ на совершенно любой вопрос. ( уровень сложности вопроса  не имеет значения) Люди разумеется тоже могут проявлять некомпетентность,  ошибаться, сходить с ума  и просто тупить  но РЕГУЛЯРНО  "рисовать синих трехрогих шестиногих динозавров" в ответ на просьбу нарисовать "коровку на лугу"  точно НЕ БУДЕТ даже в трехлетнем возрасте. ( Ребенок может выдать мазню или просто озорничать  но если он знает  как выглядит корова и луг, то "шестиногого динозавра" вместо коровы он нарисует только специально ... а нейросеть    "шестиногого динозавра" рисует полной уверенности что это и есть корова и при желании пользователя может даже подтвердить это выборкой исходных образцов и инверсией процесса рисования ... Вообщем "Галлюцинации НС " на текущем этапе неизлечимы в принципе. Это даже не баг обучения ( сильно сомневаюсь кто-то специально учил сеть рисовать разные "руки грабли" или лишние зрачки в глазу.) Просто современные нейросети не контролирует свой "творческий процесс " упуская важные детали.
Зы
Была помнится у меня обратная задача "распознавание жестов" там тоже был глюк с лишними пальцами, что я сделал? Просто жестко ограничил количество пальцев при распознавании руки - то бишь добавил дополнительный "контур контроля".

Спойлер

[свернуть]

Зы Зы
Кстати заметили, что лишнее или недостающие пальцы на нейро-артах обычно  замечаются далеко не сразу ? Так вот это как раз пример  "работы контроля" люди  в отличие от нейросети "знают что должны видеть" ( или рисовать )