Опасности и преимущества использования нейросетей и ИИ для человечества - факты и только факты

[nonconvex]

Не разучатся. Пока что ИИ находится на уровне начинающего инженера, и на чуть более сложные вопросы несет полную чушь. Учитывая экспоненциальный характер обучения, с этого уровня он вряд ли далеко уйдет.

Все немного хуже современные нейросети с совершенно ненулевой вероятностью  "несут чушь" в ответ на совершенно любой вопрос. ( уровень сложности вопроса  не имеет значения)

Сложность безусловно имеет значение, просто потому, что на простые вопросы уже есть исчерпывающие и корректные ответы, соответственно качество обучающей выборки выше.
На сложные вопросы ответов мало, и они часто противоречивы, соответственно и качество обучения падает, приводя к ерунде на выходе.

[simple]

уровне начинающего инженера

[simple]

Все немного хуже современные нейросети с совершенно ненулевой вероятностью  "несут чушь" в ответ на совершенно любой вопрос. ( уровень сложности вопроса  не имеет значения)

по сути так и есть, они пересказываю то что запомнили при обучении, вот тока алгоритмы обучения с потерей точности, в итоге при пересказе они путаются 

[Inti]

ИИ безусловно способен генерировать чушь. Однако, если его поправлять правильными подсказками, то он в конце-концов генерирует нечто полезное - и запоминает результат и промежуточные детали которые помогли прийти к результату. А если учесть что подсказки делают каждый день миллионы людей - то очень скоро по распространённой тематике ИИ начинает генерить очень качественные ответы. А по тематике которая встречается реже - процесс обучения займёт больше времени.

Тут смотрю ржут когда ИИ генерирует картину с неправильным количеством пальцев. Неужели трудно сообразить что это вообще не проблема и скоро такой ошибки никогда не будет? И так со всем.

Простой пример работы ИИ - это перевод текстов например с помощью https://www.deepl.com/en/translator - причём вполне возможно написать что-то безграмотно и с ошибками на русском - и получить вполне грамотный перевод на английский. Потом сделать обратный перевод на русский - и получить грамотно написанный русский текст. 
Да, бывают глюки - но в целом сейчас уже можно писать или даже говорить на одном языке - и ИИ будет почти синхронно переводить на любой другой. Причём для простых тем качество перевода будет стабильно лучше качества оригинала 

Так что кое в чём, ИИ уже умнее человека, ибо нет ни одного человека на свете который знал бы столько языков, и мог бы так быстро переводить с любого языка на любой другой.

[nonconvex]

ИИ безусловно способен генерировать чушь. Однако, если его поправлять правильными подсказками, то он в конце-концов генерирует нечто полезное - и запоминает результат и промежуточные детали которые помогли прийти к результату. А если учесть что подсказки делают каждый день миллионы людей - то очень скоро по распространённой тематике ИИ начинает генерить очень качественные ответы. А по тематике которая встречается реже - процесс обучения займёт больше времени.

Тут смотрю ржут когда ИИ генерирует картину с неправильным количеством пальцев. Неужели трудно сообразить что это вообще не проблема и скоро такой ошибки никогда не будет? И так со всем.

Насколько скоро? Маск тоже FSD "скоро" обещал, но что то пошло не так.

[Inti]

ИИ безусловно способен генерировать чушь. Однако, если его поправлять правильными подсказками, то он в конце-концов генерирует нечто полезное - и запоминает результат и промежуточные детали которые помогли прийти к результату. А если учесть что подсказки делают каждый день миллионы людей - то очень скоро по распространённой тематике ИИ начинает генерить очень качественные ответы. А по тематике которая встречается реже - процесс обучения займёт больше времени.

Тут смотрю ржут когда ИИ генерирует картину с неправильным количеством пальцев. Неужели трудно сообразить что это вообще не проблема и скоро такой ошибки никогда не будет? И так со всем.

Насколько скоро? Маск тоже FSD "скоро" обещал, но что то пошло не так.

Проблема с пятью пальцами решается элементарно. Просто перед выдачей результата надо проводить небольшую дополнительную проверку. Не больше пяти. С меньшим количеством сложнее, но тоже решаемо.

FSD является ОЧЕНЬ сложной проблемой. Большинство проблем с которыми люди сталкиваются в быту или на своём рабочем месте - гораздо проще. Хотя бы потому что косяки не приведут к серьёзным авариям. Автомобиль весит примерно пару тонн и движется со скоростью примерно 100 км - не так уж и много других столь же опасных вещей вокруг нас. 

[Алексей Кириенко]

Все немного хуже современные нейросети с совершенно ненулевой вероятностью  "несут чушь" в ответ на совершенно любой вопрос. ( уровень сложности вопроса  не имеет значения)

по сути так и есть, они пересказываю то что запомнили при обучении, вот тока алгоритмы обучения с потерей точности, в итоге при пересказе они путаются

Довольно близкое к правде объяснение, но «галлюцинации» — это (ИМХО) чуть другое. Это как бы потеря «целости образа», что-то вроде «невозможных» оптических иллюзий, возникающих, когда 2D-изображение нарисовано так, что пространенное отображение псевдо «проекции» в реальности невозможно.

Причина галлюцинаций в том, на самом деле, нейросеть «не понимает», что от неё требуется. Дело тут не в обучении или «потерях», а в отсутствии дополнительного слоя «идеального представления» и «допустимых границ», то есть «фантазия» (сознательно вносимый элемент хаоса и случайности) неизбежна и необходима, но границы прописаны крайне шатко. Обычно люди имеют кучу проблем при воспроизведении «идеального образа» (например, при выражении сложной мысли словами), а у нейросети таких проблем нет, но беда в том, что обычно у НС нет и самого «идеального образа» то есть  никаких "я так вижу" а только "я так рисую"  ).       

[cross-track]

В этом видео я бы отметил, что мужику 95 лет (!), с давних времен он является спецом по ИИ, и немного говорит про автопилот Тесла)

[Алексей Кириенко]

ИИ безусловно способен генерировать чушь. Однако, если его поправлять правильными подсказками, то он в конце-концов генерирует нечто полезное - и запоминает результат и промежуточные детали которые помогли прийти к результату. А если учесть что подсказки делают каждый день миллионы людей - то очень скоро по распространённой тематике ИИ начинает генерить очень качественные ответы. А по тематике которая встречается реже - процесс обучения займёт больше времени.

"Подсказки" это или "суфлер" или "заплатка". Они в принципе не могут  помогать "глобально".
Реально помогает только "мни-патч" для самой нейросети но от "галлюцинации" это тоже не гарантирует.   

Тут смотрю ржут когда ИИ генерирует картину с неправильным количеством пальцев. Неужели трудно сообразить что это вообще не проблема и скоро такой ошибки никогда не будет? И так со всем.

В принципе этот конкретный баг давно побежден.( и понятно как можно это полностью автоматизировать ( например можно заставить нейросеть вначале генерировать правильный контурный эскиз или каркасную модель и уже по ним строить основное изображение)) Проблема в другом, после исправления конкретной проблемы сами "галлюцинации"  никуда не исчезают - "заплатками" и "суфлером" можно заштопать конкретную дырку но "моль жрущая холст" останется.     

Простой пример работы ИИ - это перевод текстов например с помощью https://www.deepl.com/en/translator - причём вполне возможно написать что-то безграмотно и с ошибками на русском - и получить вполне грамотный перевод на английский. Потом сделать обратный перевод на русский - и получить грамотно написанный русский текст.

Да, бывают глюки - но в целом сейчас уже можно писать или даже говорить на одном языке - и ИИ будет почти синхронно переводить на любой другой. Причём для простых тем качество перевода будет стабильно лучше качества оригинала 

Это хорошо, но это очень "частный случай", процесс перевода  и "распознавания текста с ошибками" достаточно формален, что бы эту задачу можно было решить без использования НС. А основные проблемы с "галлюцинациями" начинаются там где задача в принципе не имеет формального решения (или оно избыточно сложно).   

Так что кое в чём, ИИ уже умнее человека, ибо нет ни одного человека на свете который знал бы столько языков, и мог бы так быстро переводить с любого языка на любой другой.

Современные нейросети точно не умнее человека, однако это не мешает им быть «очень умелыми». Но умение — это не ум. Пауки ткут очень сложную и точно выверенную путину, люди не умеют делать ничего подобного но назвать пауков "умными" достаточно сложно .

[спец]

Пуки ткут

Кто???

[cross-track]

Пуки ткут

Кто???

Цитата не полная!

Пуки ткут очень сложную и точно выверенную путину, люди не умеют делать ничего подобного.

[спец]

Ну это ладно. Но слово "пуки" выглядит настораживающе.

[cross-track]

Ну это ладно. Но слово "пуки" выглядит настораживающе.

Почему? Пуки ткут путину, что здесь настораживает?)

[спец]

Ну как-то это не по-христиански.

[Serge V Iz]

Так это известное явление. В письменных документах часто попадаются пуки ракет, энергетических установок, и т.п.

У бухгалтеров интереснее -- там совершаются акты серки и другие загадочные ритуалы.

[Алексей Кириенко]

Боты ботают , тролли троллят, пуки пукают ... все при деле!
 
О опечатках слышали? Вот это они и есть! (Извиняюсь, просто отвлекся и не успел исправить, да и вообще опечатки — мой бич (по кнопкам не очень точно клацаю и внимание слегка рассеяно).) 

Но, это отличный пример того, что люди при явном наличии своих мыслей достаточно часто имеют проблемы с их «выводом», а современный «псевдо ИИ» как бы наоборот: пишет «правильно», но временами полную чушь. (Кстати, я тут пробую проверять свою писанину через Яндекс GPT, как вот разные «пуки» он обычно не замечает совершенно.)

[Алексей Кириенко]

В этом видео я бы отметил, что мужику 95 лет (!), с давних времен он является спецом по ИИ, и немного говорит про автопилот Тесла)

Отличное видео ! Чуть упрощенно но основы проблемы НС показаны достаточно четко 

Не совсем согласен .
1 Нейросеть не программа
2 Описывать работу НС как результат расчета кучи функций в корне неверно .
3 "Континуум Нейросети" не возможно свести к простой "многомерной матрице"  ( хотя как  иллюстрация  это работает неплохо  ) 
4  "Гельштат"  в современных НС УЖЕ существует но он недостаточно полный и стабильный .   
( Это та самая "призрачная нейросеть второго проядка" или глубинная нейронная сеть  - причина её появления в том  количество неизбежно "переходит в качество" но если двигаться экстенсивно это происходит  довольно медленно и криво )   Насколько я знаю у людей тоже есть несколько "уровней абстракции" ( например считается что  элементом когнитивной активности нашего мозга  является распределенная мини сеть "ког"состоящая примерно из 300-т нейрон.  Но прикол в том  что на самом деле "ког" полностью виртуален и не имеет четкой физической привязки   )   

[Александр Геннадьевич Шлядинский]

Я, к примеру, сомневаюсь, что в обозримом будущем нейросеть сможет справиться с такой задачей, как приготовление пищи. Я не имею ввиду разогрев пищи из готовых по ГОСТу составных частей. Это можно делать и без ИИ. А вот изготовление блюд из неполного комплекта, с заменой ингредиентов, разработка новых блюд... Оно конечно ИИ сможет много чего скомпилировать, и что-то из этого даже можно будет есть. Но вот тут глюк будет на глюке изначально. Сам ИИ не сможет отличить вкусную пищу от не вкусной. Нет у него таких органов чувств и не понятно в каких баллах выражать понятие вкусно. Если же пойти по пути работы с подкреплением, когда ИИ компилирует новое блюдо, потом скармливает его испытателям и те, если пережили новое творение, то проставляют оценку... Полный кирдык ИИ. Это только один пример. Не скажу, что таких примеров можно привести бесконечное множество, но близко к тому.
Сразу предупреждаю, что в испытатели НОВОЙ пиши от ИИ я не пойду ни за какие деньги. 

[Алексей Кириенко]

Я, к примеру, сомневаюсь, что в обозримом будущем нейросеть сможет справиться с такой задачей, как приготовление пищи.

Это то как раз достаточно несложно ,входящих  параметров ограниченное количество. ( разумеется если не пытаться синтезировать "котлеты  из антрацита"   )
Что касается " пробы на вкус" то мне живо вспоминается "водка Менделеева"(на самом деле это легенда)  которую он лично не разу даже не пригубил вовремя исследований водно спиртовых смесей  . (истинная правда)   На самом деле лучшие повара профессионалы обычно никогда не пробуют собственноручно приготовление блюда и более того довольно часто им это напрямую запрещено должностной инструкцией.       

[Александр Геннадьевич Шлядинский]

Я, к примеру, сомневаюсь, что в обозримом будущем нейросеть сможет справиться с такой задачей, как приготовление пищи.

Это то как раз достаточно несложно ,входящих  параметров ограниченное количество. ( разумеется если не пытаться синтезировать "котлеты  из антрацита"  )
Что касается " пробы на вкус" то мне живо вспоминается "водка Менделеева"(на самом деле это легенда)  которую он лично не разу даже не пригубил вовремя исследований водно спиртовых смесей  . (истинная правда)  На самом деле лучшие повара профессионалы обычно никогда не пробуют собственноручно приготовление блюда и более того довольно часто им это напрямую запрещено должностной инструкцией.       

Ну, если Вы не освоили ничего, кроме яичницы, то я с Вами соглашусь. Параметров однозначно не много: углерод, вода и немного всякого другого. Вот только комбинаций из них несчетное количество и режимов обработки. Я тут посмотрел однажды рецепт настоящего кулича... На счет Менделеева не знаю, повар конечно может не пробовать то, что он готовит не в первый раз. Я говорю про первый, и по ранее не применявшемуся ни кем рецепту...