Опасности и преимущества использования нейросетей и ИИ для человечества - факты и только факты

[Dulevo]

Получили доступ к внутренним документам OpenAI. Почитали, часть скопировали.
И тут у них родилась идея стартапа...

[nonconvex]

Вообще-то ИИ уже моделирует вещества, которые должны обладать свойствами антибиотика - и эти прогнозы биохимических свойств подтверждаются.

Это кстати ещё одна область где ИИ кроет человека - когда надо хоть что-то делать с огромным количеством параметров или возможных вариантов. Человек просто не может предсказать как сложится молекула состоящая из десятков тысяч атомов, и какими свойствами она будет обладать.

Человек напишет программу, которая среди комбинаций этих параметров найдет оптимум.

Причём время работы этой программы будет пара сотен лет 

А кто по вашему написал программу "ИИ"?

ИИ по другим принципам работает нежели программа которая ищет абсолютный оптимум.

Человек написал много разных программ, работающих по разным принципам, но все их объединяет одно - их написал человек.

Но все же интересно, в чем разница между программой ищущей глобальный экстремум и ИИ?

[Inti]

Но все же интересно, в чем разница между программой ищущей глобальный экстремум и ИИ?

Разница в том что все шаги программы можно проследить и объяснить как она работает. А то что делает ИИ практически нереально по шагам отследить, и практически нереально объяснить как она в точности работает.
 

[nonconvex]

Но все же интересно, в чем разница между программой ищущей глобальный экстремум и ИИ?

Разница в том что все шаги программы можно проследить и объяснить как она работает. А то что делает ИИ практически нереально по шагам отследить, и практически нереально объяснить как она в точности работает.
 

Интересно, чего нереального в градиентном спуске? Учебник открывать пробовали?

[Алексей Кириенко]

Разница в том что все шаги программы можно проследить и объяснить как она работает. А то что делает ИИ практически нереально по шагам отследить, и практически нереально объяснить как она в точности работает.
 

Прикол в том что разбить логику получения ответа "по шагам" вполне может сам ИИ .
(другое дело что реально ИИ может придти к ответу совсем иначе но построенный им алгоритм может быть вполне рабочим  )

Зы
Хотя как я не раз говорил "нейросеть не программа" но собственно  ИИ в полнее может быть именно программой (метод создания ИИ "сверху внизу" тоже вполне неплохо работает... то есть если с например помощью   нейролингвистики  выявить все ассоциативные связи человеческого мозга  и создать помощью экспертной системы аналог знаменитой "китайской комнаты"  это будет вплоне реальная "оцифровка сознания" способная копировать оригинал до степени полного "неразличения", а  если учесть то что  алгоритм экспертной системы вполне может быть гибридным (то бишь "дедуктивно-индуктивным") и как следствие  способным к самообучению то тщательно созданный конструкт по идее  вплоне может  переплюнуть лобой  "нейросетевой ИИ" (то бишь созданный по методу "снизу вверх")  ) 

[Inti]

Но все же интересно, в чем разница между программой ищущей глобальный экстремум и ИИ?

Разница в том что все шаги программы можно проследить и объяснить как она работает. А то что делает ИИ практически нереально по шагам отследить, и практически нереально объяснить как она в точности работает.
 

Интересно, чего нереального в градиентном спуске? Учебник открывать пробовали?

И что это даст в смысле предсказания результата? Для обычной пошаговой программы есть вполне фиксированный список входных параметров и определённый алгоритм. А ИИ постоянно учится и результат постоянно меняется в зависимости от того что ему скормили и что его спрашивали, и почему результат сегодня такой, а завтра слегка другой на практике НИКТО объяснить в деталях не может.

[Алексей Кириенко]

В этом видео я бы отметил, что мужику 95 лет (!), с давних времен он является спецом по ИИ, и немного говорит про автопилот Тесла)

Отличное видео ! Чуть упрощенно но основы проблемы НС показаны достаточно четко 

Не совсем согласен .
1 Нейросеть не программа
2 Описывать работу НС как результат расчета кучи функций в корне неверно .

Вы уверены, что понимаете что такое математическая функция? Кучи в другом месте!

Разумеется, функция это несколько аргументов на входе значение функции( которое тоже может быть не одно+( в программировании)  доступно и необязательное дополнительное "побочное  действие" в качестве процедуры  ) на выходе. А определение "куча"  относится к картинке где все действие НС "упрощается" до обычного линейного многочлена .(Y=F1(x1)+ F2(x2)+... Fn(xn) )
Напоминаю НС это СЕТЬ причем топологически весьма сложная ( с точки зрения математики нейрон действительно сравнительно  простая функция  но весь фокус нейронной сети именно в её топологии  причем эта топология в "общем виде" не постоянна и может  динамически меняться )

[Алексей Кириенко]

А ИИ постоянно учится и результат постоянно меняется в зависимости от того что ему скормили и что его спрашивали, и почему результат сегодня такой, а завтра слегка другой на практике НИКТО объяснить в деталях не может.

С неким "абстрактным ИИ" все верно но если речь идет о современных "трансформерах" то их не постоянство в ответах обычно связано отнюдь не с "самообучением", а с галлюцинациями и не постоянством "гельштата" (внутреннего представления )  Иллюзия "эффекта памяти" достигается "скармливанием" хитро сокращенного лога предыдущей сессии  но это заметно "другое".
Зы
Объяснить на "элементарном уровне" можно что угодно, но это примерно как объяснение результатов работы огромного ЗАВОДА через составление точного графика работы всех его механизмов . То есть изрядно бессмысленно.
Другое дело что как я уже писал  сам ИИ может "раскручивать" собственные результаты работы, при этом  детально "пошагово" объясняя всю логику получения ответа. Это НЕ будет реальной "дорожной картой" работы ИИ но будет тем что вполне можно реально  проверить . То есть настоящим логическим обоснованием полученного ответа.     

[Inti]

сам ИИ может "раскручивать" собственные результаты работы, при этом  детально "пошагово" объясняя всю логику получения ответа. Это НЕ будет реальной "дорожной картой" работы ИИ но будет тем что вполне можно реально  проверить .

https://copilot.microsoft.com выдаёт ссылки на вебсайты которые он использовал для ответа. При желании можно проверить истинность его ответа вручную. Но почему он выбирает для ответа те а не другие вебсайты - тайна покрытая мраком 

[Алексей Кириенко]

https://copilot.microsoft.com выдаёт ссылки на вебсайты которые он использовал для ответа. При желании можно проверить истинность его ответа вручную. Но почему он выбирает для ответа те а не другие вебсайты - тайна покрытая мраком

Не мраком, а "туманом" (понятно чего) ... Но даже без "скрытых правил" вполне реально что причина в ограничении  времени поиска или обучения и бальном использовании стандартных поисковых машин со всеми  их "заморочками" плюс далеко не все сайты можно было свободно парсить даже раньше,  а сейчас с нынешним разгулом "ИИ фобии" среди веб дизайнеров и авторов (или владельцев)  контнета  и подавно.         

[Inti]

[nonconvex]

Вот кстати да. Везде, где нужна имитация человеческой деятельности, ИИ предпочтительнее.

[Антикосмит]

Вот кстати да. Везде, где нужна имитация человеческой деятельности, ИИ предпочтительнее.

Вот именно. Пока то что есть хорошо заменяет только профессии из категории "я так вижу", т.е. писателей и художников. Вообще это, конечно, интересный прецедент. Человечество, между прочим большую часть своей истории и сейчас тоже перманентно живет в виртуальной реальности и несёт бред. Вы идёте по тротуару, но идете в собственном сознании, реального тротуара вы не видите. Представления об окружающей действительности более менее адекватны у ничтожного процента людей и чем шире круг, тем бредовее эти представления. И даже те кто лучше других осознает что происходит и те видят небольшую часть картины и знания их также по краям компетенции бредовы.

Так что мы сами жили и живем в некотором смысле в виртуале и несём бред. Просто у нас есть достаточно эффективные механизмы (если ими пользоваться) по уточнению объективных данных. ИИ ещё до этой стадии не развился.

[nonconvex]

Вы идёте по тротуару, но идете в собственном сознании, реального тротуара вы не видите.

С чего бы? Я вижу именно тротуар, а не то, что вы там воображаете.

[Антикосмит]

Вы идёте по тротуару, но идете в собственном сознании, реального тротуара вы не видите.

С чего бы? Я вижу именно тротуар, а не то, что вы там воображаете.

Почитайте какие фокусы выделывает мозг, когда сшивает картинку для сознания. Видим мы мир через узкую щёлку, которая на не даёт и десятой (сотой?) части информации об окружающей среде. Да ещё всё это немое кино смачно озвучиваеся субъективной качественной оценкой.

[simple]

помнится лет 15 назад был сайт где демонстрировали как и что реально видит глаз и как это далеко от того что "видит" мозг

[nonconvex]

Вы идёте по тротуару, но идете в собственном сознании, реального тротуара вы не видите.

С чего бы? Я вижу именно тротуар, а не то, что вы там воображаете.

Почитайте какие фокусы выделывает мозг, когда сшивает картинку для сознания. Видим мы мир через узкую щёлку, которая на не даёт и десятой (сотой?) части информации об окружающей среде. Да ещё всё это немое кино смачно озвучиваеся субъективной качественной оценкой.

Да, но это не означает, что мозг воспроизводит что-то независимое от объективной реальности, данной нам в ощущениях.
Вот если обкуриться травы, или допиться до беленькой, то да, зеленые человечки придут. Но это совсем другая история.

[Антикосмит]

Вы идёте по тротуару, но идете в собственном сознании, реального тротуара вы не видите.

С чего бы? Я вижу именно тротуар, а не то, что вы там воображаете.

Почитайте какие фокусы выделывает мозг, когда сшивает картинку для сознания. Видим мы мир через узкую щёлку, которая на не даёт и десятой (сотой?) части информации об окружающей среде. Да ещё всё это немое кино смачно озвучиваеся субъективной качественной оценкой.

Да, но это не означает, что мозг воспроизводит что-то независимое от объективной реальности, данной нам в ощущениях.
Вот если обкуриться травы, или допиться до беленькой, то да, зеленые человечки придут. Но это совсем другая история.

Корреляция есть. Но не всегда. Есть куча оптических иллюзий, которые это доказывают. А то, что данные неполны можно убедиться из любого физического справочника. Кучу параметров об окружающей действительности мы получаем косвенным образом. И представление всё равно строим на той картине, что дают нам органы чувств. И вот в этой виртуальной реальности мы все и живем. Да ещё сверху наворачиваем всяких фантазий и домыслов. Неважно что это: бог или тёмная материя.

Вот и ИИ тоже живет в своей виртуальной реальности, которую он строит по данным, которые ему скармливают. Какова достоверность этих данных неизвестно.

[nonconvex]

Кучу параметров об окружающей действительности мы получаем косвенным образом. И представление всё равно строим на той картине, что дают нам органы чувств. И вот в этой виртуальной реальности мы все и живем. Да ещё сверху наворачиваем всяких фантазий и домыслов. Неважно что это: бог или тёмная материя.

Вот и ИИ тоже живет в своей виртуальной реальности, которую он строит по данным, которые ему скармливают. Какова достоверность этих данных неизвестно.

ИИ живет в примитивных аппроксимациях, принимая их как есть. Человек (образованный) непрерывно сопоставляет свои ощущения с той моделью, которая хранится в его голове и полную ересь, такую как например претензии на пересечение параллельных прямых в Евклидовом пространстве  отсекает. Примерно так на этом форуме происходит с некоторыми персонажами, норовящими перевернуть мир, но имеющих при том достаточно хаотическую его картину. Их тут же ловят на противоречиях.

[pteros]

Кучу параметров об окружающей действительности мы получаем косвенным образом. И представление всё равно строим на той картине, что дают нам органы чувств. И вот в этой виртуальной реальности мы все и живем. Да ещё сверху наворачиваем всяких фантазий и домыслов. Неважно что это: бог или тёмная материя. Вот и ИИ тоже живет в своей виртуальной реальности, которую он строит по данным, которые ему скармливают. Какова достоверность этих данных неизвестно.

ИИ живет в примитивных аппроксимациях, принимая их как есть. Человек (образованный) непрерывно сопоставляет свои ощущения с той моделью, которая хранится в его голове и полную ересь, такую как например претензии на пересечение параллельных прямых в Евклидовом пространстве  отсекает.

ИИ не живëт, а существует. Для жизни нужно самоосознание, самовоспроизведение и способность к движению, желательна также чувствительность, то есть осязание вплоть до ощущенмя боли с реакцией на неë.  С гуманитарной точки зрения человек в вегетативном состоянии считается мëртвым. Поэтому для признания ИИ живым, нужны вышеозначенные условия.  Мозг человека, конечно, помогает ему правильно воспринимать информацию. Например, анализирует фразы, которые говорит другой человек и в случае, если недослышал, просит повторить.