Опасности и преимущества использования нейросетей и ИИ для человечества - факты и только факты

[Qwery]

Все отсюда же

нет связи, в теме про разум а в цитате про дух

Связь в том, что создание себеподобного приводит к катаклизмам.
Во всяком случае, в воображении авторов.

[Serge V Iz]

Статья о "качестве рассуждений" ИИ, включая сверхбольшие языковые модели:

https://arxiv.org/html/2406.02061v4

Статья посвящена исследованию реакций больших сетей на простейшие "детские" задачи, требующие "понимания" (в "человеческом" смысле) существа и отношений фигурирующих в этих задачах объектов.

Как, например, в задаче: "У Алисы А братьев и Б сестёр. Сколько сестёр у брата Алисы?"

Судя по предьявленному результату, процессы, происходящие в этих ИИ, рассуждением называть вообще не сто́ит. )

[telekast]

Статья о "качестве рассуждений" ИИ, включая сверхбольшие языковые модели:

https://arxiv.org/html/2406.02061v4

Статья посвящена исследованию реакций больших сетей на простейшие "детские" задачи, требующие "понимания" (в "человеческом" смысле) существа и отношений фигурирующих в этих задачах объектов.

Как например в задаче: "У Алисы А братьев и Б сестёр. Сколько сестёр у брата Алисы?"

Судя по предьявленному результату, процессы, происходящие в этих ИИ, рассуждением называть вообще не сто́ит. )

Ну, на вопрос "Кто сын моего отца, но не я" телеговский ЧатЖПТ4 ответил правильно. Но с братьями и сестрами облажался. Когда я ему написал правильный ответ, вкурил, согласился и поблагодарил. Думаю, в алгоритм обучения поправку внесли/внесут. Так что далее эта хохма уже не прокатит. Но да, пока это все ещё вариант тупого перебора в поисках лучшего ответа.
Имху

[nonconvex]

Статья о "качестве рассуждений" ИИ, включая сверхбольшие языковые модели:

https://arxiv.org/html/2406.02061v4

Статья посвящена исследованию реакций больших сетей на простейшие "детские" задачи, требующие "понимания" (в "человеческом" смысле) существа и отношений фигурирующих в этих задачах объектов.

Как например в задаче: "У Алисы А братьев и Б сестёр. Сколько сестёр у брата Алисы?"

Судя по предьявленному результату, процессы, происходящие в этих ИИ, рассуждением называть вообще не сто́ит. )

Ну, на вопрос "Кто сын моего отца, но не я" телеговский ЧатЖПТ4 ответил правильно. Но с братьями и сестрами облажался. Когда я ему написал правильный ответ, вкурил, согласился и поблагодарил. Думаю, в алгоритм обучения поправку внесли/внесут. Так что далее эта хохма уже не прокатит. Но да, пока это все ещё вариант тупого перебора в поисках лучшего ответа.
Имху

Следующий вопрос будет А + С, и облажается опять. Или, скажем, А + B + C. Поэтому да, тупой перебор в процессе обучения имеет экспоненциальную сложность, и решения этой фундаментальной проблемы не предвидится.

[Inti]

https://www.youtube.com/watch?v=21WvDsn1pSE

[Антикосмит]

Хотели получить искусственный интеллект, а получили искусственного гуманитария. Как будто бы натуральных не хватает...

[Inti]

https://t.me/journal_RTC/1717

[Inti]

Великобритания, США и Евросоюз подписали первый юридически обязывающий международный договор об использовании искусственного интеллекта (ИИ), следует из коммюнике на сайте Совета Европы.

«Рамочная конвенцию подписали Андорра, Грузия, Исландия, Норвегия, Молдова, Сан-Марино, Великобритания, Израиль, США и ЕС», — говорится в коммюнике.

Как указано в тексте, договор устанавливает правовую основу, охватывающую весь жизненный цикл систем искусственного интеллекта.

«Он поощряет прогресс и инновации в этой области, одновременно снижая риски, которые ИИ может представлять для прав человека, демократии и верховенства закона», — следует из релиза.

Ранее газета Financial Times сообщала, что этот документ в течение двух лет разрабатывался более чем 50 странами, среди которых Канада, Израиль, Япония и Австралия.

Все подписавшие его стороны будут нести ответственность за любые вредоносные и дискриминационные результаты деятельности систем ИИ. Соглашение обязывает следить за соблюдением равенства и прав на неприкосновенность, а также за тем, чтобы пострадавшие от связанных с ИИ нарушений могли обратиться в суд.

[Inti]

На этот раз о преимуществах 

https://t.me/exploitex/17956

[Inti]

ИНТЕРВЬЮ бывшего ген Директора Google о перспективах ИИ, в том числе военных
(с переводом на русский)

Спойлер

https://www.youtube.com/watch?v=b-PxSLQoU-I

[свернуть]

[Inti]

Нейросеть попросили показать морских чудовищ, и вот что получилось!
Выглядит жутко...

Спойлер

https://t.me/gptpublic/3392

[свернуть]

[Inti]

Китай запустил первую в мире больницу с ИИ

https://t.me/binarcat/3720

[свернуть]

[Inti]

Кажется ИИ больше всего угрожает современным женщинам...

A Retro Future AI Fantasy

https://www.youtube.com/watch?v=qzGgjCgNEOs

[свернуть]

И музыкантам...
https://www.youtube.com/shorts/Adi-1NJz5eo

[Дем]

https://er10.kz/read/it-novosti/semja-poluchila-otravlenie-iz-za-knigi-o-gribah-ot-chatgpt/

Семья из Великобритании получила отравление, после того, как купила электронную книгу о грибах в онлайн-магазине Amazon и использовала полученные знания. Как впоследствии оказалось, иллюстрированное пособие «Грибы Великобритании: Руководство по сбору безопасных и съедобных грибов» было написано при помощи ChatGPT.
Отравление оказалось настолько сильным, что все члены семьи попали в больницу. Они утверждают, что в онлайн-магазине не было указаний на то, что книга создана при помощи искусственного интеллекта. Однако, как показало исследование, даже фотографии грибов были сгенерированы нейросетью.

[Inti]

Интервью Маска с Риши Сунаком по теме ИИ
(Rishi Sunak is a British politician who served as Prime Minister of the United Kingdom from 2022 to 2024)

Видео на английском

https://www.youtube.com/watch?v=pJ6n0gunKFg

[свернуть]

Яндекс-пересказ

Илон Маск ЛИШАЕТ Аудиторию Дара Речи В Потрясающем Интервью (Supercut)

00:00 Введение и роль искусственного интеллекта

• Билл Гейтс высоко оценил вклад в научные инновации.
• Автор видео предупреждает о необходимости осторожности в развитии искусственного интеллекта AI.
• Прорывы в технологиях, такие как динамически созданные видео и ChatGPT, вызывают беспокойство.

01:14 Важность безопасности AI

• Автор считает, что AI может превзойти человеческий интеллект.
• Конференция по безопасности AI важна для истории.
• Правительство должно играть роль в защите общественной безопасности.

02:52 Роль регулирования

• Регулирование может раздражать, но необходимо для общественной безопасности.
• Регулирование должно быть "рефери" для технологий.
• Важно снизить вероятность негативных последствий AI.

04:10 Институт безопасности AI

• Необходимость независимого института для оценки безопасности AI.
• Правительства должны быстро наращивать потенциал и персонал.
• Темпы развития AI опережают все предыдущие технологии.

05:27 Международное сотрудничество

• Важность международного сотрудничества в безопасности AI.
• Китай готов участвовать в обеспечении безопасности AI.
• Присутствие Китая на саммите по безопасности AI было важным.

06:50 Открытый исходный код и регулирование

• Алгоритмы с открытым исходным кодом отстают от закрытых на 6-12 месяцев.
• Открытый исходный код может быть полезен для инноваций.
• Важно понимать, что происходит в закрытых источниках AI.

09:18 Влияние искусственного интеллекта на рынки труда

• Искусственный интеллект ИИ может стать умнее самого умного человека.
• В будущем ИИ сможет выполнять все задачи, что приведет к исчезновению многих рабочих мест.
• Люди могут найти личное удовлетворение в работе, но ИИ будет выполнять все задачи.

10:33 Проблемы и возможности будущего с ИИ

• ИИ может стать волшебным джинном, исполняющим все желания.
• Это приведет к всеобщему высокому доходу и эпохе изобилия.
• Образование станет лучше благодаря ИИ, что улучшит качество жизни.

12:00 Работа и смысл жизни

• Работа придает смысл жизни, но ИИ может заменить многие задачи.
• Люди могут сознательно отказываться от работы, если ИИ может выполнить задачи.
• Важно, чтобы люди находили удовлетворение в других аспектах жизни, несмотря на ИИ.

14:03 Образование и ИИ

• ИИ может стать отличным личным репетитором, особенно для детей.
• ИИ может стать другом, запоминающим все взаимодействия и знания человека.
• ИИ может помочь людям с проблемами обучаемости и социальной адаптацией.

16:26 Изменения в модерации контента

• Переход от ручного подхода к модерации к заметкам сообщества.
• Заметки сообщества обеспечивают прозрачность и консенсус.
• ИИ помогает заполнять пространство параметров вокруг участников, что улучшает качество контента.

18:51 Обратная корреляция и достоверность

• Обратная корреляция помогает определить достоверность заметок.
• Высокий средний показатель отбивания дезинформации.
• Платформа стремится быть точной и правдивой, несмотря на возможные негативные реакции.

20:02 Поддержка новых компаний

• Великобритания нуждается в поддержке для создания компаний-единорогов.
• Важность поддержки небольших компаний, а не крупных.
• Лондон и Сан-Франциско лидируют в области искусственного интеллекта.

22:01 Влияние искусственного интеллекта на повседневную жизнь

• Искусственный интеллект упрощает взаимодействие с правительством.
• Пример с получением водительских прав и паспортов через веб-сайт.
• ИИ помогает в повседневных задачах, таких как потеря паспорта и билетов на самолет.

24:46 Образование и искусственный интеллект

• ИИ может помочь в образовании, но не заменит преподавателей.
• Важно, чтобы ИИ давал правильные ответы, а не заведомо неверные.
• ИИ облегчит обучение на дому для родителей.

25:27 Роботы и эпоха изобилия

• Все, что управляется компьютером, можно считать роботом.
• Великобритания и Германия лидируют в производстве роботов.
• Проблема безопасности человекоподобных роботов требует локальных функций отключения.

28:23 Опасения по поводу роботов

• Обсуждение возможности обновления программного обеспечения роботов, что может привести к их недружелюбию.
• Сравнение с фильмами Джеймса Кэмерона, где люди находят способ выключить технологии.
• Важность реальных физических выключателей для безопасности.

29:38 Проблемы с искусственным интеллектом

• Рост фишинговых атак с использованием искусственного интеллекта.
• Необходимость защиты бизнеса и потребителей от этих атак.
• Проблема доверия к технологиям, которые могут проходить тесты лучше людей.

31:05 Планы по защите от ботов

• Идея взимания небольшой платы за использование ботов для борьбы с кражей кредитных карт.
• Необходимость снижения рисков для доверия к технологиям.
• Важность демонстрации усилий по управлению рисками.

32:57 Исследование дезинформации

• Использование искусственного интеллекта для создания поддельных профилей в социальных сетях.
• Проблема распространения дезинформации через поддельные профили.
• Необходимость аутентификации визуальных медиа для повышения доверия.

35:11 Будущее выборов и технологий

• Важность борьбы с дезинформацией на выборах в следующем году.
• Проблемы, связанные с крупными выборами по всему миру.
• Надежда на то, что технологии приведут к большему человеческому счастью и равенству.

[свернуть]

[Inti]

Мультмиллиардер и основатель Oracle Ларри Эллисон торжественно заявил, что дроны с помощью искусственного интеллекта смогут наконец тотально контролировать «непослушное население» и может гарантировать «наилучшее поведение граждан».

[Inti]

https://t.me/moscow_2030/8643

[Qwery]

Великобритания, США и Евросоюз подписали первый юридически обязывающий международный договор об использовании искусственного интеллекта (ИИ), следует из коммюнике на сайте Совета Европы.

... {skip}

Ранее газета Financial Times сообщала, что этот документ в течение двух лет разрабатывался более чем 50 странами, среди которых Канада, Израиль, Япония и Австралия.

Все подписавшие его стороны будут нести ответственность за любые вредоносные и дискриминационные результаты деятельности систем ИИ. Соглашение обязывает следить за соблюдением равенства и прав на неприкосновенность, а также за тем, чтобы пострадавшие от связанных с ИИ нарушений могли обратиться в суд.

Дьявол, как известно, кроется в деталях. Интересно, что они понимают под "дискриминационные". Если это например, как ИИ Gemini от Google рисовал основателей Америки и Папу Римского с черной кожей (ну чтоб не дискриминировать небелые расы), то эта не-дискриминация весьма опасна, в плане как-раз разжигания межнациональных конфликтов. Лучше уж тренировать ИИ на "правда, только правда и ничего кроме правды", даже будь эта правда неприятной для кого-то.

Но, думаю будет как обычно. Регуляции, договоры, разговоры, а получится то что получится.