Опасности и преимущества использования нейросетей и ИИ для человечества - факты и только факты

[Inti]

В научных статьях цифры часто важнее общих выводов. Именно по ним сравнивают технологии, уточняют модели и замечают новые тенденции. Но нужные значения редко лежат на поверхности. Температуры, КПД, выбросы, стоимость, параметры материалов и медицинские показатели обычно спрятаны внутри абзацев вместе с оговорками, единицами измерения, временем, местом и способом расчета. Когда публикаций становится слишком много, вручную собирать такие данные из сотен и тысяч работ почти невозможно.
Исследователи из Юлиха предложили для такой задачи отдельный инструмент.
Подробнее: https://www.securitylab.ru/news/571747.php

[nonconvex]

GPT-Rosalind должна помочь там, где современная биология давно уперлась в масштаб и сложность. За десятилетия геномных исследований и белковой биохимии ученые накопили такие массивы данных, что одному человеку уже трудно охватить весь нужный контекст.
Подробнее: https://www.securitylab.ru/news/571727.php

На самом деле - именно в биологии ИИ вероятно сможет совершить(или поможет совершить) множество открытий, и найти множество решений задач неподвластных человеческому уму.

На самом деле задачу всегда ставит человек, он же перенацеливает ИИ, когда тот уходит в дебри бестолкового перебора во время логического вывода. И вот это нацеливание ИИ неподвластно, по причине вычислительной сложности. 

[Inti]

GPT-Rosalind должна помочь там, где современная биология давно уперлась в масштаб и сложность. За десятилетия геномных исследований и белковой биохимии ученые накопили такие массивы данных, что одному человеку уже трудно охватить весь нужный контекст.
Подробнее: https://www.securitylab.ru/news/571727.php

На самом деле - именно в биологии ИИ вероятно сможет совершить(или поможет совершить) множество открытий, и найти множество решений задач неподвластных человеческому уму.

На самом деле задачу всегда ставит человек, он же перенацеливает ИИ, когда тот уходит в дебри бестолкового перебора во время логического вывода. И вот это нацеливание ИИ неподвластно, по причине вычислительной сложности.

С этим нечего и спорить. Задачи и цели в биологии иногда очень легко ставить, например "хочу жить на 100 лет больше" или "хочу лекарство от рака". Главная сложность именно в решении задач а не в их постановке.

[Inti]

Генеральный директор Anthropic Дарио Амодеи сделал громкое и тревожное заявление о будущем искусственного интеллекта. По его словам, технология, которую он сам активно развивает, может в ближайшие годы привести к масштабным изменениям на рынке труда, к которым общество пока не готово.
Амодеи утверждает, что искусственный интеллект способен заменить до 50% начальных офисных рабочих мест в течение ближайших пяти лет. Речь идет прежде всего о так называемых white-collar позициях — работе в финансах, консалтинге, юриспруденции и IT. Это те сферы, где младшие сотрудники обычно занимаются анализом данных, подготовкой отчетов и обработкой документов — задачами, с которыми современные системы ИИ справляются все лучше и быстрее.

По его оценке, такие изменения могут привести к росту безработицы до 10–20%. Причем наиболее заметные последствия могут начаться уже в горизонте от одного до пяти лет. Амодеи подчеркивает, что многие люди пока не воспринимают эти прогнозы всерьез и не осознают масштаб возможных изменений.

При этом он также описал парадоксальный сценарий, который на первый взгляд выглядит позитивно, но на деле вызывает тревогу. По его словам: «Рак излечен, экономика растет на 10% в год, бюджет сбалансирован, и при этом 20% людей не имеют работы». Эта картина, по мнению Амодеи, показывает, что даже при общем технологическом и экономическом прогрессе социальные последствия могут быть крайне болезненными.

Особенность текущей технологической волны, по его словам, в том, что искусственный интеллект действует одновременно во множестве отраслей. В отличие от прошлых этапов автоматизации, когда работники могли переходить из одной сферы в другую, сейчас ИИ способен затронуть и производственный, и офисный труд. Амодеи называет его фактически универсальной заменой человеческой работы, а не просто инструментом повышения эффективности.

Отдельную обеспокоенность вызывает разрушение традиционной карьерной лестницы. Если начальные позиции исчезают, то у молодых специалистов не будет возможности накапливать опыт. Это может привести к дефициту квалифицированных кадров уже через 5–10 лет.

Некоторые признаки таких изменений уже наблюдаются. Сообщается о значительном снижении найма выпускников в крупных технологических компаниях, а также о десятках тысяч увольнений в США, частично связанных с внедрением ИИ. Кроме того, заметная доля работников выражает опасения по поводу потери работы из-за новых технологий.

При этом не все эксперты согласны с такими оценками. Часть специалистов считает, что влияние ИИ на занятость пока преувеличено, а реальные изменения происходят медленнее. Однако Амодеи настаивает на том, что разработчики технологий обязаны открыто говорить о потенциальных рисках.

В целом его позиция сводится к тому, что искусственный интеллект может одновременно ускорить экономический рост и научный прогресс, но при этом создать серьезные социальные проблемы, включая высокий уровень безработицы. Главный вывод заключается в том, что последствия развития ИИ могут оказаться значительно более быстрыми и масштабными, чем ожидает большинство людей.

[nonconvex]

Генеральный директор Anthropic Дарио Амодеи сделал громкое и тревожное заявление о будущем искусственного интеллекта. По его словам, технология, которую он сам активно развивает, может в ближайшие годы привести к масштабным изменениям на рынке труда, к которым общество пока не готово.
Амодеи утверждает, что искусственный интеллект способен заменить до 50% начальных офисных рабочих мест в течение ближайших пяти лет. Речь идет прежде всего о так называемых white-collar позициях — работе в финансах, консалтинге, юриспруденции и IT. Это те сферы, где младшие сотрудники обычно занимаются анализом данных, подготовкой отчетов и обработкой документов — задачами, с которыми современные системы ИИ справляются все лучше и быстрее.

Откуда возьмутся старшие сотрудники, он громко и тревожно не заявил?

[Inti]

Откуда возьмутся старшие сотрудники, он громко и тревожно не заявил?

Внимательнее если прочитать - то таки заявил:

Отдельную обеспокоенность вызывает разрушение традиционной карьерной лестницы. Если начальные позиции исчезают, то у молодых специалистов не будет возможности накапливать опыт. Это может привести к дефициту квалифицированных кадров уже через 5–10 лет.

[nonconvex]

Откуда возьмутся старшие сотрудники, он громко и тревожно не заявил?

Внимательнее если прочитать - то таки заявил:

Отдельную обеспокоенность вызывает разрушение традиционной карьерной лестницы. Если начальные позиции исчезают, то у молодых специалистов не будет возможности накапливать опыт. Это может привести к дефициту квалифицированных кадров уже через 5–10 лет.

Ну раз заявил, значит такой проблемы нет. В приличных фирмах не зря беруг на работу студентов на летнюю практику, хотя, казалось бы, вот их то точно ИИ заменит.

[Inti]

Альтман c ведущими сотрудниками на презентации нового Chat GPT:

Китай нас никогда не догонит!

[Inti]

[Inti]

OpenAI(разработчик\владелец ChatGPT) выкатила статью на 13-ти страницах о том что что-то надо делать из-за приближения супер-ИИ который сильно поменяет очень многое. 
https://openai.com/ru-RU/index/industrial-policy-for-the-intelligence-age/

Маск уже высказывался по этому поводу коротко и чётко - типа надо будет всем платить деньги(даже неработающим) за счёт налогов. А OpenAI пишет много и какую-то муру, в частности вот это:

Создать Государственный фонд благосостояния, который обеспечит каждому гражданину — в том числе тем, кто не инвестирует на финансовых рынках, — долю в экономическом росте, обусловленном развитием ИИ. В то время как налоговые реформы помогут
правительствам продолжать финансировать важнейшие программы, Государственный фонд благосостояния призван гарантировать, что люди будут напрямую участвовать в выгодах от этого роста. Политики и компании, занимающиеся ИИ, должны работать
вместе, чтобы определить, как лучше всего наполнить Фонд, который мог бы инвестировать в диверсифицированные долгосрочные активы,
отражающие рост как компаний, занимающихся ИИ, так и более широкого круга фирм, внедряющих и использующих ИИ.
Доходы от Фонда могли бы распределяться непосредственно среди граждан, что позволило бы большему количеству людей непосредственно участвовать в выгодах роста, обусловленного ИИ, независимо от их исходного благосостояния или доступа к капиталу.

Прочитал всю статью - и понял что грядут большие перемены, и у Китая пожалуй шансы лучше чтобы сохранить управляемость на всех этих виражах, причём не замедляя развитие и внедрение ИИ. На Западе будут большие проблемы с перестройкой всего общества в общем-то в сторону ИИ-коммунизма, и создания роботовладельческого общества...

[nonconvex]

Прочитал всю статью - и понял что грядут большие перемены, и у Китая пожалуй шансы лучше чтобы сохранить управляемость на всех этих виражах, причём не замедляя развитие и внедрение ИИ. На Западе будут большие проблемы с перестройкой всего общества в общем-то в сторону ИИ-коммунизма, и создания роботовладельческого общества...

Не читайте статьи Альтмана по вечерам. 

[Inti]

Китай включился в гонку: выделены первые $8,4 млрд на создание орбитальных ЦОД

Пекинский стартап Orbital Chenguang привлёк инвестиции и заручился кредитной поддержкой в $8,4 млрд от крупнейших китайских банков для разработки орбитальных дата-центров, которые могут стать альтернативой энергоёмким наземным инфраструктурам. Проект предполагает развёртывание спутников на орбите 700–800 км для достижения мощности свыше 1 ГВт к 2035 году. 
https://hightech.plus/2026/04/26/kitai-vklyuchilsya-v-gonku-videleni-pervie-84-mlrd-na-sozdanie-orbitalnih-cod

[Ну-и-ну]

10.4% – это очень много. Это примерно 15 000 км движения в год (и, следовательно, сотни тысяч долларов затрат).

Первое отметить хочется. "В общем случае" оптимизация чего-либо на 10.4% это не очень много. В зависимости от ситуации это может быть "весьма неплохо", "ну тоже оптимизация" или "вообще ни о чём", но никак не "очень много". Раз уж нравится выделять болдом - то я выделю, как человек, занимающийся оптимизацией половину тридцатилетней карьеры.

Второе - неясно, как из 15тыс. км получаются сотни (мн.ч) тысяч затрат. Это вот вообще ни в какие ворота. Там ездит карьерный самосвал, секрентый танк, музейный паровоз?

Ну т.е. сообщение должно звучать "на одном конкретном складе нам удалось немного соптимизировать уже изрядно отжатый алгоритм, что в перспективе позволит сэкономить несколько десятков тысяч долларов, сейчас команда пытается понять, применима ли данная оптимизация к другим складам" (ибо если бы была явно применима, то уже применили бы, а раз не применили - то не факт, что данные хаки универсально полезны).

[Inti]

Первое отметить хочется. "В общем случае" оптимизация чего-либо на 10.4% это не очень много.

Да в общем-то да, согласен со всеми аргументами.

[TAU]

грядут большие перемены

Вот не верю, по крайней мере, в России, в безусловный доход

А тем временем... проводят серьезные научные исследования о влиянии ИИ на рынок труда.
В глобальном масштабе. 

Дарио обосновал свои алармистские прогнозы насчёт безработицы от ИИ цифрами исследований.

Цитата
Anthropic обнаружил снижение на 14% уровня трудоустройства (job finding rate) для работников в возрасте от 22 до 25 лет в высоко подверженных ИИ профессиях с момента запуска ChatGPT. Это подтверждается и другими исследованиями социологов, а также опросами журналистов через массовые интервью.

В основном безработица от ИИ сейчас формируется у джунов в ИТ, которые изучают какой-то стек технологий и могут применять его только на простейших задачах. Это лобовая конкуренция с ИИ-ботами, поэтому многие из них сразу после колледжа по IT-специальностям в США идут в Макдональдс. При этом на студенте часто повисает еще долг за обучение порядка $200 000. Основная проблема — полная нерелевантность старого IT-образования новой ИИ-реальности.

В то же время ИИ-лоялисты зарабатывают на 47% больше, чем ИИ-скептики. Это также подтверждается другими исследованиями в США.

Дарио пишет, что есть профессии, не подверженные влиянию ИИ, куда могут идти работать ИИ-скептики: повара, механики, бармены и посудомойки.

По исследованию Anthropic по спектру задач в области ИТ и математики ИИ теоретически способен выполнять 94% их задач. В настоящее время он выполняет 33% из них. Для офисных и административных ролей теоретическая способность составляет 90%. Текущая наблюдаемое покрытие офисных функций персонала агентами где они внедрены — 40%. По мнению Дарио это существенно меньше даже текущих возможностей LLM и бизнес просто не все успевает внедрять в таком же темпе как ИТ.

Bloomberg сообщает

Цитата
о начале кризиса занятости в молодежи в ЕС из-за ИИ. Молодежная безработица на максимуме за десятилетие.

Как "решение" молодежь стала часто пытаться получить "запасное образование" (emergency degrees).  США запрос на второе образование юристом выросло на 32%, а в Европе — спрос на бизнес-магистратуру.

Однако эксперты по рынку труда оценивают это как иррациональный жест отчаяния из-за сложности получения работы entry-level. Те же юристы находят в эпицентре поражения от ИИ, т.к. в топе вытесняемых LLM ботами специальностей.

Нет никакой гарантии, что второе образование на юриста или менеджера поможет конкуренции с ИИ ботами, но новое поколение американцев и европейцев все больше залезает в долги, беря кредиты на такое образование.

Строго говоря, видно что и сами студенты и сами образовательные организации не очень знают, что делать с уже начавшимся ИИ нашествием. Очевидно нужно специальное образование с прицелом на сотрудничество, а не конкуренцию с ИИ ботами, но старая образовательная система из-за консервативности потеряла связь с новой реальностью.

[Inti]

Дарио пишет, что есть профессии, не подверженные влиянию ИИ, куда могут идти работать ИИ-скептики: повара, механики, бармены и посудомойки.

С ними будет такая же хрень когда роботы кругом появятся. Вопрос только в сроке. Может через 5 лет, может через 25 - но они освоят и эти профессии.

Вот не верю, по крайней мере, в России, в безусловный доход

В России об этом пока рано беспокоиться. Да и Европе тоже. Будем смотреть на изменения в США и Китае.

[nonconvex]

Дарио пишет, что есть профессии, не подверженные влиянию ИИ, куда могут идти работать ИИ-скептики: повара, механики, бармены и посудомойки.

С ними будет такая же хрень когда роботы кругом появятся. Вопрос только в сроке. 

Вопрос в надежности и в стоимости обслуживания этих самых роботов. Будут крупные убытки и банкротства энтузиастов, после чего для роботов наступит зима. 

[Inti]

Вопрос в надежности и в стоимости обслуживания этих самых роботов.

Прикол в том что достаточно совершенные роботы смогут обслуживать сами себя и друг друга    А также производить сами себя, и даже проектировать и улучшать сами себя. Это только вопрос времени когда это будет. Возможно через десятки лет, но может быть и гораздо скорее, это всё будет зависеть от темпов улучшения ИИ.

Будут крупные убытки и банкротства энтузиастов, после чего для роботов наступит зима. 

Зима в своё время наступила для японского Азимо - потому что в то время ИИ практически не было, и он так и остался безмозглой игрушкой. А теперь, когда ИИ растёт как на дрожжах, и у Теслы есть рабочий автопилот - уже ясно что создание мозгов для роботов - вполне достижимая цель. Кто-то где-то может и обанкротится, но в целом эта отрасль будет расти и расти.

[nonconvex]

Вопрос в надежности и в стоимости обслуживания этих самых роботов.

Прикол в том что достаточно совершенные роботы смогут обслуживать сами себя и друг друга    А также производить сами себя, и даже проектировать и улучшать сами себя. Это только вопрос времени когда это будет. Возможно через десятки лет, но может быть и гораздо скорее, это всё будет зависеть от темпов улучшения ИИ.

Будут крупные убытки и банкротства энтузиастов, после чего для роботов наступит зима.

Зима в своё время наступила для японского Азимо - потому что в то время ИИ практически не было, и он так и остался безмозглой игрушкой. А теперь, когда ИИ растёт как на дрожжах, и у Теслы есть рабочий автопилот - уже ясно что создание мозгов для роботов - вполне достижимая цель. Кто-то где-то может и обанкротится, но в целом эта отрасль будет расти и расти.

Вы не поняли. Роботы будут быстро деградировать, особенно их батареи. ИИ тут непричем, их убьет механика. 

[Inti]

Роботы будут быстро деградировать, особенно их батареи. ИИ тут непричем, их убьет механика. 

Батареи нынче не так уж и дороги и довольно-таки выносливые. Не говоря уже о том что на некоторых рабочих местах можно и провод подключать. Любые проблемы с механикой вполне решаемы, слава богу это не ДВС с тысячами оборотов в минуту.