Опасности и преимущества использования нейросетей и ИИ для человечества - факты и только факты

[Inti]

[TAU]

Аналитики Citrini представили, что произойдет, если ИИ продолжит развиваться очень успешно. Результат впечатлил на столько, что инвесторы устроили распродажу.

Логика отчета:

- Массовая безработица. ИИ-агенты к 2028 году заменят людей в финансах, юриспруденции, программировании, управлении. Уровень безработицы в США подскочит выше 10,0%. Сейчас 4,3%.

- Крах потребительского сектора. Уволенные высокооплачиваемые специалисты перестают тратить деньги и обрушивают потребление.

- Крах целых индустрий.Платежные системы ИИ-агенты заменяют на прямые расчеты в стейблкоинах. Visa (V) -4,50%, Mastercard (MA)-5,77%, American Express (AXP) -7,20% теряют доход от комиссий.
- Компании смогут сами написать себе любой софт. Разработчики ПО вроде ServiceNow (NOW) -3,33%, Salesforce (CRM) -3,78% и других теряют заказы.
- ИИ-агенты сделают не нужными агрегаторы вроде Uber (UBER) -4,25% и других. Они будут сами сравнивать цены искать курьера.
- Огромные кредиты софтверных компаний под будущие прибыли окажутся безнадежными. Сильно пострадает весь финансовый сектор. JPMorgan (JPM) -4,2%, Citigroup (C) -4,53% и так далее.

Наконец сочетание рецессии и корпоративных дефолтов приводит к падению индекса S&P 500 на 38%.

[cross-track]

https://x.com/shanaka86/status/2026064775772504138
A blog post just wiped $30 billion off IBM in a single afternoon.

Not a product launch. Not an earnings miss. Not a competitor undercutting on price.

A five-minute blog post explaining that Claude can read COBOL.

IBM dropped 13%. Worst single-day loss since October 2000. Twenty-five years of stock resilience ended by one AI company publishing a capability update.


Here's what happened:

95% of ATM transactions in America run on COBOL. Hundreds of billions of lines power banking, airlines, and government systems. The developers who built them retired decades ago. The knowledge left with them. Finding engineers who can even read COBOL gets harder every quarter.
IBM's moat was never the technology. It was the fact that nobody else could understand it. Entire consulting empires existed because the code was too old, too tangled, and too critical to touch. Companies paid IBM billions because the alternative was catastrophic system failure.
Then Anthropic published a blog post saying Claude Code can map dependencies across thousands of lines of COBOL, document workflows, identify migration risks, and translate legacy logic into modern languages. Modernization in quarters instead of years.
The market heard: the priesthood just lost its monopoly on the sacred language.

Спойлер

And this isn't the first time. Last week Anthropic announced Claude Code Security for vulnerability scanning. CrowdStrike dropped. Okta dropped. Cloudflare dropped. One company is serially destroying legacy moats with blog posts.

Now here's where it gets surreal.

This same company, on the same day, also published evidence that three Chinese AI labs ran 24,000 fake accounts and 16 million exchanges to steal Claude's capabilities. DeepSeek used it to build censorship tools. MiniMax pivoted within 24 hours when a new model dropped, redirecting half its traffic to steal the latest version.

And yesterday, the Pentagon summoned this same company's CEO for what officials called a "sh*t-or-get-off-the-pot meeting," threatening to blacklist them like Huawei for refusing to let the military use Claude without safety restrictions.

Three stories. One company. Twenty-four hours.

The company destroying legacy moats faster than the market can reprice them is simultaneously being threatened by its own government and looted by foreign competitors.

Anthropic is valued at $380 billion. Its CEO says a 12-month delay in AI would make him bankrupt. The Pentagon wants to designate it a supply chain risk. Chinese labs are running industrial espionage against it. And it just proved it can vaporize $30 billion in market cap with a Monday morning blog post.

Whatever you think about AI disruption, IBM's stock just settled the argument.

[свернуть]

Автоперевод:

Спойлер

Одна запись в блоге обрушила акции IBM на 30 миллиардов долларов за один день. Не запуск продукта. Не провал отчетности. Не снижение цен конкурентом. Пятиминутная запись в блоге, объясняющая, что Клод умеет читать COBOL. Акции IBM упали на 13%. Худшее однодневное падение с октября 2000 года. Двадцать пять лет устойчивости акций закончились публикацией компанией, занимающейся искусственным интеллектом, обновления своих возможностей. Вот что произошло: 95% транзакций в банкоматах в Америке работают на COBOL. Сотни миллиардов строк кода обеспечивают работу банковских, авиационных и государственных систем. Разработчики, создавшие их, ушли на пенсию десятилетия назад. Знания ушли вместе с ними. Найти инженеров, которые вообще умеют читать COBOL, становится все сложнее с каждым кварталом. Преимуществом IBM никогда не была технология. Преимуществом было то, что никто другой не мог ее понять. Целые консалтинговые империи существовали потому, что код был слишком старым, слишком запутанным и слишком важным, чтобы его трогать. Компании платили IBM миллиарды, потому что альтернативой был катастрофический сбой системы. Затем компания Anthropic опубликовала в блоге сообщение о том, что Claude Code может отображать зависимости в тысячах строк кода COBOL, документировать рабочие процессы, выявлять риски миграции и переводить устаревшую логику на современные языки. Модернизация за кварталы, а не за годы. Рынок услышал: жрецы только что потеряли свою монополию на священный язык. И это не первый раз. На прошлой неделе Anthropic анонсировала Claude Code Security для сканирования уязвимостей. CrowdStrike отказалась от проекта. Okta отказалась. Cloudflare отказалась. Одна компания последовательно разрушает устаревшие «защитные барьеры» с помощью сообщений в блогах. И вот тут начинается сюрреалистическое. Эта же компания в тот же день опубликовала доказательства того, что три китайские лаборатории ИИ использовали 24 000 фейковых аккаунтов и 16 миллионов обменов, чтобы украсть возможности Claude. DeepSeek использовала его для создания инструментов цензуры. MiniMax переориентировалась в течение 24 часов после выхода новой модели, перенаправив половину своего трафика на кражу последней версии. А вчера Пентагон вызвал генерального директора этой же компании на то, что чиновники назвали «совещанием по принципу «либо всё, либо ничего», пригрозив внести её в чёрный список, как Huawei за отказ разрешить военным использовать Claude без ограничений по безопасности. Три истории. Одна компания. Двадцать четыре часа. Компания, разрушающая традиционные конкурентные преимущества быстрее, чем рынок успевает их переоценивать, одновременно находится под угрозой со стороны собственного правительства и подвергается разграблению со стороны иностранных конкурентов. Anthropic оценивается в 380 миллиардов долларов. Её генеральный директор говорит, что 12-месячная задержка в разработке ИИ приведёт его к банкротству. Пентагон хочет объявить её риском для цепочки поставок. Китайские лаборатории ведут против неё промышленный шпионаж. И она только что доказала, что может обнулить рыночную капитализацию в 30 миллиардов долларов, опубликовав в понедельник утром сообщение в блоге. Что бы вы ни думали о разрушительном влиянии ИИ, акции IBM только что разрешили этот спор.

[свернуть]

[Inti]

Группа из Пекинского университета под руководством старшего исследователя Цю Чэнгуана (Qiu Chenguang) и при участии Пэн Ляньмао (Peng Lianmao, академика Китайской академии наук) разработала то, что называют самым маленьким и самым энергоэффективным ферроэлектрическим транзистором (конкретно — нано-затворный ферроэлектрический полевой транзистор, FeFET).Основные характеристики:

• Длина затвора сокращена до всего 1 нанометра — это выходит за пределы текущих коммерческих возможностей традиционных кремниевых транзисторов.
• Работает при сверхнизком напряжении 0,6 В, что резко снижает энергопотребление по сравнению с обычными конструкциями.
• Удалось преодолеть давние проблемы традиционных ферроэлектрических транзисторов: высокое энергопотребление и несоответствие напряжений между памятью и логическими схемами. Новая конструкция позволяет бесшовно и с минимальными потерями передавать данные между памятью и вычислительными блоками — без барьеров по напряжению.

Это изобретение особенно перспективно для аппаратуры ИИ, где энергоэффективность критически важна при обработке огромных вычислений в дата-центрах, на периферийных устройствах и в чипах нового поколения. Оно может открыть путь к более масштабируемым и экономичным ускорителям ИИ за счёт гораздо более тесной интеграции памяти и логики, существенно снижая колоссальные энергозатраты на обучение и работу больших моделей.Работа опубликована в рецензируемом журнале Science Advances в начале февраля 2026 года.
Китайские государственные СМИ (Xinhua, China Daily, Science and Technology Daily) и издания вроде South China Morning Post подчёркивают, что это преодоление ключевых барьеров для широкого промышленного применения в высокопроизводительных вычислениях.

[Inti]

Интересная статейка.

China building a different AI future than the West
Western debates focus on AI replacing humans; in China, emphasis is on functional reorganization toward a predictive state
https://asiatimes.com/2026/02/china-building-a-different-ai-future-than-the-west/

[nonconvex]

https://x.com/shanaka86/status/2026064775772504138
A blog post just wiped $30 billion off IBM in a single afternoon.

Not a product launch. Not an earnings miss. Not a competitor undercutting on price.

A five-minute blog post explaining that Claude can read COBOL.

IBM dropped 13%. Worst single-day loss since October 2000. Twenty-five years of stock resilience ended by one AI company publishing a capability update.

Вах-вах. Уже половину отыграли обратно. На рынке гуляют шизофренические волны, одна утверждает что ИИ полная хрень, другая - что ИИ вот-вот закроет все производства гуманоидов. Соответствено и истерики биржевых маклеров, которые не понимают что происходит.
Маслица в огонь подливают всевозможные эксперты, в надежде на быстрый гешефт.

[Inti]

 Грабь награбленное! 

Великий нейросетевой грабёж. Сразу три китайские компании подчистую скопировали логику работы нейросети Claude
Подробнее: https://www.securitylab.ru/news/569708.php

А чего они хотели? Все нейросети учатся на чём-то, почему бы не на других нейросетях?

[nonconvex]

Грабь награбленное! 

Великий нейросетевой грабёж. Сразу три китайские компании подчистую скопировали логику работы нейросети Claude

Попытка воровства была, но откуда вы взяли про "копирование подчистую"? Сами придумали?

[TAU]

Позволю себе перенести сюда

человека с другого форума и свой ответ на него, поскольку проблемы затрагивались важные.

Цитата: AndreyK-AV от 27.02.2026 23:26:36

1. Мы всё чаще пользуемся технологиями, не понимая, как они работают.. Стоит разорвать её хотя бы на одно поколение, и знание исчезает.
2. разработчики LLM-моделей сталкиваются с проблемой интерпретируемости
3. если код программы, обеспечивающий работу высокотехнологичной системы, сгенерирован ИИ
4. Реальный риск сегодняшнего времени не в том, что машины станут автономными, а в том, что человек утратит способность проверять... возникает слепое доверие результату.
5. Во все времена мы могли наблюдать это явление у нерадивых школьников

Весьма важный материал, заслуживающий анализа по пунктам.
1. Увы, все верно. Примеров полно. И исторических, и прям злободневных.
2. Совершенно верно. Нейросети - не лучший инструмент для решения интеллектуальных задач во многих случаях, несмотря на моду и пиар. Для критически важных приложений - да даже автопилот авто - проблема черного ящика и отсутствия интерпретируемости стоит в полный рост. А еще нейросети есть подвид машинного обучения, и мы упираемся в нехватку или принципиальное отсутствие достаточного набора хороших данных для ентого самого обучения - а если на входе гуано, на выходе получится гуано, пусть и красиво упакованное. А еще нейросети вычислительно чрезвычайно прожорливы, читай неэффективны. Поэтому если можно с приемлемым качеством решить интеллектуальную задачу без машинного обучения, без нейросетей - надо решать без.

3. Ну здесь все не столь страшно. В критически важных отраслях - атомной, космонавтике, и т.п. процессы создания управляющего ПО строго расписаны, фиксированы в документации, программное обеспечение проходит многоэтапную отладку и даже бывает, строгую верификацию. Никто в здравом уме не будет слепо доверять здесь выдаче языковой модели.

4. А вот в других отраслях эффект уже набирает обороты, увы! И поднимаете проблему весьма злободневную!

5. Деградация умственных способностей человека XXI века налицо, правильно. Если мозговую мышцу не тренировать - она атрофируется. И действительно, проблема была и до массового внедрения ИИ - но сейчас обостряется.

[nonconvex]

Да ладно, нагнали ужаса понимаешь. Интерпретация вывода нейросети уже освоена, нет там никакой магии, обычная прогулка по весовым коэффициентам решений. Проблема была бы, если бы нейросеть выдавала действительно новые решения, используя например вероятностные квантовые алгоритмы на соответствующем железе, вот тогда да, пойди разберись куда отыграла вероятность, механизм то неизвестен.

[Inti]

Мы всё чаще пользуемся технологиями, не понимая, как они работают.. Стоит разорвать её хотя бы на одно поколение, и знание исчезает.

На самом деле это всё-таки вопрос подробного документирования всех технологий. Понятное дело что раньше, до появления компьютеров и автоматизации всё задокументировать было невозможно. А теперь это в принципе осуществимая задача. Очень интересное видео на эту тему. Не знаю насколько оно правдивое, но чел рассказывает что на Тесле документируют не только общий дизайн, но и кучу данных о производстве каждого конкретного автомобиля - и даже после продажи к ним поступают данные от каждой машины - т.е. они могут сопоставить например как деградирует батарея в зависимости от партии батарей которые они получают от разных поставщиков, или в зависимости от того как часто владелец пользуется быстрой зарядкой. Насколько я понял - там документируется и хранится буквально вся информация о режимах станков, прессов и вообще всего с чего можно получить данные. И если вдруг обнаруживается проблема - то её происхождение можно отследить.

[TAU]

Интерпретация вывода нейросети уже освоена

Нет. Весов ведь миллиарды. И вклад каждого в итог неясен.

Небольшие успехи есть, антропики пытаются. Но далеко до полного понимания.

[TAU]

t.me/data_secrets/8812
Скептикам, считающим, что ИИ не создает "ничего подлинно нового".
И "упирается в потолок экспоненциальной сложности".

Claude Opus 4.6 решил задачу, с которой сам маэстро не справился

Claude Opus 4.6 решил сложную задачу, над которой сам Кнут и его друзья работали неделями...
Сейчас легендарному Дональду Кнуту 88 лет, но он продолжает работать и даже писать. Конкретно сейчас он занят написанием четвертого тома The Art of Computer Programming (а именно, третьей его части). Этот том полностью посвящен комбинаторным задачам.

И вот вчера, внезапно, на сайте Стэнфорда появляется статья его авторства, которая начинается буквально со слов "ШОК! ШОК!".

Оказалось, что Claude Opus 4.6 решил сложную задачу, над которой сам Кнут и его друзья работали неделями. Задача связана с поиском гамильтоновых циклов... Кнут работал над ней несколько недель, но нашел решение только для случая m = 3. Его коллега Filip Stappers затем попробовал исследовать задачу вычислительно и эмпирически нашел разложения для m от 4 до 16.
Решение в общем виде никому из них найти не удалось, пока Stappers не задал задачу Claude Opus 4.6. Бот думал примерно час и нашел конструкцию, которая работает для всех нечетных m.
С подачи Кнута задача получила название "Claude's Cycles", и вот что он пишет об этом результате:

Похоже, мне придется пересмотреть свои взгляды на генеративный ИИ. <> Подход Claude к решению был очень впечатляющим. <> Думаю, дух Клода Шеннона гордится, что его имя теперь связано с такими прорывами. Браво, Клод!

[Inti]

Юмористическая статья в общем-то 

This vibe-coded operating system looks like a nightmarish version of our AI OS future, although some of the function keys change the wallpaper so that's fun
https://www.pcgamer.com/software/operating-systems/this-vibe-coded-operating-system-looks-like-a-nightmarish-version-of-our-ai-os-future-although-some-of-the-function-keys-change-the-wallpaper-so-thats-fun/

[nonconvex]

Интерпретация вывода нейросети уже освоена

Нет. Весов ведь миллиарды. И вклад каждого в итог неясен.

Небольшие успехи есть, антропики пытаются. Но далеко до полного понимания.

Вполне понятен. В каждом слое можно выделить группу решений с максимальными весами и построить траекторию. Неясности возникали при псевдослучайном переходе, которому и приписывали "творческое" начало, но потом выяснилось, что там банальная неточность вычислений.

[nonconvex]

t.me/data_secrets/8812
Скептикам, считающим, что ИИ не создает "ничего подлинно нового".
И "упирается в потолок экспоненциальной сложности".

Claude Opus 4.6 решил задачу, с которой сам маэстро не справился

Все же следует отметить, что Маэстро 88 лет (дай бог каждому сохранить ясность ума в таком возрасте) , и работал он над этой задачкой несколько недель, естественно отвлекаясь на другие нужды на кафедре информатики Стенфорда.

an open problem I'd been working on for several weeks had just
been solved by Claude Opus 4.6

Но, тем не менее, успех для ИИ значительный.

[Inti]

Но, тем не менее, успех для ИИ значительный.

На этом же канале - о другом успехе в математике:

[Inti]

Не ИИ-новость, однако близко...

Моделируя жизненный цикл минимальной бактериальной клетки — от репликации ДНК до трансляции белков, метаболизма и деления, ученые открыли новый рубеж компьютерной симуляции основных процессов жизни.
https://phys.org/news/2026-03-simulating-entire-cell-years-multiple.html

[Inti]

На 8-е Марта 

[Inti]

4 марта 2026 года Илон Маск опубликовал в X (Twitter) следующий пост:

«Tesla will be one of the companies to make AGI and probably the first to make it in humanoid/atom-shaping form»


Перевод: «Tesla станет одной из компаний, которые создадут AGI, и, вероятно, первой, кто реализует его в человекоподобной форме с атомным моделированием/формовкой атомов».

В новостях иногда переводят «atom-shaping» как «технология атомной точности» или «атомно-точное формообразование».

Маск уже неоднократно говорил, что реальный мир (автопилот + робот Optimus) — это самый сложный и прямой путь к AGI, потому что требует глубокого понимания физической реальности. По его словам, Optimus с AGI внутри станет первым «воплощением» общего искусственного интеллекта в физическом теле, а не просто чатом или софтом.

Пост набрал уже более 56 млн просмотров и вызвал большую волну обсуждений именно из-за слов «humanoid/atom-shaping form».