Опасности и преимущества использования нейросетей и ИИ для человечества - факты и только факты

[nonconvex]

Космические дата-центры:

Дата, говорите?

[Алексей Кириенко]

И будут выдавать сертифицированные галлюцинации.

Это не совсем верно. Галлюцинации действительно «экзистенциальная проблема», но «жесткое обучение» и надежное цитирование внешних источников все же возможно (правда, в этом случае поучится не ИИ, а банальная экспертная система со слегка более продвинутым пониманием естественного языка, но часто именно это и нужно).

[TAU]

Microsoft - не слыхали?

Это сразу поднимает авторитет в Ваших глазах?

А в ваших - ничего не значит?

А попробуйте не отвечать вопросом на вопрос? Глядишь - и получится беседа. Мне было бы интересно послушать, до какой степени Майкрософт является для Вас авторитетом.

Операционные системы от Микрософта до версии WinNT были непродуманными архитектурно жуткими удолбищами, прямо антипримерами.

Бизнес-модель с проприетарным ПО в виде "акулы капитализма" и "посадкой на иглу" вызывает лично у меня отвращение. 
С# - просто маразм.

Но! Корпорация безусловно богатейшая. Привлекает сотрудников лучших из лучших.

[TAU]

Вероятно, в скором будущем будут выпускаться некие узкоспециализированые, но гарантировано не ошибающиеся LLM-модули, сертифицированные уполномоченными организациями. В виде защищенного файла или даже отдельного чипа с прошивкой. В первую очередь, наверное, для медицины и фармацевтики: вынесение диагноза, выбор вариантов лечения с соответствующей аргументацией и т.д. А поликлиники и врачи будут это покупать для работы.
И обучаться эти модели будут на сертифицированных данных.

Проблема коректности имеет экспоненциальную сложность в общем случае

Вы задолбали своей экспонентой.

На самом деле, практические работы показывают, что возможности языковым моделей увеличиваются практически линейно при увеличении числа параметров и вычислительной мощи.

[TAU]

Не, ребят, я вас понимаю. Сложно принять, что то, чем ты занимался всю сознательную жизнь, на глазах обесценивается и передается машине.

1. чушь то не пишите, программисты как раз... за автоматизацию разработки, не даром
2. основой программирования является повторное использование кода, всевозможные подходы к автоматизации как раз являются развитием этого, в том числе этот "ии".

3. и что? это както не соответствует действительности? нет

Смейтесь, смейтесь. Но помните поговорку, кто смеется хорошо.

4. программисты как раз не сомневаются что возможно создание "ии" который будет хорошо писать
5. хотят этого больше всех

1. Пардон, не верю. Что программисты хотят пойти на биржу труда и перестать получать большие зарплаты. Ну может лично Вы - но не переносите на всех.

2. Действительно, программирование исторически развивалось по пути автоматизации. Неудивительно - ПО как раз и нужно для автоматизации человеческой деятельности в самых разных сферах, сапожники старались не остаться без сапог.
Уже переход от машинного кода к мнемоникам и запоминанию адресов в памяти называли автокодом. Первые трансляторы ЯВУ "программирующими программами", см. диссертацию академика Ершова (к слову, повезло встретиться лично в 1985).

3. Что языковые модели лажают и не могут самостоятельно сделать большой проект - да, правы. Частично. Пока.

4. Вся полемика здесь и не здесь свидетельствует об обратном. Протестуют, желчно спорят и пытаются мемчики писать. Все чтобы не принять явное - скоро профессия вымрет.

5. Не верю! См. выше.

[TAU]

Чем была подтверждена корректность этих проектов? Тестами или чем то еще?

И тестами. И ВНЕДРЕНИЯМИ

Речь была о другом - если у вас система управляющая АЭС (ну например), то тестами тут не обойтись, нужны более железные гарантии , или формальные методы, такие как статический анализ и доказательство теорем, или соответствующий метод проектирования, с защитой проекта, просмотрами, обсуждениями компетентными членами коллектива с естественным интеллектом

И это вы мне рассказываете?!!

Знали бы, с кем имеете честь...

[TAU]

Microsoft - не слыхали?

Это сразу поднимает авторитет в Ваших глазах?

настоящие проекты, 15 тыщ строк

Ради интереса глянул архив одного сайдскроллера для Game Boy Advance, вышедшего в 2001. 80 тыс строк. Игра, в принципе, совсем крошечная по современным меркам. Сейчас за такое, наверное, ничего и не заплатят.

Эх помнится , в самом  начале 90-х ... Конкурс был .. Кто короче и красивее (визуально , на экране )  код напишет  (это на I8086, PC XT ) .  Блиннн . 2-3 кБ- и Красота на экране , Музыка , Пламя в динамике , сопровождающие субтитры, банеры  , переливашки всякие . Вот Мужики- умели!
PS Я не про IOCCC (где 512 байт ограничение) , хотя тоже нельзя не отметить, заслуженно  . https://habr.com/ru/articles/886600/

И мы умели.

Даже на БК. В 16 килобайтах ОЗУ. С музыкой... с визуальными эффектами... с перехватом прерываний. Знавал я людей... Planet of Zoom... Super Pacman... CSI DOS

Были времена...

[TAU]

Владимир Иванов - широко известный в узких кругам гуру управления проектами. Программист с большой буквы. Персона в микрософте.

Product Manager в Microsoft - так?

Нет.

[TAU]

Инвесторы больше не верят в софт

Акции крупных вендоров падают весь год, а катализатором стал хайп вокруг ИИ. На рынке всё чаще говорят (https://blog.vonng.com/en/db/neo-software/), что агентские системы позволят убрать «промежуточные слои» типичного стека — между пользователем и базой данных.

Аналитики опасаются, что привычная бизнес-модель части софт-вендоров изживает себя; кажется, что программную "прослойку" можно навайбкодить и поддерживать с минимальными усилиями. Спрос на новый SaaS будет падать, а на поддержке старых продуктов показать значительный рост уже не получится.

Ценообразование по кредитам (leveraged loans) у софт-компаний также заметно ухудшилось (https://www.bloomberg.com/news/articles/2026-01-31/ai-boom-is-triggering-a-loan-meltdown-for-software-companies-credit-weekly): инвесторы требуют скидок и более высокой компенсации за риск, т. к. сомневаются в устойчивости их бизнеса в условиях AI-революции.

Сектор вошёл в стадию "медвежьего рынка": некоторые акции за год просели на десятки процентов. Даже когда общая отчётность неплохая, результаты по росту и марже оказываются хуже, чем ожидалось пять лет назад.

ИИ-агенты претендуют на роль базового интерфейса для всех задач. В таких условиях ценность сложного бэкенда для классических вендоров может резко снизиться; а уж накодить себе визуал сможет любой желающий.

[Ну-и-ну]

Microsoft - не слыхали?

Это сразу поднимает авторитет в Ваших глазах?

А в ваших - ничего не значит?

А попробуйте не отвечать вопросом на вопрос? Глядишь - и получится беседа. Мне было бы интересно послушать, до какой степени Майкрософт является для Вас авторитетом.

Операционные системы от Микрософта до версии WinNT были непродуманными архитектурно жуткими удолбищами, прямо антипримерами.

Бизнес-модель с проприетарным ПО в виде "акулы капитализма" и "посадкой на иглу" вызывает лично у меня отвращение.
С# - просто маразм.

Но! Корпорация безусловно богатейшая. Привлекает сотрудников лучших из лучших.

А, со многим по списку не вполне согласен. NT была отличная и не случайно стала основной мировой ОС на десятилетия. Делалась вполне опытными людьми (якобы инкрементация каждый буквы аббревиатуры VMS дала WNT не просто так). Многие решения "потом" были спорные, но это именно потом.

Бизнес модель - которые успешные, все (если с лупой ползать) обладают некоей "двойственностью с моральной точки зрения". Что Гугл, что Эпл. что Амазон, Майкрософт тут не хуже и не лучше. Пожалуй, можно припомнить "купили продукт с фирмой, забили и убили" как некий уникальный паттерн (Foxpro, Softimage, Skype и т.п.), но, пожалуй, и всё.

И да, C# - отличный инструмент для проектов правильного размера (маленьких и средних). Эффективный и удобный, написанный грамотными людьми (один из "столпов" до того Delphi писал). Жив четверть века, и не просто жив, а активно используется.

А про лучших из лучших - это, кмк, преувеличение.

PS: Перечитал - не NT убожество, а до NT. Тогда согласен, линейка Win 95 была этаким кривоватым компромиссом. Но функцию свою выполнила, а потом ушла в историю.

[simple]

1. Пардон, не верю.

это не вопрос веры.

[OlegN]

Microsoft - не слыхали?

Это сразу поднимает авторитет в Ваших глазах?

настоящие проекты, 15 тыщ строк

Ради интереса глянул архив одного сайдскроллера для Game Boy Advance, вышедшего в 2001. 80 тыс строк. Игра, в принципе, совсем крошечная по современным меркам. Сейчас за такое, наверное, ничего и не заплатят.

Эх помнится , в самом  начале 90-х ... Конкурс был .. Кто короче и красивее (визуально , на экране )  код напишет  (это на I8086, PC XT ) .  Блиннн . 2-3 кБ- и Красота на экране , Музыка , Пламя в динамике , сопровождающие субтитры, банеры  , переливашки всякие . Вот Мужики- умели!
PS Я не про IOCCC (где 512 байт ограничение) , хотя тоже нельзя не отметить, заслуженно  . https://habr.com/ru/articles/886600/

И мы умели.

Даже на БК. В 16 килобайтах ОЗУ. С музыкой... с визуальными эффектами... с перехватом прерываний. Знавал я людей... Planet of Zoom... Super Pacman... CSI DOS

Были времена...

Понятно , что "умели" (Когда-то и мы умели Летать(с)) . А сейчас учите петабайты от ИИ использовать , для написания простейших программ .  (разучились) - Скучно!(PS  и позорно!).

[TAU]

А, со многим по списку не вполне согласен. NT была отличная

Что значит люди не понимают друг друга.

У меня четко написано ДО WinNT.

[TAU]

C# - отличный инструмент для проектов правильного размера (маленьких и средних). Эффективный и удобный, написанный грамотными людьми (один из "столпов" до того Delphi писал). Жив четверть века, и не просто жив, а активно используется.

Какой?! Эффективный???

Вы про память занимаемую или про быстродействие, простите?

Ну и скорее пациент помирает. Жив еле-еле, используется по инерции.

[TAU]

1. Чему я учу на самом деле, вам невдомек. Посему позор вам!

2. Почему простейших, позвольте поинтересоваться?

3. Порох еще есть в пороховницах. Некоторое время назад пришлось вспоминать старину, курс ставил "Машинно-ориентированное программирование" в университете.

[OlegN]

1. Чему я учу на самом деле, вам невдомек. Посему позор вам!

2. Почему простейших, позвольте поинтересоваться?

3. Порох еще есть в пороховницах. Некоторое время назад пришлось вспоминать старину, курс ставил "Машинно-ориентированное программирование" в университете.

Какой вы отсталый ...  "Машины" на Форуме уже опровергли . Нет таких .

[TAU]

1. Чему я учу на самом деле, вам невдомек. Посему позор вам!

2. Почему простейших, позвольте поинтересоваться?

3. Порох еще есть в пороховницах. Некоторое время назад пришлось вспоминать старину, курс ставил "Машинно-ориентированное программирование" в университете.

Какой вы отсталый ...  "Машины" на Форуме уже опровергли . Нет таких .

Это не я

Название придумали авторы учебного плана. И относится к ЭВМ, естественно. И есть "машинный код". Не слыхали... Ну что, понятно. К программированию не имеете отношения видимо никакого.

[Ну-и-ну]

C# - отличный инструмент для проектов правильного размера (маленьких и средних). Эффективный и удобный, написанный грамотными людьми (один из "столпов" до того Delphi писал). Жив четверть века, и не просто жив, а активно используется.

Какой?! Эффективный???

Вы про память занимаемую или про быстродействие, простите?

Ну и скорее пациент помирает. Жив еле-еле, используется по инерции.

Не знаю про инерцию. Ткнул пальцем в гугл, получил вот: https://spectrum.ieee.org/top-programming-languages-2025

Память и быстродействие - да нормально всё. А если правильно разделить обязанности с C++ - то вообще прекрасно.

[Ну-и-ну]

Вся полемика здесь и не здесь свидетельствует об обратном. Протестуют, желчно спорят и пытаются мемчики писать. Все чтобы не принять явное - скоро профессия вымрет.

Полемика свидетельствует, что есть очередной tech bubble, из которого (когда рассеется дым) получатся некие полезные (и даже незаменимые) инструменты.

Как из dot com bubble получилось несколько бесценных сервисов (полтора десятка, реально) плюс у почти каждого малого бизнеса есть сайт, который иногда даже работает. А обещали, например, закрытие всех физических магазинов.

[nonconvex]

Чем была подтверждена корректность этих проектов? Тестами или чем то еще?

И тестами. И ВНЕДРЕНИЯМИ

Речь была о другом - если у вас система управляющая АЭС (ну например), то тестами тут не обойтись, нужны более железные гарантии , или формальные методы, такие как статический анализ и доказательство теорем, или соответствующий метод проектирования, с защитой проекта, просмотрами, обсуждениями компетентными членами коллектива с естественным интеллектом

И это вы мне рассказываете?!!

Знали бы, с кем имеете честь...

Отвечаю - вам. Насчет кто с кем и как, предлагаю не меряться, все может оказаться с точностью до наоборот, да и неважно это. Речь о формальных методах.