Опасности и преимущества использования нейросетей и ИИ для человечества - факты и только факты

[TAU]

Проект пытался развалиться в момент, когда мы переводили код из Python-прототипа в C++/C-ядро.

Если бы ИИ всегда генерировал хороший код - то не нужны были бы всякие Питоны, было бы эффективнее генерировать более быстрый код на С. Раз этого не происходит повсеместно - значит вайбкодерам таки приходится ручками и глазками в коде иногда ковыряться.

Пока.
Ну и по поводу однозначности/неоднозначности выдачи ИИ. Да, стохастический генератор. Но!!!

Методики борьбы с неоднозначностью уже выработаны, и успешно применяются. Почитайте в том числе по моей ссылке на дзене. Продвинутые вайбкодеры вполне тянут проекты на 200,300, 500 тысяч строк исходных текстов!!!

[Inti]

Продвинутые вайбкодеры вполне тянут проекты на 200,300, 500 тысяч строк исходных текстов!!!

Да понятно что ИИ ничего не стоит генерировать миллионы строк там где человек обошёлся бы гораздо меньшим их количеством    Но если дело доходит до модификации уже существующих старых систем со сложной логикой которая не описана ни в чём кроме самого кода - то на ИИ лучше особо не рассчитывать, слишком рискованно. Пока что я вижу что ИИ отлично справляется с простыми но объёмными вещами типа GUI - но это то что программируется очень легко, тут думать не требуется в общем-то. 
Хотя понятно что в будущем ИИ сможет работать гораздо лучше чем сейчас, и кстати заодно будет генерировать меньше мусорного кода   

[nonconvex]

Пока.

Это проблема масштабирования. Для обучения небольшой по современным меркам LLM с 7 миллиардами параметров нужно порядка 50 петафлоп. Нынешние GPU дают нам 15-100 терафлоп на кристалл и соответственно кушают 300-1000 ватт, причем потребная мощность непрерывно растет по мере инкрементального обучения (добавления новых параметров горшка Инти). Умножаем, добавляем источник питания и аккумулятор и сравниваем со шмелем, или там с бараном.

Что вы ожидаете Потом? Желательно в цифрах.

[nonconvex]

Проект пытался развалиться в момент, когда мы переводили код из Python-прототипа в C++/C-ядро.

Если бы ИИ всегда генерировал хороший код - то не нужны были бы всякие Питоны, было бы эффективнее генерировать более быстрый код на С. Раз этого не происходит повсеместно - значит вайбкодерам таки приходится ручками и глазками в коде иногда ковыряться.

Пока.
Ну и по поводу однозначности/неоднозначности выдачи ИИ. Да, стохастический генератор. Но!!!

Методики борьбы с неоднозначностью уже выработаны, и успешно применяются. Почитайте в том числе по моей ссылке на дзене. Продвинутые вайбкодеры вполне тянут проекты на 200,300, 500 тысяч строк исходных текстов!!!

Вообще говоря ИИ как кодер - прекрасен, если держать его под контролем. Проблема автомитичского кодирования больших проектов выглядит достаточно выполнимой. Однако непонятен процесс сопровождения и поиска ошибок. В качестве примера, не так давно с помощью Клода написали компилятор с С. В общем работал, но медленно и не всегда корректно. Отлично для статьи, для промышленного применения не годится, поскольку там нужна корректная работа ВСЕГДА. Однако, в связке с программистом-человеком выглядит привлекательно.

[Inti]

Современные агенты (типа Auto-GPT, LangGraph, или экспериментальные системы) взаимодействуют с окружением, пробуют действия, получают feedback и улучшаются.

Они улучшаются в вашем локальном контексте, пока хватает токенов. Как только сеанс закончен, они все забывают.

Уже не забывают. Они уже многое обо мне помнят, в том числе прошлые мои к ним вопросы и просьбы.

[nonconvex]

Современные агенты (типа Auto-GPT, LangGraph, или экспериментальные системы) взаимодействуют с окружением, пробуют действия, получают feedback и улучшаются.

Они улучшаются в вашем локальном контексте, пока хватает токенов. Как только сеанс закончен, они все забывают.

Уже не забывают. Они уже многое обо мне помнят, в том числе прошлые мои к ним вопросы и просьбы.

в вашем локальном файле.

[Inti]

Современные агенты (типа Auto-GPT, LangGraph, или экспериментальные системы) взаимодействуют с окружением, пробуют действия, получают feedback и улучшаются.

Они улучшаются в вашем локальном контексте, пока хватает токенов. Как только сеанс закончен, они все забывают.

Уже не забывают. Они уже многое обо мне помнят, в том числе прошлые мои к ним вопросы и просьбы.

в вашем локальном файле.

Ответ неправильный. Я вижу историю моих запросов и ответов на любом устройстве. И для Грока, и для ЧатГПТ.

И да, ваши вопросы и уточнения могут идти на обучение, если вы не отключили эту опцию. Можно зайти в настройки и выключить «Improve the model»

[TAU]

Продвинутые вайбкодеры вполне тянут проекты на 200,300, 500 тысяч строк исходных текстов!!!

если дело доходит до модификации уже существующих старых систем со сложной логикой которая не описана ни в чём кроме самого кода - то на ИИ лучше особо не рассчитывать...

Пока что я вижу что ИИ отлично справляется с простыми но объёмными вещами

Вы просто - не продвинутый вайбкодер. Не хотите - не верьте, что они уже существуют. И у них все пашет.

Вот кстати свежие

с вайбкодерских полей:

поймал себя на мысли, что уже месяца три вообще ни одной строчки... руками, а производительность в три раза выросла.
По ходу качественный скачок - спеки, сдд, хуки и прочая проектная память накопилась - отладки кода нет практически

[TAU]

Проект пытался развалиться в момент, когда мы переводили код из Python-прототипа в C++/C-ядро.

Если бы ИИ всегда генерировал хороший код - то не нужны были бы всякие Питоны, было бы эффективнее генерировать более быстрый код на С. Раз этого не происходит повсеместно - значит вайбкодерам таки приходится ручками и глазками в коде иногда ковыряться.

Пока.
Ну и по поводу однозначности/неоднозначности выдачи ИИ. Да, стохастический генератор. Но!!!

Методики борьбы с неоднозначностью уже выработаны, и успешно применяются. Почитайте в том числе по моей ссылке на дзене. Продвинутые вайбкодеры вполне тянут проекты на 200,300, 500 тысяч строк исходных текстов!!!

для промышленного применения не годится

Годится. См.мой ответ Inti. Человек да, пока присутствует - как контролер и инициатор.

[TAU]

Пока.

Что вы ожидаете Потом? Желательно в цифрах.

А я кажется уже писал.

Повторю. Повторение - мать учения, мне не сложно.

Через 5-10 лет число вакансий программистов по сравнению с 2025 сократится в 10-20 раз.

[Inti]

Пока.

Что вы ожидаете Потом? Желательно в цифрах.

А я кажется уже писал.

Повторю. Повторение - мать учения, мне не сложно.

Через 5-10 лет число вакансий программистов по сравнению с 2025 сократится в 10-20 раз.

Их просто переименуют в вайбкодеров

На самом деле не стоит недооценивать инерцию ИТ-индустрии. И того что помимо новых проектов ещё нужно поддерживать массу старья в котором зачастую разбираются только те кто его когда-то создавал или долго поддерживал. И эти люди абсолютно не заинтересованы в том чтобы раскрыть ИИ все свои знания и навыки - и лишить себя работы. Есть устоявшиеся годами методики и процессы, и мало кто горит желанием их срочно менять и удешевлять. Молодёжи может быть придётся туго... дык ей всегда было трудновато попасть в ИТ даже при наличии профильного образования... ну а сейчас будет ещё труднее... но я не вижу проблем для стариков пока что. Я точно до пенсии доработаю спокойно.

[TAU]

Пока.

Что вы ожидаете Потом? Желательно в цифрах.

А я кажется уже писал.

Повторю. Повторение - мать учения, мне не сложно.

Через 5-10 лет число вакансий программистов по сравнению с 2025 сократится в 10-20 раз.

1. Их просто переименуют в вайбкодеров

2. На самом деле не стоит недооценивать инерцию ИТ-индустрии. И того что помимо новых проектов ещё нужно поддерживать массу старья

1. Нет. Погонят на мороз. Менеджеры сами навайбкодят.

2. Огорчу еще раз. Да, много наследия. Но уже начали безжалостно его вычищать и заменять масштабно новым ПО - от ИИ. Новости читаете?

[TAU]

Пока.

Что вы ожидаете Потом? Желательно в цифрах.

А я кажется уже писал.

Повторю. Повторение - мать учения, мне не сложно.

Через 5-10 лет число вакансий программистов по сравнению с 2025 сократится в 10-20 раз.

я не вижу проблем

Дело ещё в скорости повышения возможностей ИИ.

Программистам сложно смириться, что их навыки обесцениваются, и они больше не маги и не "интеллектуальная элита". Поэтому весь негатив, все енти попытки высмеять "нейрослоп", разговоры про "неизбежно плато", и пр.

А ведь через пару лет ИИ будет массово программировать лучше самого лучшего программиста...

[Inti]

Менеджеры сами навайбкодят.

Спасибо, поржал! Мой менеджер только об этом и мечтает! Уволить всех его 12 подчинённых и заниматься поддержкой примерно полусотни приложений самому  При том что код он в последний раз видел 30 лет назад будучи студентом.

Огорчу еще раз. Да, много наследия. Но уже начали безжалостно его вычищать и заменять масштабно новым ПО - от ИИ. Новости читаете?

Новости это одно - а реальная работа в большой консервативной компании\организации\банке - это другое.

Программистам сложно смириться, что их навыки обесцениваются, и они больше не маги и не "интеллектуальная элита". Поэтому весь негатив, все енти попытки высмеять "нейрослоп", разговоры про "неизбежно плато", и пр.

А ведь через пару лет ИИ будет массово программировать лучше самого лучшего программиста...

Да дело не в магии программистов. А в магии бюрократов, менеджеров и т.д. По-хорошему, я бы и без ИИ мог бы писать кода в 10 раз больше, и автоматизировать почти всё чем приходится заниматься вручную. Но этого НИКОМУ не надо в месте где я работаю, в том числе и мне конечно же. Многие годы шёл совершенно обратный процесс уменьшения общей производительности труда - усложнение отчётности, создание новых отделов которые заведуют кибербезопасностью, совместимостью приложений с софтом для слабовидящих\слепых и прочей хренью без которой можно обойтись в большинстве случаев. Чтобы сделать небольшое изменение в коде - надо его не только написать - но и получить одобрение, оповестить всех пользователей, записаться за неделю в очередь к команде которая обеспечивает хостинг, обновить документацию с помощью команды которая занимается регистрацией всех обновлений и т.д. Какой там ИИ, господи боже мой. 
И таких контор - масса. Можно даже сказать - основная масса. Есть конечно и динамичные мелкие компании которыми управляют по-другому, там ИИ может многое быстро поменять. Но как только дело доходит до крупных вещей которые стоят миллионы - всё начинает работать по-другому. Например, я работал в одной компании которая писала софт для больших банков. Перед заключением контракта с новым банком - в компанию приезжает делегация из этого банка и смотрит сколько народу работает - и если обнаружит вместо целого этажа работников десяток гениальных молодых программистов, или не дай бог трёх супер-гениальных вайбкодеров - то НИКАКИХ дел с такой компанией никакой крупный банк вести НЕ БУДЕТ.
В другом месте я поддерживал систему которая сама собой за долгие годы выросла из маленького простого приложения в очень сложную систему обслуживающую миллионы людей. Я эту систему унаследовал от одного программиста который ушёл на пенсию. И несколько лет её поддерживал ОДИН. Потом пришли супер-консультанты из IBM и сказали что это всё говно мамонта и заключили многомиллионный контакт на полную замену своей системой. Да, их система была конечно лучше. Но я бы, зная всю её бизнес-логику, мог бы сделать всё то же самое в 5-10 раз дешевле сам, плюс наняв пару хороших программистов. Но так большие дела не делаются. Большие дяди предпочитают платить миллионы IBM а не сотни тысяч трём хорошим кодерам. Или десятки тысяч одному гениальному  вайбкодеру.

Такие дела в реальности а не в хайповых новостях.

[TAU]

Пока.

Что вы ожидаете Потом? Желательно в цифрах.

А я кажется уже писал.

Повторю. Повторение - мать учения, мне не сложно.

Через 5-10 лет число вакансий программистов по сравнению с 2025 сократится в 10-20 раз.

я не вижу проблем

Программистам сложно смириться, что их навыки обесцениваются

...

Несколько сообщений в X, что Google расформировал все внутренние подразделения по обучению программированию разработчиков. Позиция руководства Google, что обучать ручному программированию с учётом быстрого внедрения ИИ ботов - палить деньги.

Интересный момент, что внутреннее обучение Google больше было на повышение квалификации от милда до сеньора. Иными словами, Google скептичен, что сеньоры с ручным программированием ему потребуются.

[Старый]

И эти люди абсолютно не заинтересованы в том чтобы раскрыть ИИ все свои знания и навыки - и лишить себя работы.

Их программы скормят ИИ и он в секунд разберётся. Какраз для ИИ задача. 

[Inti]

И эти люди абсолютно не заинтересованы в том чтобы раскрыть ИИ все свои знания и навыки - и лишить себя работы.

Их программы скормят ИИ и он в секунд разберётся. Какраз для ИИ задача.

Ага. Вот только помимо кода который можно скормить - айтишники занимаются и другими вещами, например работают с юзерами, с командой которая занимается хостингом, со смежными командами которые занимаются другими системами которые взаимодействуют с твоей системой. Короче, можно конечно начать внедрять ИИ, но это не бесплатно, а сэкономить на зарплате уволив человека - всё равно не получится.

Bain: компании массово не достигают целей по экономии от ИИ
https://www.ixbt.com/news/2026/06/08/bain-kompanii-massovo-ne-dostigajut-celej-po-jekonomii-ot-ii-problema-okazalas-organizacionnoj-a-ne-tehnologicheskoj.html

[TAU]

Менеджеры сами навайбкодят.

Спасибо, поржал! Мой менеджер только об этом и мечтает! Уволить всех его 12 подчинённых и заниматься поддержкой примерно полусотни приложений самому При том что код он в последний раз видел 30 лет назад будучи студентом

Ви только нэ абижайтэсь (С)

Но хорошо смеется знаете кто?

В итоге победит именно Ваш менеджер.

[TAU]

Менеджеры сами навайбкодят.

Спасибо, поржал! Мой менеджер только об этом и мечтает! Уволить всех его 12 подчинённых и заниматься поддержкой примерно полусотни приложений самому При том что код он в последний раз видел 30 лет назад будучи студентом.

Огорчу еще раз. Да, много наследия. Но уже начали безжалостно его вычищать и заменять масштабно новым ПО - от ИИ. Новости читаете?

Новости это одно - а реальная работа в большой консервативной компании\организации\банке - это другое.

Программистам сложно смириться, что их навыки обесцениваются, и они больше не маги и не "интеллектуальная элита". Поэтому весь негатив, все енти попытки высмеять "нейрослоп", разговоры про "неизбежно плато", и пр.

А ведь через пару лет ИИ будет массово программировать лучше самого лучшего программиста...

Да дело не в магии программистов. А в магии бюрократов, менеджеров...

Но как только дело доходит до крупных вещей которые стоят миллионы - всё начинает работать по-другому...

Такие дела в реальности а не в хайповых новостях.

А я вот уверен, новости не врут. Новости о том, как маги-менеджеры в немаленьких, мягко выражаясь, конторах Oracle, Microsoft устраивают массовые сокращения и режут старые не ИИ системы. Как маги-менеджеры в Гугле прикрыли найм начинающих программистов.

И т.д., и т.п.

Откройте глаза! Да, понимаю, стадия отрицания. Правда горька.

[Inti]

Менеджеры сами навайбкодят.

Спасибо, поржал! Мой менеджер только об этом и мечтает! Уволить всех его 12 подчинённых и заниматься поддержкой примерно полусотни приложений самому При том что код он в последний раз видел 30 лет назад будучи студентом

Ви только нэ абижайтэсь (С)

Но хорошо смеется знаете кто?

В итоге победит именно Ваш менеджер.

Я уже победил, мне уже пришёл пакет бумажек от правительства с инструкциями как выходить на пенсию, и я могу это сделать в любой момент   Просто не вижу пока что острой необходимости, и доход уменьшится, и скучно будет. И менеджер мой радуется что я решил дальше работать, мы с ним на эту тему уже поговорили.

И кстати, у меня достаточно знакомых коллег которые работают по контрактам, и пока что они все работой обеспечены неплохо.

А я вот уверен, новости не врут. Новости о том, как маги-менеджеры в немаленьких, мягко выражаясь, конторах Oracle, Microsoft устраивают массовые сокращения и режут старые не ИИ системы. Как маги-менеджеры в Гугле прикрыли найм начинающих программистов.

Я на своём веку уже несколько раз видел как они массово сокращали персонал и до ИИ. У этих буквально нескольких айтишных контор высшей лиги - постоянно какие-то революции. То с объектно-ориентрованным программированием, то с доткомами(во время dotcom bubble реально была безработица среди программистов - а потом рассосалась), то с outsourcing, то с облаками, то с кибербезопасностью, а теперь вот с ИИ. Но большинство крупных контор вроде банков, страховых компаний, правительства, крупной торговли и т.д. - гораздо более консервативны, и до них все эти революции доходят спустя годы, они что-то меняют очень постепенно и осторожно. Или вообще практически не меняют. Мейнфреймы и КОБОЛ(с которых я начинал свою карьеру ещё студентом) - до сих пор используются - 

Более 70% компаний из Fortune 500, 71% Fortune 500 по некоторым оценкам, 45 из 50 крупнейших банков мира и многие другие крупные организации полагаются на них. Многие системы 40–60+ летней давности продолжают работать стабильно.

Проблема — дефицит специалистов из-за выхода на пенсию старых программистов, поэтому COBOL-разработчики часто хорошо востребованы (особенно в госструктурах и банках) для поддержки и модернизации.

Вывод: Полной замены не произошло — миграция дорогая, рискованная и часто нецелесообразная для legacy-систем, которые «просто работают».

А все эти Гуглы-шмуглы - они продают ИТ продукты и сервисы, и им ВЫГОДНО периодически устраивать "революции" чтобы разводить покупателей на новые продукты. Сейчас пытаются всех развести на применение ИИ    И таки да, мелкие новые конторки и вчерашние студенты все бросятся на эту наживку. А большие и старые конторы будут смотреть на это со стороны, и начнут у себя что-то менять только когда будет уверенность в стабильности технологий, и в том что они финансово выгодны.

Короче, ИИ конечно окажет большое влияние на ИТ, но не везде и не сразу. А местами так вообще не окажет. К обработке банковских транзакций никаких вайбкодеров и на пушечный выстрел не допустят. А вот делать красивые вебсайты для местных массажных клиник и магазинчиков корейской косметики - всегда пожалуйста! Вплоть до того что ИИ может позволить владельцам мелких бизнесов создавать такие вебсайты вообще без программистов. Просто будут наговаривать ИИ что они хотят, и он будет делать все эти весёлые картинки, и обеспечивать хостинг вебсайтов. 

Как-то так пока что...