Опасности и преимущества использования нейросетей и ИИ для человечества - факты и только факты

[nonconvex]

Заказчик уже может - сегодня! - даже просто голосом сформулировать, какое приложение ему нужно - и через полчаса получить с помощью ИИ, например, функционирующий Интернет-магазин. Мир избавится от паразитов.
С позиций создания ПО это прекрасно. Плохо для самих паразитов - программистов.
Мой прогноз: число вакансий за ближайшие 10 лет сократится радикально - полагаю, в 20-100 раз. Останется самая элита и узкие специалисты в нишах, где ИИ слаб или неприменим.

Наиболее продвинутые фирмы (в частности моя) организуют связку человек-ИИ, когда естественный интеллект (ЕИ) формулирует задачу, ИИ синтезирует прототип, многократно его структурно меняя и уточняя по требованию ЕИ, и наконец ЕИ доделывает все до рабочего состояния. Ни о каком вытеснении ЕИ речь не идет, хотя разговоров в кругах малоинформированных много.

1. Да, всё правильно...
2. всякие интернет-магазины и до ИИ пользователи могли создавать из кучи готовых шаблонов

3. Прямо сейчас с помощью ИИ можно создавать только простые программки, да и то правильно работающая получится не с первого раза скорее всего. Пример: я... примерно 100 строк

1. Нет, не все. Вы упускаете из виду главное - тенденции и скорость изменений.

Экспонента растет быстрее линейной функции. Всегда, вне зависимости от коэффициентов последней. 

[nonconvex]

3. Ну... Вы просто отстали. Прямо сейчас продвинутые вайбкодеры запросто используют команды из нескольких ИИ-агентов, работающих и с требованиями, и с архитектурой, и с тестированием, и прочая. И чуть ли не с первого захода у них взлетают программы в 10-15 тыщ строк. Посмотрите ТГ-канал Иванова (@turboplanner)

Мы эти агенты СОЗДАЕМ. Агент - это всего лишь специализированная под задачу LLM. Специализированная по ряду причин - недостаточная мощность общей, секретность корпоративных данных и т.д. 

[TAU]

Заказчик уже может - сегодня! - даже просто голосом сформулировать, какое приложение ему нужно - и через полчаса получить с помощью ИИ, например, функционирующий Интернет-магазин. Мир избавится от паразитов.
С позиций создания ПО это прекрасно. Плохо для самих паразитов - программистов.
Мой прогноз: число вакансий за ближайшие 10 лет сократится радикально - полагаю, в 20-100 раз. Останется самая элита и узкие специалисты в нишах, где ИИ слаб или неприменим.

Наиболее продвинутые фирмы (в частности моя) организуют связку человек-ИИ, когда естественный интеллект (ЕИ) формулирует задачу, ИИ синтезирует прототип, многократно его структурно меняя и уточняя по требованию ЕИ, и наконец ЕИ доделывает все до рабочего состояния. Ни о каком вытеснении ЕИ речь не идет, хотя разговоров в кругах малоинформированных много.

1. Да, всё правильно...
2. всякие интернет-магазины и до ИИ пользователи могли создавать из кучи готовых шаблонов

3. Прямо сейчас с помощью ИИ можно создавать только простые программки, да и то правильно работающая получится не с первого раза скорее всего. Пример: я... примерно 100 строк

1. Нет, не все. Вы упускаете из виду главное - тенденции и скорость изменений.

Экспонента растет быстрее линейной функции. Всегда, вне зависимости от коэффициентов последней.

И?

При чем здесь математическая абстракция?

Вам пишут про вполне практические, фактические достижения.

[TAU]

3. Ну... Вы просто отстали. Прямо сейчас продвинутые вайбкодеры запросто используют команды из нескольких ИИ-агентов, работающих и с требованиями, и с архитектурой, и с тестированием, и прочая. И чуть ли не с первого захода у них взлетают программы в 10-15 тыщ строк. Посмотрите ТГ-канал Иванова (@turboplanner)

Мы эти агенты СОЗДАЕМ. Агент - это всего лишь специализированная под задачу LLM. Специализированная по ряду причин - недостаточная мощность общей, секретность корпоративных данных и т.д.

Ага, все же создаете. На практике. Несмотря на весь пафос "экспонент"   Это правильно.

Неправы вы в том, что на самом деле уже по всему миру десятки тысяч непрофессиональных программистов - менеджеров, маркетологов, бизнесменов и пр. начали создавать себе приложения БЕЗ найма программистов. Да, пока кривовато бывает. Да, не с первого запуска.
Но процесс не остановить.

[Inti]

Посмотрите ТГ-канал Иванова (@turboplanner)

Посмотрел - там ничего нет, пустой канал. Буквально пустой. Ни одного сообщения.

И чуть ли не с первого захода у них взлетают программы в 10-15 тыщ строк.

Дык смотря о чём эти строки. Если это описание простых вебстраниц то это одно, а если это приложение с массой логики в которой даже сами заказчики путаются - то это совершенно другое. Многое зависит от уникальности задачи и от того насколько старые средства разработки. Если создаётся что-то на основе современных средств разработки, и ИИ смог найти массу аналогичных примеров - то всё гладко работает. Но такие условия далеко не всегда бывают. У ИИ отличная производительность но он пока что не может заменять программистов везде и всегда. Молодых ему заменять легче потому что они все работают с тем что легко и с современными средствами разработки с которыми ИИ хорошо знаком. Чуть копнуть глубже и начинаются проблемы, т.е. в поддержке старого софта ИИ можно использовать примерно как Гугл на стероидах, что-то можно использовать, но всё надо проверять, каждую строку почти что. 

[TAU]

Посмотрите ТГ-канал Иванова (@turboplanner)

Посмотрел - там ничего нет, пустой канал. Буквально пустой. Ни одного сообщения.

И чуть ли не с первого захода у них взлетают программы в 10-15 тыщ строк.

У ИИ отличная производительность но он пока что не может заменять программистов везде и всегда. 

Ну да. 

Ключевые слова я выделил.

Да и вообще, не думаю, что ИИ заменит на горизонте 10 лет программистов везде.
Но число вакансий сократится раз в 20.

[Inti]

3. Ну... Вы просто отстали. Прямо сейчас продвинутые вайбкодеры запросто используют команды из нескольких ИИ-агентов, работающих и с требованиями, и с архитектурой, и с тестированием, и прочая. И чуть ли не с первого захода у них взлетают программы в 10-15 тыщ строк. Посмотрите ТГ-канал Иванова (@turboplanner)

Мы эти агенты СОЗДАЕМ. Агент - это всего лишь специализированная под задачу LLM. Специализированная по ряду причин - недостаточная мощность общей, секретность корпоративных данных и т.д.

Ага, все же создаете. На практике. Несмотря на весь пафос "экспонент"  Это правильно.

Неправы вы в том, что на самом деле уже по всему миру десятки тысяч непрофессиональных программистов - менеджеров, маркетологов, бизнесменов и пр. начали создавать себе приложения БЕЗ найма программистов. Да, пока кривовато бывает. Да, не с первого запуска.
Но процесс не остановить.

Некоторые это уже давно без ИИ делали с помощью генераторов сайтов   Сейчас примерно те же творческие люди с такими же простыми стандартными задачами решают их с помощью ИИ. Я сам ИИ постоянно пользуюсь чтобы быстро добыть информацию для этого форума. Потому что мои посты тут абсолютно не критичны и никто мне за такую "работу" денег не платит. Но если что-то серьёзное и платное - то я бы такое без проверки не выпускал. ИИ позволил бы работать чуть быстрее и только.
Так-то я согласен что он умнеет очень быстро. Но пока что заменить способен лишь некоторые категории программистов - некоторые из которых в общем-то не особо и программисты. Для молодых это проблема, а старики в основном как сидели так и сидят, и ещё долго будут сидеть на своих рабочих местах.

[Inti]

Посмотрите ТГ-канал Иванова (@turboplanner)

Посмотрел - там ничего нет, пустой канал. Буквально пустой. Ни одного сообщения.

И чуть ли не с первого захода у них взлетают программы в 10-15 тыщ строк.

У ИИ отличная производительность но он пока что не может заменять программистов везде и всегда.

Ну да.

Ключевые слова я выделил.

Да и вообще, не думаю, что ИИ заменит на горизонте 10 лет программистов везде.
Но число вакансий сократится раз в 20.

Вполне возможно. Потому что раньше старикам было лень самим печатать и они говорили "нам нужен молодой помощник" - а сейчас им иногда проще попросить сгенерировать код ИИ чем возиться с наймом. То же самое с контракторами. Раньше нанимали контракторов чтобы сделать то с чем неохота возиться замшелым зубрам с артритными пальцами, а сейчас иногда проще решить проблему с помощью ИИ.

[nonconvex]

Заказчик уже может - сегодня! - даже просто голосом сформулировать, какое приложение ему нужно - и через полчаса получить с помощью ИИ, например, функционирующий Интернет-магазин. Мир избавится от паразитов.
С позиций создания ПО это прекрасно. Плохо для самих паразитов - программистов.
Мой прогноз: число вакансий за ближайшие 10 лет сократится радикально - полагаю, в 20-100 раз. Останется самая элита и узкие специалисты в нишах, где ИИ слаб или неприменим.

Наиболее продвинутые фирмы (в частности моя) организуют связку человек-ИИ, когда естественный интеллект (ЕИ) формулирует задачу, ИИ синтезирует прототип, многократно его структурно меняя и уточняя по требованию ЕИ, и наконец ЕИ доделывает все до рабочего состояния. Ни о каком вытеснении ЕИ речь не идет, хотя разговоров в кругах малоинформированных много.

1. Да, всё правильно...
2. всякие интернет-магазины и до ИИ пользователи могли создавать из кучи готовых шаблонов

3. Прямо сейчас с помощью ИИ можно создавать только простые программки, да и то правильно работающая получится не с первого раза скорее всего. Пример: я... примерно 100 строк

1. Нет, не все. Вы упускаете из виду главное - тенденции и скорость изменений.

Экспонента растет быстрее линейной функции. Всегда, вне зависимости от коэффициентов последней.

И?

При чем здесь математическая абстракция?

Вам пишут про вполне практические, фактические достижения.

Это ваш личный опыт, или прочитали где то? По моему опыту, ИИ косячит достаточно много в сложном коде. Простой пишет хорошо. 

[nonconvex]

Заказчик уже может - сегодня! - даже просто голосом сформулировать, какое приложение ему нужно - и через полчаса получить с помощью ИИ, например, функционирующий Интернет-магазин. Мир избавится от паразитов.
С позиций создания ПО это прекрасно. Плохо для самих паразитов - программистов.
Мой прогноз: число вакансий за ближайшие 10 лет сократится радикально - полагаю, в 20-100 раз. Останется самая элита и узкие специалисты в нишах, где ИИ слаб или неприменим.

Наиболее продвинутые фирмы (в частности моя) организуют связку человек-ИИ, когда естественный интеллект (ЕИ) формулирует задачу, ИИ синтезирует прототип, многократно его структурно меняя и уточняя по требованию ЕИ, и наконец ЕИ доделывает все до рабочего состояния. Ни о каком вытеснении ЕИ речь не идет, хотя разговоров в кругах малоинформированных много.

1. Да, всё правильно...
2. всякие интернет-магазины и до ИИ пользователи могли создавать из кучи готовых шаблонов

3. Прямо сейчас с помощью ИИ можно создавать только простые программки, да и то правильно работающая получится не с первого раза скорее всего. Пример: я... примерно 100 строк

1. Нет, не все. Вы упускаете из виду главное - тенденции и скорость изменений.

Экспонента растет быстрее линейной функции. Всегда, вне зависимости от коэффициентов последней.

И?

При чем здесь математическая абстракция?

Вам пишут про вполне практические, фактические достижения.

При том, что эта как вы выразились абстракция определяет фундаментальное ограничение ИИ - невозможность проверить собственный код. Вы вообще читаете, что вам пишут?

[Inti]

фундаментальное ограничение ИИ - невозможность проверить собственный код.

С этим ограничением можно бороться используя другой ИИ. Впрочем, как я читал - сейчас даже один ИИ может использовать несколько собственных под-ИИ чтобы каждый из них генерировал разные ответы которые потом сравниваются, т.е. есть хорошая вероятность автоматического обнаружения и исправления косяков.

[Inti]

Как американцы используют ИИ на работе, согласно новому опросу Гэллапа
https://apnews.com/article/ai-workplace-gemini-chatgpt-poll-4934bc61d039508db32bc49f85d63d99
Если коротко - то для большинства ИИ означает что просто Гуглу пришла замена.

[nonconvex]

фундаментальное ограничение ИИ - невозможность проверить собственный код.

С этим ограничением можно бороться используя другой ИИ.

А другой ИИ проверять третьим ИИ, и так далее. Вообще глядя на ваши ответы я за ЕИ спокоен. ИИ полный балбес.

[Sembler]

Какая квалификация должна быть у постановщика задач для ИИ? Очень редко ТТ на разработку ПО бывают исчерпывающими и в процессе разработки возникают вопросы. ИИ задает уточняющие вопросы?

"Жена отправляет мужа программиста в магазин:
- Возьми один десяток яиц и, если будет молоко в бутылках, возьми три.
Программист возвращается с тремя десятками яиц.
- Зачем ты купил три десятка!?
- Потому что было молоко в бутылках"

Иногда в собственной программе приходится долго искать ошибку, особенно в случаях, когда она проявляется редко и случайным образом. Как ИИ справляются с такими проблемами?

[Inti]

Иногда в собственной программе приходится долго искать ошибку, особенно в случаях, когда она проявляется редко и случайным образом. Как ИИ справляются с такими проблемами?

Пока что никак. Зато ИИ может сгенерировать простыню кода для вебстраницы если её нарисовать в редакторе текста или любым другим способом. Экономия времени может быть огромная на стартовых этапах. Но это быстрый черновик, а не готовый продукт, потом всё равно руками придётся доделывать.

[TAU]

Посмотрите ТГ-канал Иванова (@turboplanner)

Посмотрел - там ничего нет, пустой канал. Буквально пустой. Ни одного сообщения

@turboplanner - енто автор.
А каналы смотрите другие:

1. Публичный t.me/turboproject

2. AI Project Manager 2651 участник. Закрытый клуб руководителей проектов. Вход только по приглашениям. 
Иногда на время открывается вход в закрытый чат обмена опытом продвинутых вайбкодеров.
И не их одних.

[TAU]

Иногда в собственной программе приходится долго искать ошибку, особенно в случаях, когда она проявляется редко и случайным образом. Как ИИ справляются с такими проблемами?

С переменным успехом.

Но можно уверенно заявить: в командах ИИ-агентов есть и "агенты рефакторинга", и "агенты инспекций", и "агенты тестирования".

[TAU]

фундаментальное ограничение ИИ - невозможность проверить собственный код.

как я читал - сейчас даже один ИИ может использовать несколько собственных под-ИИ чтобы каждый из них генерировал разные ответы которые потом сравниваются, т.е. есть хорошая вероятность автоматического обнаружения и исправления косяков.

Ну да.

В машинном обучении на протяжении долгих лет "ансамбли моделей" - классика.

И в БЯМах уже подобный подход широко и успешно применяется.

[TAU]

Вам пишут про вполне практические, фактические достижения.

Это ваш личный опыт, или прочитали где то? По моему опыту, ИИ косячит достаточно много в сложном коде. Простой пишет хорошо.

См. канал в ТГ. Выше написал какой.

[TAU]

3. Ну... Вы просто отстали. Прямо сейчас продвинутые вайбкодеры запросто используют команды из нескольких ИИ-агентов, работающих и с требованиями, и с архитектурой, и с тестированием, и прочая. И чуть ли не с первого захода у них взлетают программы в 10-15 тыщ строк. Посмотрите ТГ-канал Иванова (@turboplanner)

Мы эти агенты СОЗДАЕМ. Агент - это всего лишь специализированная под задачу LLM. Специализированная по ряду причин - недостаточная мощность общей, секретность корпоративных данных и т.д.

Ага, все же создаете. На практике. Несмотря на весь пафос "экспонент"  Это правильно.

Неправы вы в том, что на самом деле уже по всему миру десятки тысяч непрофессиональных программистов - менеджеров, маркетологов, бизнесменов и пр. начали создавать себе приложения БЕЗ найма программистов. Да, пока кривовато бывает. Да, не с первого запуска.
Но процесс не остановить.

1. Но если что-то серьёзное и платное - то я бы такое без проверки не выпускал.
2. ИИ позволил бы работать чуть быстрее и только.
3. я согласен что он умнеет очень быстро.

1. Почему "без проверки"? Где было сказано "без проверки"?!! Естественно, с ней.

2. Не "чуть". А значительно быстрее.

3. Вы по крайней мере не отрицаете тенденцию. В отличие от nonconvex'а.

Вообще, если о "юношах, обдумывающих житье" - в программисты идти я им категорически не советую.
Да и возможно, вообще в ИТ.
Останутся пока ниши, связанные с электроникой, аппаратными средствами, прокладкой сетей...