Опасности и преимущества использования нейросетей и ИИ для человечества - факты и только факты

[Inti]

Не "чуть". А значительно быстрее.

Зависит от стоящих задач и обстановки. Лично я поддерживаю кучу старого кода в сложных системах где ИИ не очень-то может помочь. И зачастую дело не только в извращённом коде, но и в куче других вещей которые сделаны через три задницы - но переделывать всё с нуля и по уму никто никогда не будет - в частности потому что это обеспечивает людей работой которую никто не хочет терять.

[Inti]

Чёрный ящик ИИ наконец открывается: как механистическая интерпретируемость в 2026 году меняет правила игры в безопасности и доверии к искусственному интеллекту
https://www.ixbt.com/live/sw/chernyy-yaschik-ii-nakonec-otkryvaetsya-kak-mehanisticheskaya-interpretiruemost-v-2026-godu-menyaet-pravila-igry-v-bezopasnosti-i-doverii-k-iskusstvennomu-intellektu.html

[Inti]

[TAU]

Заказчик уже может - сегодня! - даже просто голосом сформулировать, какое приложение ему нужно - и через полчаса получить с помощью ИИ, например, функционирующий Интернет-магазин. Мир избавится от паразитов.
С позиций создания ПО это прекрасно. Плохо для самих паразитов - программистов.
Мой прогноз: число вакансий за ближайшие 10 лет сократится радикально - полагаю, в 20-100 раз. Останется самая элита и узкие специалисты в нишах, где ИИ слаб или неприменим.

Наиболее продвинутые фирмы (в частности моя) организуют связку человек-ИИ, когда естественный интеллект (ЕИ) формулирует задачу, ИИ синтезирует прототип, многократно его структурно меняя и уточняя по требованию ЕИ, и наконец ЕИ доделывает все до рабочего состояния. Ни о каком вытеснении ЕИ речь не идет, хотя разговоров в кругах малоинформированных много.

1. Да, всё правильно...
2. всякие интернет-магазины и до ИИ пользователи могли создавать из кучи готовых шаблонов

3. Прямо сейчас с помощью ИИ можно создавать только простые программки, да и то правильно работающая получится не с первого раза скорее всего. Пример: я... примерно 100 строк

1. Нет, не все. Вы упускаете из виду главное - тенденции и скорость изменений.

Экспонента растет быстрее линейной функции. Всегда, вне зависимости от коэффициентов последней.

И?

При чем здесь математическая абстракция?

Вам пишут про вполне практические, фактические достижения.

ограничение ИИ - невозможность проверить собственный код. Вы вообще читаете, что вам пишут?

Вы вообще воспринимаете аргументы других?!!

Что за бред написали??

ИИ проверяет собственные программы. И ИИ-инспекторы есть, и рефакторинг. И классическое тестирование с ИИ-агентами генерации модульных и других видов тестов.

[TAU]

Чёрный ящик ИИ наконец открывается: как механистическая интерпретируемость в 2026 году меняет правила игры в безопасности и доверии к искусственному интеллекту
https://www.ixbt.com/live/sw/chernyy-yaschik-ii-nakonec-otkryvaetsya-kak-mehanisticheskaya-interpretiruemost-v-2026-godu-menyaet-pravila-igry-v-bezopasnosti-i-doverii-k-iskusstvennomu-intellektu.html

Не открывается, а приоткрывается. Да, пытаются, поскольку проблема стоит в полный рост: допустимо ли применение "черного ящика" в критически важных приложениях? Космосе например?

Приведенная статейка по ссылке чрезмерно оптимистична и приукрашивает нынешнее состояние дел.

До ясного понимания и прозрачности нейросетей - как до Луны еще пешком.

[nonconvex]

ИИ проверяет собственные программы. И ИИ-инспекторы есть, и рефакторинг. И классическое тестирование с ИИ-агентами генерации модульных и других видов тестов.

Я вижу у вас проблемы с пониманием сложности верификации логических систем. Давайте с другой стороны зайдем, обсудим конкретного ИИ-инспектора. Приведите пример.

[Inti]

[nonconvex]

Компания разработала два фильтра для своей поисковой системы: NoAIDuck для тех, кто хочет искать инфу без нейрослопа, и YesAIDuck для тех, кого не смущает ИИ-мусор в выдаче.

Хочу такую же кнопочку здесь, чтобы отфильтровывать ИИ-ботов и их цитирующих.

[Inti]

Компания разработала два фильтра для своей поисковой системы: NoAIDuck для тех, кто хочет искать инфу без нейрослопа, и YesAIDuck для тех, кого не смущает ИИ-мусор в выдаче.

Хочу такую же кнопочку здесь, чтобы отфильтровывать ИИ-ботов и их цитирующих.

Тут даже видео с Рутуба нормально вставить невозможно, а вы про такие высокие технологии... 

[TAU]

ИИ проверяет собственные программы. И ИИ-инспекторы есть, и рефакторинг. И классическое тестирование с ИИ-агентами генерации модульных и других видов тестов.

Я вижу у вас проблемы с пониманием сложности верификации логических систем. Давайте с другой стороны зайдем, обсудим конкретного ИИ-инспектора. Приведите пример.

Не вижу смысла метать бисер перед предвзято настроенной личностью.

Необходимые ссылки я выше дал. Зайдите и посмотрите.

[nonconvex]

Эти ссылки, или какие то другие?

Посмотрите ТГ-канал Иванова (@turboplanner)

Посмотрел - там ничего нет, пустой канал. Буквально пустой. Ни одного сообщения

@turboplanner - енто автор.
А каналы смотрите другие:

1. Публичный t.me/turboproject

2. AI Project Manager 2651 участник. Закрытый клуб руководителей проектов. Вход только по приглашениям.
Иногда на время открывается вход в закрытый чат обмена опытом продвинутых вайбкодеров.
И не их одних.

В канале можно копаться бесконечно. Закрытый клуб - это вообще оксиморон. Приведите ссылку или  на статью, или хотя бы на конкретное сообщение в вышеупомянутом канале.

[Inti]

ИИ проверяет собственные программы. И ИИ-инспекторы есть, и рефакторинг. И классическое тестирование с ИИ-агентами генерации модульных и других видов тестов.

Я вижу у вас проблемы с пониманием сложности верификации логических систем. Давайте с другой стороны зайдем, обсудим конкретного ИИ-инспектора. Приведите пример.

Не вижу смысла метать бисер перед предвзято настроенной личностью.

Необходимые ссылки я выше дал. Зайдите и посмотрите.

Я заходил и долго листал. Честно говоря, возникло впечатление необъективного отражения действительности. В реальности дела идут не столь хорошо как там описывается.

[TAU]

ИИ проверяет собственные программы. И ИИ-инспекторы есть, и рефакторинг. И классическое тестирование с ИИ-агентами генерации модульных и других видов тестов.

Я вижу у вас проблемы с пониманием сложности верификации логических систем. Давайте с другой стороны зайдем, обсудим конкретного ИИ-инспектора. Приведите пример.

Не вижу смысла метать бисер перед предвзято настроенной личностью.

Необходимые ссылки я выше дал. Зайдите и посмотрите.

Я заходил и долго листал. Честно говоря, возникло впечатление необъективного отражения действительности. В реальности дела идут не столь хорошо как там описывается.

вы им не верите?

зачем им врать? опытом обмениваются конкретным

[Ну-и-ну]

Мне кажется, у одного участника есть фундаментальное непонимание, чем занимаются программисты.

Они почти не пишут новый код. Они модифицируют имеющийся код неким образом. Причём модифицируемый codebase сложный и большой, например 10-20 миллионов строк. Породить 10тыс. новых строк "в вакууме" - это так, редкая забава. На практике надо поменять 50-500 строк в этой большой codebase, причём много раз, ибо заказчик сам не знает, чего он хочет (и что можно сделать и какие будут последствия). Причём поменять, не поломав вон то и вот это (а оно так и хочет поломаться, когда эти строки меняют).

Т.е. программисту платят деньги не за "я тут кода написал", отнюдь.

PS: И да, если AI породил некий codebase достаточно большого размера (что вычитывать его долго и дорого), то всё, привет, теперь это может поддерживать только AI. Пока жизнь прекрасна - это, может, и не проблема. Ну типа как 4 года назад многим в России казалось, что "на клауде" - это вот совсем надёжно и никуда не денется.

[Inti]

Мне кажется, у одного участника есть фундаментальное непонимание, чем занимаются программисты.

Они почти не пишут новый код. Они модифицируют имеющийся код неким образом. Причём модифицируемый codebase сложный и большой, например 10-20 миллионов строк. Породить 10тыс. новых строк "в вакууме" - это так, редкая забава. На практике надо поменять 50-500 строк в этой большой codebase, причём много раз, ибо заказчик сам не знает, чего он хочет (и что можно сделать и какие будут последствия). Причём поменять, не поломав вон то и вот это (а оно так и хочет поломаться, когда эти строки меняют).

Т.е. программисту платят деньги не за "я тут кода написал", отнюдь.

Да, я тоже давно не получал денег за написание кода с нуля хотя когда-то такое было(на заре внедрения компьютеров). Сейчас как правило нужно что-то модифицировать или добавить к уже существующей системе, причём иногда неизвестно точно что и как надо сделать, и даже точно неизвестна как работает то что уже существует. Теоретически всё должно быть документировано и объяснено, а на практике увы, приходится распутывать всё это вместе с пользователями которые тоже частенько не понимают как всё работает потому что привыкли пользоваться софтом. Короче, в таких ситуациях ИИ совершенно побоку, и платят не за количество новых строк конечно же. 

Конечно есть вещи которые и сейчас с нуля пишутся, скажем кому-то в голову пришла замечательная идея создать уникальный телефонный апп. Наверное в такой деятельности ИИ сегодня может здорово помочь. Но такими вещами занимается маленький процент программистов на самом-то деле - и получают они сравнительно мало 
Впрочем, иногда бывает такое что солидная контора решает полностью переписать какую-нибудь большую систему... это другое дело, и хорошие деньги... но это бывает очень редко.

[telekast]

Программирование это не написание и/или модифицирование кода, с этим даже канацкие аникейщеги справляются худо-бедно. Программист создает алгоритм решения поставленной задачи, а код это только его воплощение. При этом алгоритм сам состоит из вполне стандартных кирпичиков типа оператора выбора, цикла и тд. И точно также, как есть библиотеки кода, которыми можно пользоваться вместо написания с нуля, есть у каждого программера набор алгоритмов, любимых фишек которые кочуют из проги в прогу.

[TAU]

Мне кажется, у одного участника есть фундаментальное непонимание, чем занимаются программисты

Или наоборот.

У вас фундаментальное непонимание глубины представлений одного участника 

Для справки: я автор нескольких книг по программированию, профессионально занимаюсь вопросами программной инженерии. По языкам программирования - с историей, анализом и сравнением - книга вышла даже в центральном издательстве.

[Ну-и-ну]

У вас фундаментальное непонимание глубины представлений одного участника 

Для справки: я автор нескольких книг по программированию, профессионально занимаюсь вопросами программной инженерии. По языкам программирования - с историей, анализом и сравнением - книга вышла даже в центральном издательстве.

Как-то Вы меня не переубедили своим текстом. Я же не про опыт написания книг и занятие вопросами, отнюдь.

Но зато вспомнился хороший анекдот: 

Кот у хозяина нашалил. Тот его три раза предупреждал, если будет кошек таскать, орать и так далее – яйца отрежет. Наконец, кот в очередной раз пришел с кошками, хозяин угрозу выполнил.
Кот немного отдышался и продолжил таскать кошек, орать. Хозяин его вызвал и спрашивает:
— Слушай, теперь-то ты чего?
— А теперь я у них методист-инструктор.

[Ну-и-ну]

Программист создает алгоритм решения поставленной задачи,

Жуть.

[telekast]

Программист создает алгоритм решения поставленной задачи,

Жуть.

Чтото не так?