Опасности и преимущества использования нейросетей и ИИ для человечества - факты и только факты

[Ну-и-ну]

Microsoft - не слыхали?

Это сразу поднимает авторитет в Ваших глазах?

настоящие проекты, 15 тыщ строк

Ради интереса глянул архив одного сайдскроллера для Game Boy Advance, вышедшего в 2001. 80 тыс строк. Игра, в принципе, совсем крошечная по современным меркам. Сейчас за такое, наверное, ничего и не заплатят.

[Ну-и-ну]

причесать докерфайлы до good practise? one-shot

Это он так знанием английского хвастается? 

PS: Вообще, текст довольно разумный. На AI можно свалить монотонный код, который никто не хочет писать и тем более переписывать, и который не идёт клиентам. Тесты и подобную обвязку. Т.е. AI - это инструмент против занудной работы. У нас как раз недавно один гуру хвастался, как AI перелопатил некий скрипт на перле. Скрипт был скучный, копаться в нём было влом.

[nonconvex]

причесать докерфайлы до good practise? one-shot

Это он так знанием английского хвастается? 

PS: Вообще, текст довольно разумный. На AI можно свалить монотонный код, который никто не хочет писать и тем более переписывать, и который не идёт клиентам. Тесты и подобную обвязку. Т.е. AI - это инструмент против занудной работы. У нас как раз недавно один гуру хвастался, как AI перелопатил некий скрипт на перле. Скрипт был скучный, копаться в нём было влом.

Мне тоже показалось, что пишет dev ops, из тех что отвечают за автоматизацию сборки, тестирования и прочий Git. Там действительно скрипты нудные и легко создаются ботами.

[TAU]

Единственный способ гарантировать корректность - сузить класс алгоритмов LLM до формально верифицируемых

Так я об этом и написал.
Кандидат в сертифицированные модели будет сдавать экзамен комиссии экспертов, объясняя свои действия. Сто или тысячу раз кряду.

Проблема в том, что масштаб решаемых задач будет ограничен игрушечными.

Нет.

Вам же писали сто раз уже: настоящие проекты, 15 тыщ строк...

Чем была подтверждена корректность этих проектов? Тестами или чем то еще?

И тестами. И ВНЕДРЕНИЯМИ

[TAU]

причесать докерфайлы до good practise? one-shot

Это он так знанием английского хвастается? 

PS: Вообще, текст довольно разумный. На AI можно свалить монотонный код, который никто не хочет писать и тем более переписывать, и который не идёт клиентам. Тесты и подобную обвязку. Т.е. AI - это инструмент против занудной работы. У нас как раз недавно один гуру хвастался, как AI перелопатил некий скрипт на перле. Скрипт был скучный, копаться в нём было влом.

Мне тоже показалось, что пишет dev ops

Нет.

Владимир Иванов - широко известный в узких кругам гуру управления проектами. Программист с большой буквы. Персона в микрософте.

[TAU]

Microsoft - не слыхали?

Это сразу поднимает авторитет в Ваших глазах?

А в ваших - ничего не значит?

[TAU]

Единственный способ гарантировать корректность - сузить класс алгоритмов LLM до формально верифицируемых

Так я об этом и написал.
Кандидат в сертифицированные модели будет сдавать экзамен комиссии экспертов, объясняя свои действия. Сто или тысячу раз кряду.

Проблема в том, что масштаб решаемых задач будет ограничен игрушечными.

Нет.

Вам же писали сто раз уже: настоящие проекты, 15 тыщ строк...

Чем была подтверждена корректность этих проектов? Тестами или чем то еще?

И тестами. И ВНЕДРЕНИЯМИ

Не, ребят, я вас понимаю. Сложно принять, что то, чем ты занимался всю сознательную жизнь, на глазах обесценивается и передается машине.

Классическое высказывание программиста со стажем: "ну пробовал я ентот ваш хваленый ИИ, накосячил он мне, разгребать за ним. Фуфло, короче". И до кучи мемчики всякие, высмеивающие "уборку за ИИ", и т.п.

Смейтесь, смейтесь. Но помните поговорку, кто смеется хорошо.
И вот наброшу:

ИИ-агент ARTEMIS превзошел 90% профессиональных пентестеров.

Исследователи из Стэнфорда опубликовали (https://arxiv.org/pdf/2512.09882) результаты тестирования ИИ-агента ARTEMIS, который обошел 9 из 10 людей-экспертов по кибербезопасности. При эксплуатационной стоимости около $18 в час система показала не только экономическую эффективность, но и техническое преимущество в скорости.

За 16 часов работы ARTEMIS просканировал 8000 устройств, запуская субагентов для параллельной атаки множества целей. Он выявил уязвимости, которые пропустили люди, в том числе на устаревших серверах, недоступных через обычные браузеры.

В первые 10 часов агент обнаружил 9 валидных брешей с показателем успешности 82%. Разработчики признают, что ИИ идеально справляется с парсингом кода и логов, но работа с графическими интерфейсами пока остается его слабым местом, иногда приводя к ложным срабатываниям

[Ну-и-ну]

Microsoft - не слыхали?

Это сразу поднимает авторитет в Ваших глазах?

А в ваших - ничего не значит?

А попробуйте не отвечать вопросом на вопрос? Глядишь - и получится беседа. Мне было бы интересно послушать, до какой степени Майкрософт является для Вас авторитетом.

[simple]

Не, ребят, я вас понимаю. Сложно принять, что то, чем ты занимался всю сознательную жизнь, на глазах обесценивается и передается машине.

чушь то не пишите, программисты как раз тремя руками за автоматизацию разработки, не даром основой программирования является повторное использование кода, всевозможные подходы к автоматизации как раз являются развитием этого, в том числе этот "ии".

Классическое высказывание программиста со стажем: "ну пробовал я ентот ваш хваленый ИИ, накосячил он мне, разгребать за ним. Фуфло, короче". И до кучи мемчики всякие, высмеивающие "уборку за ИИ", и т.п.

и что? это както не соответствует действительности? нет, соответствует.

Смейтесь, смейтесь. Но помните поговорку, кто смеется хорошо.

программисты как раз не сомневаются что возможно создание "ии" который будет хорошо писать и хотят этого больше всех, слишком много всякого говна написано благодаря менеджерам, которое надо выкинуть и написать заново.

проблема в том что эти говноменеджеры никуда не делись и будут активно использовать "ии" до того как он станет нормальным, и говна станет еще больше чем сейчас, да программисты против говна и это нормально.
 

[nonconvex]

Чем была подтверждена корректность этих проектов? Тестами или чем то еще?

И тестами. И ВНЕДРЕНИЯМИ

Вот тут и беда. Тесты гарантируют корректность на тестовых примерах. На всех остальных гарантий нет. ВНЕДРЕНИЯ еще хуже, есть такой синоним - "впарить". Пресвятой Илон уже лет десять как автопилот впаривает, по 10К за внедрение.

Речь была о другом - если у вас система управляющая АЭС (ну например), то тестами тут не обойтись, нужны более железные гарантии , или формальные методы, такие как статический анализ и доказательство теорем, или соответствующий метод проектирования, с защитой проекта, просмотрами, обсуждениями компетентными членами коллектива с естественным интеллектом.Можно и ИИ привлекать для просмотров, но никак не для принятия решений, поскольку найти одну проблему проще, чем найти ВСЕ проблемы.

Ничего этого ИИ кодер вам не дает, он тупо подбирает паттерны по весовым коэффициентам, фокусируясь на том, чтобы компилятор не выдавал ошибки. Логику же формально проверить или дорого, или невозможно в большинстве практических случаев, есть на то соответствующие теоремы, можно обсудить, если интересно. И здесь у ИИ возникают совершенно дикие ошибки, которые могут пройти мимо тестов, быть ВНЕДРЕНЫ, и уж потом, на площадке заказчика случится бадабум. Вы поедете разбираться и будете умирать  в просмотре кода нагенерированного ИИ, потому что так НИКТО кроме этой конкретной версии LLM не пишет.

[nonconvex]

Владимир Иванов - широко известный в узких кругам гуру управления проектами. Программист с большой буквы. Персона в микрософте.

Product Manager в Microsoft - так?

[Ну-и-ну]

слишком много всякого говна написано благодаря менеджерам, которых надо выкинуть и написать заново.

Так лучше.

[Ну-и-ну]

Кстати, о птичках.
Вы не можете просматривать это вложение.

[sychbird]

слишком много всякого говна написано благодаря менеджерам, которых надо выкинуть и написать заново.

Так лучше.

Лучше так, как в Вашем последнем посте в теме: "Наука и смысл жизни"

[Inti]

[nonconvex]

Дарио Амодеи, генеральный директор Anthropic, опубликовал в понедельник эссе на 38 страницах под названием «Подростковый возраст технологии», предупреждая, что суперинтеллектуальный ИИ может появиться уже в 2027 году и создать катастрофические риски для цивилизации, если правительства и технологические компании не примут срочные меры.

Еще один болтун, который не видит разницы между линейной и экспоненциальной функциями.

[OlegN]

Microsoft - не слыхали?

Это сразу поднимает авторитет в Ваших глазах?

настоящие проекты, 15 тыщ строк

Ради интереса глянул архив одного сайдскроллера для Game Boy Advance, вышедшего в 2001. 80 тыс строк. Игра, в принципе, совсем крошечная по современным меркам. Сейчас за такое, наверное, ничего и не заплатят.

Эх помнится , в самом  начале 90-х ... Конкурс был .. Кто короче и красивее (визуально , на экране )  код напишет  (это на I8086, PC XT ) .   Блиннн . 2-3 кБ- и Красота на экране , Музыка , Пламя в динамике , сопровождающие субтитры, банеры  , переливашки всякие . Вот Мужики- умели!
PS Я не про IOCCC (где 512 байт ограничение) , хотя тоже нельзя не отметить, заслуженно   . https://habr.com/ru/articles/886600/

[Dulevo]

Т.е ни лидеры компании, ни программисты не обеспокоены, что компания и их работа может исчезнуть, ну скажем в течении 10 лет?

Video game company stock prices dip after Google introduces an AI world-generation tool | The Verge


>>>Цены на акции компаний, занимающихся разработкой видеоигр, упали после того, как Google представила инструмент для генерации мира с помощью искусственного интеллекта.

[Ну-и-ну]

Акции - дело такое. Ууух, и фигак.

[Inti]

Космические дата-центры: