Опасности и преимущества использования нейросетей и ИИ для человечества - факты и только факты

[nonconvex]

Космические дата-центры:

Дата, говорите?

[Алексей Кириенко]

И будут выдавать сертифицированные галлюцинации.

Это не совсем верно. Галлюцинации действительно «экзистенциальная проблема», но «жесткое обучение» и надежное цитирование внешних источников все же возможно (правда, в этом случае поучится не ИИ, а банальная экспертная система со слегка более продвинутым пониманием естественного языка, но часто именно это и нужно).

[TAU]

Microsoft - не слыхали?

Это сразу поднимает авторитет в Ваших глазах?

А в ваших - ничего не значит?

А попробуйте не отвечать вопросом на вопрос? Глядишь - и получится беседа. Мне было бы интересно послушать, до какой степени Майкрософт является для Вас авторитетом.

Операционные системы от Микрософта до версии WinNT были непродуманными архитектурно жуткими удолбищами, прямо антипримерами.

Бизнес-модель с проприетарным ПО в виде "акулы капитализма" и "посадкой на иглу" вызывает лично у меня отвращение. 
С# - просто маразм.

Но! Корпорация безусловно богатейшая. Привлекает сотрудников лучших из лучших.

[TAU]

Вероятно, в скором будущем будут выпускаться некие узкоспециализированые, но гарантировано не ошибающиеся LLM-модули, сертифицированные уполномоченными организациями. В виде защищенного файла или даже отдельного чипа с прошивкой. В первую очередь, наверное, для медицины и фармацевтики: вынесение диагноза, выбор вариантов лечения с соответствующей аргументацией и т.д. А поликлиники и врачи будут это покупать для работы.
И обучаться эти модели будут на сертифицированных данных.

Проблема коректности имеет экспоненциальную сложность в общем случае

Вы задолбали своей экспонентой.

На самом деле, практические работы показывают, что возможности языковым моделей увеличиваются практически линейно при увеличении числа параметров и вычислительной мощи.

[TAU]

Не, ребят, я вас понимаю. Сложно принять, что то, чем ты занимался всю сознательную жизнь, на глазах обесценивается и передается машине.

1. чушь то не пишите, программисты как раз... за автоматизацию разработки, не даром
2. основой программирования является повторное использование кода, всевозможные подходы к автоматизации как раз являются развитием этого, в том числе этот "ии".

3. и что? это както не соответствует действительности? нет

Смейтесь, смейтесь. Но помните поговорку, кто смеется хорошо.

4. программисты как раз не сомневаются что возможно создание "ии" который будет хорошо писать
5. хотят этого больше всех

1. Пардон, не верю. Что программисты хотят пойти на биржу труда и перестать получать большие зарплаты. Ну может лично Вы - но не переносите на всех.

2. Действительно, программирование исторически развивалось по пути автоматизации. Неудивительно - ПО как раз и нужно для автоматизации человеческой деятельности в самых разных сферах, сапожники старались не остаться без сапог.
Уже переход от машинного кода к мнемоникам и запоминанию адресов в памяти называли автокодом. Первые трансляторы ЯВУ "программирующими программами", см. диссертацию академика Ершова (к слову, повезло встртиться лично в 1985).

3. Что языковые модели лажают и не могут самостоятельно сделать большой проект - да, правы. Частично. Пока. 

4. Вся полемика здесь и не здесь свидетельствует об обратном. Протестуют, желчно спорят и пытаются мемчики писать. Все чтобы не принять явное - скоро профессия вымрет.

5. Не верю! См. выше.

[TAU]

Чем была подтверждена корректность этих проектов? Тестами или чем то еще?

И тестами. И ВНЕДРЕНИЯМИ

Речь была о другом - если у вас система управляющая АЭС (ну например), то тестами тут не обойтись, нужны более железные гарантии , или формальные методы, такие как статический анализ и доказательство теорем, или соответствующий метод проектирования, с защитой проекта, просмотрами, обсуждениями компетентными членами коллектива с естественным интеллектом

И это вы мне рассказываете?!!

Знали бы, с кем имеете честь...

[TAU]

Microsoft - не слыхали?

Это сразу поднимает авторитет в Ваших глазах?

настоящие проекты, 15 тыщ строк

Ради интереса глянул архив одного сайдскроллера для Game Boy Advance, вышедшего в 2001. 80 тыс строк. Игра, в принципе, совсем крошечная по современным меркам. Сейчас за такое, наверное, ничего и не заплатят.

Эх помнится , в самом  начале 90-х ... Конкурс был .. Кто короче и красивее (визуально , на экране )  код напишет  (это на I8086, PC XT ) .  Блиннн . 2-3 кБ- и Красота на экране , Музыка , Пламя в динамике , сопровождающие субтитры, банеры  , переливашки всякие . Вот Мужики- умели!
PS Я не про IOCCC (где 512 байт ограничение) , хотя тоже нельзя не отметить, заслуженно  . https://habr.com/ru/articles/886600/

И мы умели.

Даже на БК. В 16 килобайтах ОЗУ. С музыкой... с визуальными эффектами... с перехватом прерываний. Знавал я людей... Planet of Zoom... Super Pacman... CSI DOS

Были времена...