Опасности и преимущества использования нейросетей и ИИ для человечества - факты и только факты

[nonconvex]

Вероятно, в скором будущем будут выпускаться некие узкоспециализированые, но гарантировано не ошибающиеся LLM-модули, сертифицированные уполномоченными организациями. В виде защищенного файла или даже отдельного чипа с прошивкой. В первую очередь, наверное, для медицины и фармацевтики: вынесение диагноза, выбор вариантов лечения с соответствующей аргументацией и т.д. А поликлиники и врачи будут это покупать для работы.
И обучаться эти модели будут на сертифицированных данных.

Проблема коректности имеет экспоненциальную сложность в общем случае

Вы задолбали своей экспонентой.

На самом деле, практические работы показывают, что возможности языковым моделей увеличиваются практически линейно при увеличении числа параметров и вычислительной мощи.

Экспонента - это штука такая. С ней нужно жить. Просто вы не поняли о чем речь. Речь не о возможностях языковых моделей, а о проверке корректности их результата. В качестве примера: проверка непротиворечивости нового правила со всеми остальными правилами и цепочками оных в системе логического вывода в общем случае имеет экспоненциальную сложность. Именно по этой причине в чат-ботах отсутствует проверка истинности (TMS, Truth Maintenance System).

[nonconvex]

см. диссертацию академика Ершова (к слову, повезло встртиться лично в 1985).

А я лично встречался с Д. Кнутом в Стенфорде, ну и что? Если бы вы не только встречались, а изучали работы Андрея Петровича, то ваши аргументы были бы не "на самом деле", а на уровне цитирования теорем, например неразрешимости проблемы останова программы. К сожалению, с Тьюрингом встретиться не пришлось.

[Inti]

Речь не о возможностях языковых моделей, а о проверке корректности их результата.

Вот кстати нашлась статья как раз об этом. О том что некоторые результаты вполне возможно проверять экспериментально. Если ИИ дать возможность управлять роботами.

February 1, 2026
Multi-agent AI and robots automate materials discovery in closed-loop lab system
https://phys.org/news/2026-01-multi-agent-ai-robots-automate.html#google_vignette

[nonconvex]

Речь не о возможностях языковых моделей, а о проверке корректности их результата.

Вот кстати нашлась статья как раз об этом. О том что некоторые результаты вполне возможно проверять экспериментально. Если ИИ дать возможность управлять роботами.

February 1, 2026
Multi-agent AI and robots automate materials discovery in closed-loop lab system
https://phys.org/news/2026-01-multi-agent-ai-robots-automate.html#google_vignette

Какие то странные там роботы, безногие-безголовые, и сальто с пробиркой похоже крутить не умеют. 

[Inti]

Речь не о возможностях языковых моделей, а о проверке корректности их результата.

Вот кстати нашлась статья как раз об этом. О том что некоторые результаты вполне возможно проверять экспериментально. Если ИИ дать возможность управлять роботами.

February 1, 2026
Multi-agent AI and robots automate materials discovery in closed-loop lab system
https://phys.org/news/2026-01-multi-agent-ai-robots-automate.html#google_vignette

Какие то странные там роботы, безногие-безголовые, и сальто с пробиркой похоже крутить не умеют.

Тем не менее, проверять результаты с их помощью ИИ может. Что наводит на мысль о том что таки есть некоторые способы обеспечить абсолютную корректность ИИ в некоторых областях. Не так ли?

Ну и понятное дело что возможности ИИ обеспечивать корректность сильно возрастут если он сможет управлять ЧП роботами   

А что вы скажете если вдруг, в процессе этих автоматизированных экспериментов, ИИ вдруг сделает открытие или изобретение? А ведь сделает же... фактически УЖЕ делал... Самые большие были в биологии, медицине и материаловедении, теперь ждём открытий в других науках 

[nonconvex]

Речь не о возможностях языковых моделей, а о проверке корректности их результата.

Вот кстати нашлась статья как раз об этом. О том что некоторые результаты вполне возможно проверять экспериментально. Если ИИ дать возможность управлять роботами.

February 1, 2026
Multi-agent AI and robots automate materials discovery in closed-loop lab system
https://phys.org/news/2026-01-multi-agent-ai-robots-automate.html#google_vignette

Какие то странные там роботы, безногие-безголовые, и сальто с пробиркой похоже крутить не умеют.

Тем не менее, проверять результаты с их помощью ИИ может. Что наводит на мысль о том что таки есть некоторые способы обеспечить абсолютную корректность ИИ в некоторых областях. Не так ли?

А то. Нальет вам в стакан уксус вместо воды. Если помрете, значит не угадал. 

[Inti]

Речь не о возможностях языковых моделей, а о проверке корректности их результата.

Вот кстати нашлась статья как раз об этом. О том что некоторые результаты вполне возможно проверять экспериментально. Если ИИ дать возможность управлять роботами.

February 1, 2026
Multi-agent AI and robots automate materials discovery in closed-loop lab system
https://phys.org/news/2026-01-multi-agent-ai-robots-automate.html#google_vignette

Какие то странные там роботы, безногие-безголовые, и сальто с пробиркой похоже крутить не умеют.

Тем не менее, проверять результаты с их помощью ИИ может. Что наводит на мысль о том что таки есть некоторые способы обеспечить абсолютную корректность ИИ в некоторых областях. Не так ли?

А то. Нальет вам в стакан уксус вместо воды. Если помрете, значит не угадал.

Ну слава богу хотя бы по смыслу возражений нет. Но стало обидно за Марию Кюри которая тоже не угадала что эксперименты с радиацией её убьют. 
Я кстати совершенно согласен что роботы таки хоть кого-то да убьют когда-нибудь - или напрямую или например наливая какому-нибудь алкашу водки без меры. Некоторые уверяют что ИИ уже стали причиной нескольких самоубийств, типа не то советовал. 
Но все эти проблемы прогресс не остановят. 
Даже в т.н. развитых странах где очень любят всё тормозить. Даже там понимают что в данном случае, с ИИ и роботами, если тормозить то может случиться проигрыш Китаю всухую. Поэтому в США всех скептиков и борцов за этику прижали чтоб не пищали. Потому что слишком многое на кону. В данном случае даже выбросить деньги на ветер - менее страшно чем рисковать отстать навсегда.

[TAU]

см. диссертацию академика Ершова (к слову, повезло встртиться лично в 1985).

А я лично встречался с Д. Кнутом в Стенфорде, ну и что? Если бы вы не только встречались, а изучали работы Андрея Петровича, то ваши аргументы были бы не "на самом деле", а на уровне цитирования теорем, например неразрешимости проблемы останова программы. К сожалению, с Тьюрингом встретиться не пришлось.

Ну я еще с Бертраном Майером на конференции встречался. И в моих научных публикациях теоремы присутствуют, поверьте. Просто в дискуссии на форуме не вполне уместны, не находите?

При чем здесь абстрактная неразрешимость алгоритмической проблемы?!
Вам прямо, в лоб пишут: языковые модели искусственного интеллекта  на практике, сегодня, сейчас успешно программируют.

.

Февраль будет безумной схваткой вендоров ИИ. Мы увидим.
- DeepSeek V4
- Qwen 3.5
- Kling 3.0
- Seedance 2.0
- GPT-5.3
- Grok 4.20
- Claude 5
- Gemini 3 GA
- GLM 5

[TAU]

Вероятно, в скором будущем будут выпускаться некие узкоспециализированые, но гарантировано не ошибающиеся LLM-модули, сертифицированные уполномоченными организациями. В виде защищенного файла или даже отдельного чипа с прошивкой. В первую очередь, наверное, для медицины и фармацевтики: вынесение диагноза, выбор вариантов лечения с соответствующей аргументацией и т.д. А поликлиники и врачи будут это покупать для работы.
И обучаться эти модели будут на сертифицированных данных.

Проблема коректности имеет экспоненциальную сложность в общем случае

Вы задолбали своей экспонентой.

На самом деле, практические работы показывают, что возможности языковым моделей увеличиваются практически линейно при увеличении числа параметров и вычислительной мощи.

Экспонента - это штука такая. С ней нужно жить. Просто вы не поняли о чем речь

Просто вы все ведете свою речь не о том, что на самом деле имеет отношение к делу.

Программное обеспечение от ИИ проверяется на практике. Вполне успешно. Множеством путей.

[TAU]

C# - отличный инструмент для проектов правильного размера (маленьких и средних). Эффективный и удобный, написанный грамотными людьми (один из "столпов" до того Delphi писал). Жив четверть века, и не просто жив, а активно используется.

Какой?! Эффективный???

Вы про память занимаемую или про быстродействие, простите?

Ну и скорее пациент помирает. Жив еле-еле, используется по инерции.

Не знаю про инерцию. Ткнул пальцем в гугл, получил вот: https://spectrum.ieee.org/top-programming-languages-2025

Память и быстродействие - да нормально всё

Ага. А белое - это черное. Не вижу смысла спорить.

[Iv-v]

От нейросети требуются всё те же 3 или 4 сигмы.
Исходя из этого и будет планироваться её тестирование. Скосячила на тестах меньше допустимого - годна к строевой.

[TAU]

Вероятно, в скором будущем будут выпускаться некие узкоспециализированые, но гарантировано не ошибающиеся LLM-модули, сертифицированные уполномоченными организациями. В виде защищенного файла или даже отдельного чипа с прошивкой. В первую очередь, наверное, для медицины и фармацевтики: вынесение диагноза, выбор вариантов лечения с соответствующей аргументацией и т.д. А поликлиники и врачи будут это покупать для работы.
И обучаться эти модели будут на сертифицированных данных.

Проблема коректности имеет экспоненциальную сложность в общем случае

Вы задолбали своей экспонентой.
На самом деле, практические работы показывают, что возможности языковым моделей увеличиваются практически линейно при увеличении числа параметров и вычислительной мощи.

Высокая конкурентоспособность GPT ещё и в том, что трансформеры очень хорошо масштабируются при увеличении мощности ЦОД. Большинство других архитектур нейросетей быстро выходят на плато

[TAU]

C# - отличный инструмент... не просто жив, а активно используется.

Какой?! Эффективный???
Ну и скорее пациент помирает. Жив еле-еле, используется по инерции.

гугл, получил вот: https://spectrum.ieee.org/top-programming-languages-2025
Память и быстродействие - да нормально всё. А если правильно разделить обязанности с C++ - то вообще прекрасно.

Главное и здесь - куда движется. Был выше, падает. 28 процентов? Посмотрите на вечно живой Си из 1971 года! почти те же 28%. Если сложить с С++ получится вообще 63 процента!!!

Кстати, умные люди по ссылке пишут:

большим изменением в первой пятерке стало падение JavaScript с третьего места в прошлом году до шестого в этом году. Поскольку JavaScript часто используется для создания веб-страниц, а Vibe Code — для создания веб-сайтов, это снижение популярности может быть связано с влиянием ИИ
...программисты могут все меньше и меньше беспокоиться о тонкостях языка. Сначала детали синтаксиса, затем управление потоком выполнения и функции, и так далее — все больше и больше возможностей предоставляется ИИ.

Хотя магистерские программы по программированию все еще находятся в стадии разработки, поскольку они занимают все большую долю в этой сфере, программисты неизбежно меняются: от людей, готовых вести религиозные споры о том, следует ли использовать отступы в исходном коде с помощью табуляции или пробелов, до людей, которым все меньше и меньше важно, какой язык используется... В конце концов, вся причина существования различных языков программирования заключается в том, что для решения конкретной задачи проще использовать один язык, чем другой. Вы же не будете управлять стиральной машиной с помощью языка программирования R , или, наоборот, проводить статистический анализ больших наборов данных с помощью языка C. 

LLM... сгенерируют код для заданной подсказки на любом языке, который вы захотите... язык, на котором написана программа, в конечном итоге становится второстепенной деталью.

Современные высокоуровневые языки программирования, по сути, предназначены для двух целей: создания уровня абстракции, упрощающего обработку данных подходящим образом, и предотвращения ошибок, которые могут совершить программисты
...сколько абстракции и структур, препятствующих «стрельбе по ногам», действительно потребуется достаточно продвинутому ИИ для программирования? ...это то, что ни один человек никогда бы не разработал, но это работает

Какова роль программиста в будущем без исходного кода?
...дипломы по информатике, с их акцентом на фундаментальные знания, а не на детали языков программирования, приобретают большую ценность, чем курсы программирования

Почему-то не сомневаются, как nonconvex, в большом будущем вайбкодинга. Экспонента в помощь!

Кстати, еще на сайте IEEE

LLM Benchmarking Shows Capabilities Doubling Every 7 Months By 2030, LLMs may do a month's work in just hours
- Вы предполагали, что получите именно такие результаты?
- Лично я не ожидала, что у нас будет настолько четкая экспоненциальная зависимость.

[nonconvex]

Вероятно, в скором будущем будут выпускаться некие узкоспециализированые, но гарантировано не ошибающиеся LLM-модули, сертифицированные уполномоченными организациями. В виде защищенного файла или даже отдельного чипа с прошивкой. В первую очередь, наверное, для медицины и фармацевтики: вынесение диагноза, выбор вариантов лечения с соответствующей аргументацией и т.д. А поликлиники и врачи будут это покупать для работы.
И обучаться эти модели будут на сертифицированных данных.

Проблема коректности имеет экспоненциальную сложность в общем случае

Вы задолбали своей экспонентой.

На самом деле, практические работы показывают, что возможности языковым моделей увеличиваются практически линейно при увеличении числа параметров и вычислительной мощи.

Экспонента - это штука такая. С ней нужно жить. Просто вы не поняли о чем речь

Просто вы все ведете свою речь не о том, что на самом деле имеет отношение к делу.

Программное обеспечение от ИИ проверяется на практике. Вполне успешно. Множеством путей.

Если бы вы не обрезали цитату (фу, как некрасиво, а еще доктор)

Речь не о возможностях языковых моделей, а о проверке корректности их результата. В качестве примера: проверка непротиворечивости нового правила со всеми остальными правилами и цепочками оных в системе логического вывода в общем случае имеет экспоненциальную сложность. Именно по этой причине в чат-ботах отсутствует проверка истинности (TMS, Truth Maintenance System).

То отвечали бы по делу, а не рассуждали про "множество путей проверки", из которых от вас прозвучали "тестирование и внедрение", то что как раз ничего не гарантирует.

[nonconvex]

От нейросети требуются всё те же 3 или 4 сигмы.
Исходя из этого и будет планироваться её тестирование. Скосячила на тестах меньше допустимого - годна к строевой.

От нейросети требуется корректность. Например, она вам синтезирует компилятор, с какого либо языка программирования. Этот компилятор должен производить корректный код, а не 3 сигмы.

[nonconvex]

И в моих научных публикациях теоремы присутствуют, поверьте. Просто в дискуссии на форуме не вполне уместны, не находите?

Уместны, когда вы что либо утверждаете и в качестве "аргумента" приводите некий случайный опыт.

При чем здесь абстрактная неразрешимость алгоритмической проблемы?!
Вам прямо, в лоб пишут: языковые модели искусственного интеллекта  на практике, сегодня, сейчас успешно программируют.

Успешно, с участием человека. Без человека они часто пишут ерунду, в сложных программах.