Опасности и преимущества использования нейросетей и ИИ для человечества - факты и только факты

[cross-track]

>>> Сэм Альтман : OpenAI уже в тестировании модель которая занимает 50-е место среди
лучших программистов в мире, а к концу 2025 года их модель займет первое место.

Он как и Маск, вот уже который год обещает к концу года.
В реальности же ничего не получится, их модели по определению некорректны.

Это легко проверить, получится или нет. Осталось меньше года до обещанного Альтманом первенства.

[Dulevo]

Ну да. 
Выполняет тесты, которые люди программисты (большинство) - не может выполнить - и некорректна.

Эта заявы могли бы еще прокатить в других областях. Но в программировании?
Где можно написать юнит тесты по заданию - и смотреть - выполняются или нет.

[nonconvex]

Ну да.
Выполняет тесты, которые люди программисты (большинство) - не может выполнить - и некорректна.

Эта заявы могли бы еще прокатить в других областях. Но в программировании?

Именно в программировании. Некорректна по причине экспоненциальной сложности проверки (доказательства) корректности. Юнит тест оно вероятно напишет правильно, а что-то более сложное, ветвистое - уже нет. Галлюцинации никто не отменял, корректность генерации кода всегда меньше единицы.

[Inti]

[Inti]

Ну, понеслось 

Ещё более дешёвый ИИ на основе китайского Open Source:

[Dulevo]

Закономерный результат:

New Junior Developers Can't Actually Code | N's Blog

Товарищ побеседовал с начинающими программистами, которые используют ИИ для написания программ.
Они пишут кода больше чем раньше до ИИ. 
Но при этом как выяснилось из разговоров с ними - они не понимают что этот код делает.

Лет через 10 придут последствия - резко сократится количество понимающих интермедиет и сеньоров программистов. 

[Inti]

Илон выкатил Грок 3

00:00 Introduction to GROK 3 and XAI's Mission
01:07 Meet the Team and GROK's Evolution
03:25 Technical Challenges and Data Center Expansion
05:38 GROK 3's Advanced Capabilities and Live Demos
22:13 Exploring Game Mechanics: Tetris and Bejeweled
23:23 Introducing X.AI's AI Gaming Studio
24:38 Unveiling DeepSearch: The Next-Gen Search Engine
30:12 Grok 3: Features, Launch, and Future Plans

Парень слева - Игорь Бабушкин



Команда создателей Грок 3:

[nonconvex]

Илон выкатил Грок 3

Опять Jaw dropping?

А автопилот то когда наконец допилит?

[Inti]

Цитата: nonconvex от 2/19/2025, 6:32:33 PM

Цитата: Inti от 2/19/2025, 2:52:08 AM
Илон выкатил Грок 3

Опять Jaw dropping?

А автопилот то когда наконец допилит?

Такое чувство что китайцы допилят его скорее - https://forum.novosti-kosmonavtiki.ru/index.php?msg=2703539 - по крайней мере догоняют Теслу вполне активно.

Хотя смотря что понимать под словом "допилят". Для полностью автономного вождения по ограниченным районам\маршрутам - автопилот уже практически готов. Маск говорил что в отдельных городах уже будут запускать.

Маск сообщил, что роботакси с технологией полного самообслуживания без контроля начнут собирать плату за проезд в Остине, штат Техас, начиная с июня этого года.

«Я уверен, что мы выпустим FSD без контроля и в Калифорнии (в этом году)», - сказал он.

[nonconvex]

Цитата: nonconvex от 2/19/2025, 6:32:33 PM

Цитата: Inti от 2/19/2025, 2:52:08 AM
Илон выкатил Грок 3

Опять Jaw dropping?

А автопилот то когда наконец допилит?

Такое чувство что китайцы допилят его скорее

Ложное чувство.

[Inti]

«При неправильном обращении небольшая доза может убить миллионы людей»: Grok AI подсказал рецепт отравляющего вещества
https://habr.com/ru/news/888438/