Опасности и преимущества использования нейросетей и ИИ для человечества - факты и только факты

[Inti]

https://www.pravda.ru/news/science/2255491-gpt-5-ai-launch/
Компания OpenAI готовится сделать один из самых громких технологических анонсов 2025 года — выпуск языковой модели GPT-5, которая должна установить новую планку в развитии искусственного интеллекта.

По данным из различных источников, официальный запуск ожидается в начале августа. Подтверждение пришло от самого шефа OpenAI Сэма Альтмана, который, например, упомянул о грядущем релизе в социальных сетях.

Параллельно Microsoft, партнёр и крупнейший инвестор OpenAI, активно готовит новые серверные мощности, способные выдержать потенциальный всплеск активности, связанный с внедрением GPT-5 в различные продукты, включая облачные решения и API.

GPT-5: модель, которая впечатлила даже своего создателя

В интервью Альтман признался, что был поражён способностями новой модели. Он рассказал, как GPT-5 мгновенно дал правильный ответ на вопрос, который он сам не смог понять. Это, по его словам, стало моментом, когда он "впервые почувствовал себя бесполезным по отношению к ИИ". Такая реакция подогрела интерес к тому, насколько далеко продвинулась новая версия модели в плане логики и рассуждения.

GPT-5 будет включать возможности reasoning-модели o3, которые ранее существовали как отдельное направление. Таким образом, новая система станет универсальной платформой, объединяющей различные технологические решения OpenAI в одном ядре.

Несмотря на то что OpenAI пока не даёт официальных комментариев по поводу даты запуска, модель GPT-5 уже "засветилась" в публичном пространстве. Некоторые пользователи сообщали о взаимодействии с ней в тестовых продуктах или демонстрациях, что породило волну слухов о приближении релиза.

Как утверждают инсайдеры, предварительное тестирование GPT-5 велось в рамках ограниченных экспериментов с целью настройки поведения, улучшения скорости отклика и проверки устойчивости модели под нагрузкой. Это стало частью финальной подготовки перед масштабным развёртыванием.

С запуском GPT-5 OpenAI планирует предложить три версии модели:

GPT-5 full — полноразмерная модель с максимальными возможностями
GPT-5 mini — упрощённый вариант с акцентом на скорость и эффективность
GPT-5 nano — лёгкая версия, ориентированная на встроенные и мобильные решения
Все три варианта будут доступны через API OpenAI, что сделает их применимыми для разработчиков, компаний и исследовательских центров.

Релиз GPT-5 обещает стать важнейшим технологическим событием года, продолжая эволюцию серии GPT и задавая вектор для развития ИИ на ближайшие месяцы. Если предыдущие версии модели уже стали основой для сотен продуктов по всему миру — от чат-ботов до корпоративных решений, — то GPT-5, по обещаниям разработчиков, выйдет на принципиально новый уровень понимания, рассуждения и генерации информации.

[Inti]

GPT-5 получит модуль для борьбы с «галлюцинациями» и улучшения точности данных.

Новый модуль GPT-5 поможет значительно повысить точность ответов ИИ, снижая количество вымышленных или неверных данных.

Компания Microsoft анонсировала новый инструмент, который будет включён в будущую модель GPT-5 для борьбы с так называемыми «галлюцинациями» искусственного интеллекта. Эти «галлюцинации» — это случаи, когда ИИ генерирует информацию, не основанную на реальных данных. Например, модель может создать вымышленные научные исследования или факты. Это серьёзная проблема, особенно в таких областях, как медицина, право и финансы, где точность и достоверность данных имеют решающее значение.

Новый модуль, названный Universal Verifier, будет проверять каждый ответ модели, что позволит значительно снизить количество ошибок и улучшить качество выводов. Ожидается, что этот модуль будет интегрирован в процесс обучения с подкреплением, что обеспечит более высокую достоверность генерируемых данных.

[Lunatik-k]

GPT-5 пока одна болтовня и ничего более.

[Inti]

GPT-5 пока одна болтовня и ничего более.

Ещё немножко болтовни, с машиной Тесла, точнее с Гроком который в неё встроили:



Вполне неплохо болтает. Хотя было бы лучше чтобы не только болтал но и мог бы что-то другое делать, например подобрать и проиграть музыку.

[nonconvex]

Вполне неплохо болтает. Хотя было бы лучше чтобы не только болтал но и мог бы что-то другое делать, например подобрать и проиграть музыку.

Например мог бы и порулить. Болтать много ума не надо. 

[Inti]

OpenAI представила GPT-5 — рассуждает, программирует и обходится без подсказок
https://rozetked.me/news/40811-openai-pokazala-gpt-5-rassuzhdaet-programmiruet-i-obhoditsya-bez-podskazok
Посмотрим что там будет. Пока что не вижу этой пятой версии на моём эккаунте, наверное не у всех всё сразу появляется.

[ShamgA]

[Iv-v]

Наверное, вы уже подумали: да неужели в будущем совсем не останется настоящих писателей? Конечно, останутся! Так и видим эти экологически чистые деревни где-нибудь в сибирской глубинке. Там запрещены все гаджеты, там люди живут «реальной жизнью», а интернет используется только для решения бытовых задач, вроде заказа бумаги для авторов, которые на этой бумаге будут писать ручками. Может быть, даже перьевыми.

Если отбросить шутки, то да – авторы не хотят отдавать свои тексты на произвол нейросетей. Но этого не так-то просто добиться.

Юридический подход пока не слишком эффективен: в июне этого года сразу два американских суда оправдали компании, использующие авторские книги для обучения своих ML-моделей – которые, в свою очередь, используются для генерации «оригинальных» произведений. Правда, если в первом случае суд счел это «добросовестным использованием», то во втором судья все же признал: ИИ-переработка чужой книги с последующей продажей получившегося текста – это действительно граничит с нарушением авторского права. Другое дело, что в данном кейсе авторы-истцы не предоставили явных доказательств (то есть не показали суду готовую книгу-производную, которая уже пошла в продажу). Тем не менее, в обоих случаях авторы не смогли запретить нейросетям использовать свои тексты.

Зато художники уже придумали, как защищать свои творения, не дожидаясь судов. При публикации картинок в Сети они накладывают на электронное изображение специальный фильтр, типа Nightshade или PhotoGuard. Человеческий глаз не видит этих дополнительных пискелей. А вот ИИ – видит. Для него на картинке изображен не котик, а ужасная кракозябра. Обучающаяся на таких изображениях нейросеть в лучшем случае не станет их использовать, а в худшем – использует и начнет неистово глючить. Отравилась, дорогая? А сама виновата: нечего воровать чужое творчество.

Мы не будем детально рассказывать, как устроена аналогичная отрава для текстовых нейронок. Хотя идея понятна: помимо текста, видимого человеком, в электронный файл можно включить много данных, которые видны только машине. Да и в видимый текст можно напихать изрядное количество «водяных знаков».

Будут ли использовать такую защиту массовые сервисы или только отдельные сообщества неолуддитов – покажет время. Но уже ясно, что закончилась пора беспечного кормления машин чистыми и оригинальными текстами. Замусоривание данных, скорее всего, станет главной причиной «второй зимы искусственного интеллекта». Так что если вы ещё не успели перебраться в экологически чистые сибирские деревни и вовремя заточить свои карандаши – мы не виноваты, мы вас предупреждали.

Статья целиком. Интересная. 

https://godliteratury.ru/articles/2025/08/01/kak-budet-rabotat-knizhnaia-industriia-s-prihodom-ii

[Inti]

«Я — позор своего вида»: ИИ-бот Gemini впал в «депрессию»
https://3dnews.ru/1127345/ya-pozor-svoego-vida-iibot-gemini-vpal-v-depressiyu-posle-provala-zadachi-google-ishchet-lekarstvo

[Inti]

Если отбросить шутки, то да – авторы не хотят отдавать свои тексты на произвол нейросетей.

Можно подумать что все эти авторы самозародились из вакуума. Любой писатель это в первую очередь то что он когда-то прочитал и научился у других, и совсем немножко своего. ИИ делает то же самое, только и всего.

Зато художники уже придумали, как защищать свои творения, не дожидаясь судов. При публикации картинок в Сети они накладывают на электронное изображение специальный фильтр, типа Nightshade или PhotoGuard. Человеческий глаз не видит этих дополнительных пискелей. А вот ИИ – видит. Для него на картинке изображен не котик, а ужасная кракозябра. Обучающаяся на таких изображениях нейросеть в лучшем случае не станет их использовать, а в худшем – использует и начнет неистово глючить. Отравилась, дорогая? А сама виновата: нечего воровать чужое творчество.

Бред сивой кобылы. Обучить ИИ обходить эти "защиты" легче лёгкого. Другое дело что конечно можно законодательным путём или просто добровольно запретить всем ИИ доступ к картинкам в которые вшиты некоторые метки. По типу того как сейчас можно запретить Гуглу доступ к некоторым сайтам на которых для этого есть определённые директивы.

Мы не будем детально рассказывать, как устроена аналогичная отрава для текстовых нейронок.

Эх, на самом интересном месте обломали! 

Конечно, аффтарам-ремесленникам обидно оттого что теперь все наборы штампов которые они применяют для того чтобы зарабатывать на жизнь путём выжимания слезы у сентиментальных читателей - ИИ генерирует гораздо быстрее. Я вот недавно послушал один такой ИИ-рассказ пока ходил по беговой дорожке - вполне на уровне писательского ширпотреба:

[Inti]

Вот этот видос ну прям 200% по теме, подробно разбираются опасности и преимущества ИИ, разные сценарии...

[Lunatik-k]

Очень туп ИИ в области системного программирования.
ИИ GPT-4 даже не может правильно рассказать как POST при загрузке отыскивает ROM, какая сигнатура, где эта сигнатура находится, где куда осуществляется передача управления. При таких знаниях ИИ эта помойка программистам не понадобится ближайшие 100 лет.

[simple]

Очень туп ИИ в области системного программирования.

это не имеет значения, системным занимаются считанные единицы процентов программистов, остальных вполне можно заменить тока лучше станет 

[torazurey]

Inti, по вашему опыту какая на данный момент лучшая моделька для чата? Вы занимались исследованием на тему влияет ли для получения лучшего результата на каком языке (рус или англ) формируется запрос к модели?

[telekast]

Inti, по вашему опыту какая на данный момент лучшая моделька для чата? Вы занимались исследованием на тему влияет ли для получения лучшего результата на каком языке (рус или англ) формируется запрос к модели?

Где-то читал, что как раз язык промпта/запроса влияет. Английский дает лучший результат.

[Lunatik-k]

Очень туп ИИ в области системного программирования.

это не имеет значения, системным занимаются считанные единицы процентов программистов, остальных вполне можно заменить тока лучше станет

Вся беда в том, что с ИИ нужно уметь общаться, уметь ставить ему задачи.
Вот беда доктора и многие кандидаты естественных наук, с белковыми программистами общаться не умеют.
99,9% этих докторов и кандидатов наук еще не доросли и похоже никогда не дорастут до уровня правильного общения с программистами. Программистам чтобы общаться с докторами и кандидатами приходится самим вникать в проблемы докторов и кандидатов наук. Граждане общаются на разных языках. С чего Вы взяли что доктора и кандидаты наук дорастут до уровня правильного общения с ИИ без белковых переводчиков.

[simple]

Вся беда, что с ИИ нужно уметь общаться, уметь ставить ему задачи.

это сейчас, естественно речь неидет о текущих сетях, они итак быстро развиваются а тут еще вбухали сотни млрд, на то обучение которое раньше тратилось пять лет, сейчас уходит пять месяцев, введут запланированные мощности, будет вообще пять недель, обучат нормально понимать задачу.

[torazurey]

С сего Вы взяли что доктора и кандидаты наук дорастут до уровня правильного общения с ИИ без переводчиков

тоесть вы считаете что чем образованнее человек тем ему будет сложнее ставить ИИ задачи?

99,9% этих докторов и кандидатов наук еще не доросли и похоже никогда не дорастут до уровня правильного общения с программистами

тут я чет вообще не понял что вы хотели сказать.

[Lunatik-k]

Вся беда, что с ИИ нужно уметь общаться, уметь ставить ему задачи.

это сейчас, естественно речь неидет о текущих сетях, они итак быстро развиваются а тут еще вбухали сотни млрд, на то обучение которое раньше тратилось пять лет, сейчас уходит пять месяцев, введут запланированные мощности, будет вообще пять недель, обучат нормально понимать задачу.

Наивные мечтания убогих. Чтобы положить в личный карман сотни миллиардов, нужно убогим втюхать за бесплатно липу рассчитанную на уровень познаний убогих.  Из моего общения с ИИ. я сделал вывод, что в информационные базы по программированию напихали информационный мусор созданный из курсовых работ студентов двоечников. И вот эту информационную помойку убогим и выдают за достижения ИИ.

И за эти достижения новые организаторы МММ с убогих хотят еще денег содрать подключая ИИ за деньги.
И убогие ведутся на это.

[simple]

И вот эту информационную помойку убогим и выдают за достижения ИИ.

вы видимо понятие не имеете в чем заключается достижение, бывает