Компьютерная безопасность. Или опасность.

Автор АниКей, 05.03.2022 04:34:13

« назад - далее »

0 Пользователи и 1 гость просматривают эту тему.

Dulevo



>>> Так что же сделала система? Она убил оператора.

Как и думал - новость оказалась фейком.
Уж слишком хорошо она вписывается в страшилки про ИИ которые нам тут все рассказывают.

ВВС США отрицает, что военный беспилотник пытался нейтрализовать оператора во время виртуальных испытаний / Хабр (habr.com)

>>>"ВВС не проводили подобных симуляций дронов с искусственным интеллектом"
>>>комментарии полковника Гамильтона были вырваны из контекста и носили анекдотический характер

nonconvex

Цитата: Dulevo от 02.06.2023 18:19:18>>>комментарии полковника Гамильтона были вырваны из контекста и носили анекдотический характер
Полковнику объявлено взыскание, за разглашение служебных анекдотов.

формально говоря, почему бы и нет? Если они там развлекаются с generative AI + reinforced learning, то ему все равно куда загнуть траекторию для повышения поощрения. Если забыли внести ограничение на неуничтожение своих объектов, то он безусловно их уничтожит, математической функции до лампочки наши проблемы. Если же запретить бить по своим, то нужно будет решать проблему ложных срабатываний, в противном случае он и противника может проигнорировать, и своих принять за него.

Dulevo

Для того чтобы понять что это фейк - достаточно внимательно почитать условия.

"ИИ уничтожил оператора".

Вопрос: 
1) Как ИИ знал местоположение оператора? 
Пусть у него есть список обьектов. Там что? - специально помечено положение оператора и сказано - вот этот обьект дает тебе распоряжения кого нельзя уничтожать?
2) И стало быть ИИ не может уничтожать обьекты без запроса оператора - но при этом он может уничтожить оператора без запроса.

Липа же, очевидно...

И так со всеми страшилками про ИИ.

Зомби. Просто Зомби

Цитата: nonconvex от 02.06.2023 21:02:23Если забыли внести ограничение на неуничтожение своих объектов, то он безусловно их уничтожит
Сначала он должен его опознать как препятствие для повышения рейтинга.
Не копать!

nonconvex

Цитата: Зомби. Просто Зомби от 02.06.2023 22:53:35
Цитата: nonconvex от 02.06.2023 21:02:23Если забыли внести ограничение на неуничтожение своих объектов, то он безусловно их уничтожит
Сначала он должен его опознать как препятствие для повышения рейтинга.
Согласен. И поскольку у него все ходы определяются весовыми коэффициентами, то даже существенно отрицательный вес (оператор) может быть превышен достаточно большим количеством положительных целей. И тогда оператору кранты.

Зомби. Просто Зомби

Цитата: nonconvex от 02.06.2023 22:58:49И тогда оператору кранты.
Ну ессессно, трактор может запросто задавить.
Особенно, если нарушаешь ПДД.
Но это не значит, что это такое у него органическое неотъемлемое свойство - давить простых тружеников села.

Также и ИИ может быть равным образом как снабжен различными "предохранителями", так и наоборот, специально ориентирован в духе Терминатора.

А если его просто отпустить погулять, то он и наехать может. Как трактор, у которого педаль кирпичом придавлена, а в кабине никого.
Не копать!

nonconvex

Цитата: Зомби. Просто Зомби от 02.06.2023 23:44:53
Цитата: nonconvex от 02.06.2023 22:58:49И тогда оператору кранты.
Ну ессессно, трактор может запросто задавить.
Особенно, если нарушаешь ПДД.
Но это не значит, что это такое у него органическое неотъемлемое свойство - давить простых тружеников села.

Также и ИИ может быть равным образом как снабжен различными "предохранителями", так и наоборот, специально ориентирован в духе Терминатора.

А если его просто отпустить погулять, то он и наехать может. Как трактор, у которого педаль кирпичом придавлена, а в кабине никого.

Трактор - пример неудачный, он насквозь детерминированный, и поехать самостоятельно он может только если вовремя не починили тормоза.
Автопилот Теслы уже намного ближе к теме, потому что его весовая матрица вещь в себе, и понять ее ну очень сложно, остается верить, и рассчитывать что оператор (водитель) перехватит управление если что.
Каков интенсионал военного ИИ  (ВИИ) понять сложно, зависит от степени автономности, внесенной в него инженерами. В отличие от мирного трактора ВИИ обучается он на широком спектре ситуаций, в которых например может присутствовать "вызываю огонь на себя", так что с предохранителями тут посложнее.

АниКей

А кто не чтит цитат — тот ренегат и гад!

АниКей


bfm.ru

Почему появился фейк об «искусственном интеллекте-убийце»?


В СМИ появилась информация, что глава отдела испытаний искусственного интеллекта ВВС США Такер Гамильтон сообщил о некоем смоделированном испытании, в котором беспилотник решил избавиться от оператора, потому что тот мешал ему атаковать некоторые цели. Позднее газета The Guardian выступила с опровержением этих данных. Но случайно ли появились эти слухи?

Гонка за созданием и монетизацией решений, основанных на использовании нейросетей, очевидно, выходит на финальную стадию. Сейчас бесспорным лидером в этой области считается принадлежащая Microsoft компания OpenAI и ее ChatGPT. По прогнозам в 2023 году ее доход достигнет 200 млн долларов. Сумму нельзя назвать космической, но ожидается, что в следующем году она вырастет еще в пять раз. Поэтому любые сообщения об опасностях, исходящих от использования ИИ, начинают потенциально получать вполне реальное финансовое измерение. Пока что OpenAI — это полностью частная компания. А вот если бы она была публичной, то расследования со стороны финансовых регуляторов было бы не избежать.
Притом что новость о виртуальном убийстве оператора для уха специалиста звучит бредом, на массовое сознание она производит немалое впечатление, указывает гендиректор компании «А-Я эксперт» Роман Душкин:
Роман ДушкинРоман Душкин гендиректор компании — разработчика искусственного интеллекта «А-Я эксперт»
Уже в ближайшие дни на заседании Совета ЕС по торговле и технологиям при участии США состоятся переговоры по регулированию искусственного интеллекта. Еврокомиссар по цифровым технологиям Маргрет Вестагер выразила надежду на достижение конкретных результатов уже к концу текущего года. Тем не менее она также отметила, что вступление новых правил в силу может занять от одного до двух лет.
Тем временем гендиректор OpenAI Сэм Альтман выразил озабоченность относительно планируемых европейских мер государственного регулирования искусственного интеллекта и предупредил, что компания может прекратить предоставление своих услуг на европейском рынке.
Обе позиции вполне объяснимы, констатирует советник юридической фирмы Lidings Дмитрий Кириллов:
Дмитрий Кириллов советник юридической фирмы Lidings
Пока еврочиновники только готовятся обсуждать то, как можно регулировать ИИ, а американский Сенат проводит на эту тему слушания, уже вполне готовый текст законопроекта, регулирующего подобные системы, разработал белорусский Объединенный институт проблем информатики Национальной академии наук. Этот проект уже был представлен Межпарламентской ассамблее СНГ. Тему использования ИИ президент страны отдельно затронул в своем мартовском послании белорусскому народу и Национальному собранию. Он отметил важность науки в укреплении государственности.
А кто не чтит цитат — тот ренегат и гад!

спец

ЦитироватьТему использования ИИ президент страны отдельно затронул в своем мартовском послании белорусскому народу и Национальному собранию.
Твою мать. Ну вот и опять пошло везде и всюду "приплетание" того, что об этом сказал САМ, как самый главный аргумент в СМИ. >:( Как же бесило это "в старые добрые времена" (ТМ).

АниКей

А кто не чтит цитат — тот ренегат и гад!

АниКей


naked-science.ru

В России представят нейросеть «Жириновский»


Презентация нейросети, названной в честь основателя Либерально-демократической партии России Владимира Жириновского, состоится 15 июня на полях Петербургского международного экономического форума. ИИ тестировали на публикациях и выступлениях политика, который умер в апреле 2022 года.

Советский и российский политический деятель, основатель и председатель Либерально-демократической партии России Владимир Жириновский / © РИА Новости
В пресс-службе ЛДПР сообщили РИА Новости, что работы над искусственным интеллектом под названием «Жириновский» продолжаются. По замыслу создателей, задачи этой нейросети будут просветительскими. 
«Массив данных загружен, алгоритм уже работает и в данный момент проходит обучение и тестирование. С ним уже можно общаться. Всем это станет доступно после 15 июня, когда на ПМЭФ-2023 состоится презентация нейросети», — добавили в партии.
В общей сложности за два месяца ИИ обработал около терабайта видео с выступлениями политика, текстов и изображений, уточнил ТАСС.
Пример работы нейросети можно посмотреть здесь.
А кто не чтит цитат — тот ренегат и гад!

SOLDIER

Это, скорее, ближе к "хиханькам да хаханькам".
Я готов слушать вас всю свою биографию.

Зомби. Просто Зомби

Цитата: SOLDIER от 14.06.2023 15:22:21Это, скорее, ближе к "хиханькам да хаханькам".
Не.
Хиханьки и хаханьки будут, когда её (нейросеть) президентом выберут.
Не копать!

Veganin

ЦитироватьХакеры обещают уничтожить банковскую систему Европы в ближайшие 48 часов. Они анонсируют сильнейшую кибератаку в истории
«Лента.ру»: хакеры из Killnet, Revil и Anonymous Sudan пообещали разрушить банки Европы

Сразу несколько хакерских группировок планируют провести масштабную атаку на европейскую банковскую систему. Как стало известно «Ленте.ру», свои усилия для достижения этой цели объединили хактивисты Killnet, представители считавшейся разгромленной Revil, а также члены Anonymous Sudan.

Вас ничто не спасет — и это не предупреждение, я просто ставлю вас в известность. С такими проблемами вы еще не сталкивались

представитель группировки Killnet,в обращении к европейским банкирам
Русские хакеры объявили войну европейским банкам
В распоряжении издания оказался также снятый, но пока не опубликованный проморолик, приуроченный к этой атаке. В самом ролике неназванный представитель Killnet призвал все действующие группировки к деструктивной деятельности против европейской банковской системы.

«Это не DDoS-атака, игры окончены. "Нет денег — нет оружия — нет киевского режима" — это формула будет работать, — пообещал человек в маске».


Лидер Killnet, скрывающийся под ником Killmilk, подтвердил «Ленте.ру», что подготовка к атаке уже ведется. Ожидается, что она начнется в ближайшие 48 часов.

Кибератака может стать самой крупной в истории
Представитель Revil, в свою очередь, констатировал, что «мир сошел с ума», и причиной этого, по его мнению, стали деньги. Он также заявил, что именно европейская банковская система управляет ЕС.

«Нет денег — нет проблем. Revil достаточно ознакомлен с европейской финансовой инфраструктурой», — пригрозил представитель группировки.


Орфография и пунктуация авторов ролика сохранена

Член Anonymous Sudan также отметил, что европейские финансовые учреждения станут свидетелями «сильнейшей кибератаки в новейшей истории мира». Он призвал их быть готовыми к грядущему удару, а также заявил, что когда он будет нанесен, «будет слишком поздно что-либо исправлять».

«Многие европейские банки станут мишенью, и мы будем бить без пощады», — заключил представитель Anonymous Sudan.


Чем известны Killnet, Revil и Anonymous Sudan
Группировка Killnet стала известна вскоре после начала специальной военной операции на Украине. Ее представители взломали сайт группировки Anonymous, которая до этого объявила кибервойну России. Вскоре после этого они начали проводить атаки на сайты и системы западных госорганов и компаний. Затем они объявили официальную кибервойну странам Запада и в течение 2022 и 2023 годов провели несколько запоминающихся нападений, в том числе атаку на производителя HIMARS, на инфраструктуру НАТО, сервис Starlink, а также на портал ФБР.

Revil — одна из наиболее известных хакерских группировок мира. Их подозревают в осуществлении громких атак на объекты критической инфраструктуры США и ряд крупных глобальных компаний. В ряде случае хакеры требовали выкуп в размере до 50 миллионов долларов. В январе 2022 года ФСБ объявила о разгроме хакерской группировки по просьбе США. Однако в последующем в даркнете усомнились в том, что были задержаны именно входящие в высшее руководство объединения киберпреступники.

Anonymous Sudan — объединение, заявляющее о своей национальной принадлежности к Судану. Среди основных целей выделяется защита ислама от врагов. Приоритетное направление атак — крупные шведские корпорации, от которых хакеры нередко требовали выкуп.
lenta.ru

Заявлений на рубль, а удар каким будет - посмотрим. И зачем предупреждать об ударе - чтобы поторговаться за кулисами?
"Мы не осмеливаемся на многие вещи, потому что они тяжелые, но тяжелые, потому что мы не осмеливаемся сделать их." Сенека
"У нас как-то с грузовиками не очень хорошо, а космонавты кушать хотят", - подчеркнул Соловьев.

SOLDIER

Цитата: Зомби. Просто Зомби от 14.06.2023 15:31:00
Цитата: SOLDIER от 14.06.2023 15:22:21Это, скорее, ближе к "хиханькам да хаханькам".
Не.
Хиханьки и хаханьки будут, когда её (нейросеть) президентом выберут.
Отлично сказано! ;D 👍
Я готов слушать вас всю свою биографию.

ZOOR

Где-то в теме про Роскосмос подобное уже было
https://club.dns-shop.ru/digest/96863-geimeryi-prizyivaut-bethesda-vernut-russkuu-lokalizatsiu-v-starfie/
ЦитироватьГеймеры призывают Bethesda вернуть русскую локализацию в Starfield
Геймеры призывают Bethesda вернуть русскую локализацию в Starfield

Аватар пользователя

alexi_here
21 час назад
1 мин

13


В апреле пользователи заметили, что на странице Starfield в Steam обновилась информация — в описании с игрой убрали поддержку русского языка. Официально Bethesda прекратила деятельность в России, с чем и связывают отсутствие локализации.
Но геймеры обратили внимание, что после презентации игры на Starfield Direct разработчики добавили описание на русском языке. Часть пользователей решила взять инициативу в свои руки и призвала Bethesda образумиться и вернуть локализацию.

Сообщения подобного характера начали появляться в Steam. Вдобавок студия GamesVoice опровергла предположения фанатов о возможной локализации игры. 
Цитировать«Я считаю что русский язык НЕ РАВНО Россия. Очень много людей из других стран говорят и общаются на русском языке, несправедливо лишать их локализации из за политической ситуации в мире».
Многие отмечают, что русский язык является для них родным, а разработчики лишают многомилионную аудиторию возможности насладиться игрой.
Премьера Starfield состоится 6 сентября 2023 года для PC и Xbox Series X/S. Игра будет поддерживать 30 FPS на консолях.
Я зуб даю за то что в первом пуске Ангары с Восточного полетит ГВМ Пингвина. © Старый
Если болит сердце за народные деньги - можно пойти в депутаты. © Neru - Старому

V.V.

Ибо нефиг тратить время на компьютерные игрушки.
В библиотеку, имбицилы, все - в библиотеку...
Therefore, send not to know
For whom the bell tolls,
It tolls for thee.

triage

#1238
Цитата: V.V. от 14.06.2023 22:35:04Ибо нефиг тратить время на компьютерные игрушки.
В библиотеку, имбицилы, все - в библиотеку...
не - ибо нефиг играть в импортное, нужно поддерживать отечественных производителей. Да и общение должно сохраняться.

ЦитироватьОчень много людей из других стран говорят и общаются на русском языке, несправедливо лишать их локализации
Такое чувство что помимо русского живя не в России они выучить другой язык не сумели.

Эх не жили и не играли они в 90-е

АниКей

А кто не чтит цитат — тот ренегат и гад!