Компьютерная безопасность. Или опасность.

[Arzach]

Что американские военные пенсионеры думают об уязвимости космических систем перед киберугрозами.

КОСМИЧЕСКАЯ КИБЕРБЕЗОПАСНОСТЬ: АХИЛЛЕСОВА ПЯТА
Адмирал Сэнди Виннефельд, ВМС США (в отставке), и генерал Эллен Павликовски, ВВС США (в отставке)

СЦЕНАРИЙ ВОЙНЫ 2026 года обоснованно включает в себя атаки Народно-освободительной армии на космические сети США. Командующий Индо-Тихоокеанским флотом США адмирал Джон Акилино заявил в Конгрессе, что Китай "создает возможности, которые направлены на лишение нас способности задействовать свою собственную космическую архитектуру, несмотря на их заявления против использования космоса в военных целях".

Нынешний подход США – распределенные архитектуры и большое число спутников – обеспечит некоторую устойчивость к большинству атак, но общесистемные кибератаки могут стать серьезной проблемой. Кибератаки на космические системы будут особенно пагубными, поскольку их будет трудно отнести к конкретной стороне, они могут быть быстро проведены и не оставят мусора, за который можно было бы критиковать атакующую сторону. Системы и спутники не обязательно должны подвергнуться физическому уничтожению; достаточно лишь скомпрометировать или исказить данные, которые они собирают и распространяют, ровно настолько, чтобы увеличить сроки принятия решений.

Традиционный подход американских военных к киберзащите, основанный на шифровании, после атаки может привести к тому, что вся взаимосвязанная архитектура будет ввергнута в трудоемкий процесс «смены ключей», если какой-либо узел будет скомпрометирован. К сожалению, существующие требования к кибербезопасности в космосе являются чрезмерно упрощенными по следующим причинам:

• Недооценка потенциала и последствий таких атак, частично основанная на «последней войне», в которой сетям передачи данных США всегда доверяли и они были защищены.
• Отсутствие понимания проблемы на общесистемном и сетевом уровнях среди многих старших руководителей. Кибертехнологии сложно представить наглядно, а кибератаки на сетевом уровне трудно поддаются осмыслению.
• Необоснованные опасения в отношении усложнения и повышения стоимости и без того дорогих спутниковых систем.
• Чрезмерная зависимость от резервных путей, которые обычно задействуют некоторый узел в архитектуре и поэтому могут быть уязвимыми.

Хорошей новостью является то, что сегодня существуют решения с «нулевым доверием», которые используют сквозное шифрование и децентрализованное управление криптографическими ключами. Они отличаются компактными размерами, малым весом и низким энергопотреблением; легко внедряются на большинстве уже запущенных спутников, а также на наземных системах; и доступны по цене. Эти системы предлагают:

• Гибкость на основе программного обеспечения, включая ПО прикладного уровня и небольшие пакеты ПО для простоты внедрения и модернизации на орбите.
• Децентрализованные равноранговые конфигурации и сегментация для предотвращения «заражения» всей архитектуры одним скомпрометированным узлом.
• Быстро обновляемые и разделяемые элементы управления полномочиями и доступом.
• Полный контроль над происхождением данных по всей цепочке их передачи «от источника до стрелка».
• Возможность использовать переменные инфраструктуры доверия (коммерческие, союзные и другие), а не полагаться исключительно на резервные системы Министерства обороны.

Кибератаки космических объектов почти наверняка будут применены противником на нулевой или первой фазе конфликта. Единственным препятствием на пути обеспечения доступной и модернизируемой кибербезопасности как для государственных, так и для частных спутников и их наземных сегментов является простое требование.

_{АДМИРАЛ ВИННЕФЕЛЬД был заместителем председателя Объединенного комитета начальников штабов.
ГЕНЕРАЛ ПАВЛИКОВСКИ возглавляла Командование материально-технического обеспечения ВВС и Центр космических и ракетных систем.}

Лоббируют, поди...

[АниКей]

[АниКей]

[Брабонт]

...если мы сами не сформируем искусственному интеллекту нужные смыслы

Это известная проблема AI (пруф), располагающего обширной базой знаний, но не имеющего жизненного опыта детсадовского пятилетки.

[Антикосмит]

Нужна система верификации полученных сведений и выводов.

[АниКей]

ferra.ru

Synthetaic привлекла $ 15 млн на развитие ИИ для анализа данных из космоса

Synthetaic, базирующаяся в штате Висконсин, привлекла внимание год назад, когда, используя искусственный интеллект и архив космических изображений от Planet Labs, независимо отследила движение китайского шпионского аэростата через США перед его сбитием.
Аналитический инструмент RAIC позволяет быстро идентифицировать изображения или объекты на изображениях, что обычно требовало бы значительного количества часов. Компания использует RAIC для анализа спутниковых изображений, видео, фотографий с дронов и инфракрасных данных. RAIC построен на облачной платформе Microsoft Azure.
В рамках недавнего соглашения Microsoft предоставит Synthetaic доступ к почти 1 миллиону часов вычислительных ресурсов облака на протяжении пяти лет. Кроме того, Synthetaic заключила партнерство с Planet Labs.

[Iv-v]

AnnieBronson
9 часов назад
В России госведомства начали объявлять тендеры на уничтожение техники Apple




Российские госорганы начали объявлять тендеры на уничтожение техники Apple. Решение связано с запретом использования техники бренда для госслужащих.

Как сообщил ведущий аналитик Mobile Research Group Эльдар Муртазин, первый такой тендер состоялся в Перми. Помимо техники Apple, в список на утилизацию попали продукты Samsung, Asus, Lenovo и Nokia.

«Был недавно в Перми, там городская администрация провела тендер на уничтожение 26 единиц техники (смартфоны, компьютеры). Назван победитель, компания ООО «Ай Ти Эм», стоимость работ 1200 рублей! Всего! Оставить технику нельзя, она должна быть физически уничтожена», — написал Муртазин.

Согласно информации портала Properm, на выполнение заказа претендовало шесть компаний. По условиям тендера исполнитель также не имеет права присвоить ценные металлы из микросхем устройств, их нужно сдать, а доход передать чиновникам.

MRG прогнозирует, что к 2024 году в России будет уничтожено около 120 тысяч устройств Apple на общую сумму более 2 млрд рублей.

В начале августа 2023 года Минцифры запретило сотрудникам использовать iPhone и iPad в служебных целях для защиты критической рабочей информации. В декабре сообщалось, что Банк России с 25 декабря запретит сотрудникам использовать мобильные устройства компании Apple в служебной деятельности (iPhone и iPad). ЦБ также больше не будет покупать новые смартфоны и планшеты этого производителя.

С июня 2023 года в Росавиации и подведомственных госведомству структурах, в Федеральной налоговой службе (ФНС), в Минкультуры, Минтрансе, Минпромторге, Федеральной таможенной службе (ФТС) России, Минпросвещения РФ, Минфине и Минэнерго, «Ростехе», ОАО «РЖД», ПАО «Камаз» и Минпромторге под подпись ввели полное ограничение на пользование любой техникой Apple в рабочих целях, включая iPhone и Apple Watch. Согласно приказам некоторых госведомств, их руководство в подразделениях на местах должно изъять ранее выданные мобильные устройства у сотрудников.

[АниКей]

[Iv-v]

[Iv-v]

Благодаря evil_gryphon появилась ссылка на превосходный материал по LLM Google's Gemini 1.5 (в шутку называемой "искусственным интеллектом")
https://thezvi.substack.com/p/gemini-has-a-problem
Статья снабжена красочными скриншотами диалогов между юзером и Gemini 1.5 при генерации различных исторических изображений - в частности:
- Великие физики XVII века

Свернуть

- Средневековые короли Британии

- Германские солдаты 1943 года

- Вишенка на торте: попытки нарисовать демонстрации prp-life pro-choice

https://alex-rozoff.livejournal.com/760055.html

[Iv-v]

13/03/2024 Европейский парламент проголосовал за одобрение Закона об искусственном интеллекте.
«Новые правила запрещают определенные приложения искусственного интеллекта, которые угрожают правам граждан, включая системы биометрической категоризации, основанные на чувствительных характеристиках и нецелевое извлечение изображений лиц из Интернета или записей камер видеонаблюдения для создания баз данных распознавания лиц», — говорится в сегодняшнем заявлении Европейского парламента. [Запрещается в т.ч.]: «Распознавание эмоций на рабочем месте и в школах, социальный рейтинг, прогнозирующая полицейская деятельность (когда она основана исключительно на профилировании человека или оценке его характеристик), а также искусственный интеллект, который манипулирует поведением человека или использует его уязвимости».

https://alex-rozoff.livejournal.com/764022.html

[Dulevo]

Испытывалась система по круглосуточному наблюдению с дрона в небе с записью.
Поле записи покрывала весь городок

По совершению преступления - поднимался архив за день совершения преступления - и отмечались лица которые находились поблизости.
Потом по записи отслеживались перемещния этих лиц - до их домашнего адреса
(с помошью компа).
Подьезжали полицейские и снимали показания - а чем это вы там занимались в такой-то час.

Была 100% раскрываемость преступлений.
Не было нарушения частной жизни - поскольку наблюдение издалека и сверху - человека по лицу было невозможно распознать. Люди были как точки.

Полный успех. Проект закрыли.
Тоже видимо из-за боязни что поднимутся вопли о нарушении частной жизни.

[Дем]

Полный успех. Проект закрыли.
Тоже видимо из-за боязни что поднимутся вопли о нарушении частной жизни.

Нет - ведь главное в расследовании это не выйти на самих себя

[Serge V Iz]

Освоение технологий ИИ плавное переходит к этапу реального освоения технологий )

https://www.ixbt.com/news/2024/04/03/amazon-just-walk-out.html

Компания Amazon неожиданно заявила о том, что отказывается от своей концепции магазинов Just Walk Out. Напомним, в этих магазинах нет никакого обслуживающего персонала, включая кассиров.

Искусственный интеллект не справился даже вместе с тысячей индийцев. Amazon закрывает проект бескассовых магазинов Just Walk Out
Система Just Walk Out опирается на огромное количество датчиков и камер, а также на искусственный интеллект, который отслеживает, что берут посетители. Точнее, именно так всё это описывала Amazon, когда только запускала Just Walk Out. Оказалось, что кассиров в магазинах ИИ заменяет не полностью, ему помогали более 1000 индийцев.

Огромное количество сотрудников Amazon в Индии попросту отсматривали изображения с камер магазинов Just Walk Out, чтобы обеспечить точность кассовых операций. Вероятно, ИИ в этом процессе всё же участвовал, но, учитывая огромное число людей, которые нужны были Amazon для контроля, система была крайне далека от идеала. Даже в таком виде клиенты Just Walk Out часто жаловались на различные проблемы: от отправки квитанций через несколько часов после покупки до совершенно неправильного управления заказами.

Кроме того, были и другие проблемы. Из-за множества датчиков и камер на Amazon подали иск, обвиняя компанию в несанкционированном сборе биометрических данных. Кроме того, попытки Amazon продать технологию другим компаниям тоже особым успехом не увенчались.

[Inti]

Освоение технологий ИИ плавное переходит к этапу реального освоения технологий )

https://www.ixbt.com/news/2024/04/03/amazon-just-walk-out.html

Компания Amazon неожиданно заявила о том, что отказывается от своей концепции магазинов Just Walk Out. Напомним, в этих магазинах нет никакого обслуживающего персонала, включая кассиров.

Искусственный интеллект не справился даже вместе с тысячей индийцев. Amazon закрывает проект бескассовых магазинов Just Walk Out
Система Just Walk Out опирается на огромное количество датчиков и камер, а также на искусственный интеллект, который отслеживает, что берут посетители. Точнее, именно так всё это описывала Amazon, когда только запускала Just Walk Out. Оказалось, что кассиров в магазинах ИИ заменяет не полностью, ему помогали более 1000 индийцев.

Огромное количество сотрудников Amazon в Индии попросту отсматривали изображения с камер магазинов Just Walk Out, чтобы обеспечить точность кассовых операций. Вероятно, ИИ в этом процессе всё же участвовал, но, учитывая огромное число людей, которые нужны были Amazon для контроля, система была крайне далека от идеала. Даже в таком виде клиенты Just Walk Out часто жаловались на различные проблемы: от отправки квитанций через несколько часов после покупки до совершенно неправильного управления заказами.

Кроме того, были и другие проблемы. Из-за множества датчиков и камер на Amazon подали иск, обвиняя компанию в несанкционированном сборе биометрических данных. Кроме того, попытки Amazon продать технологию другим компаниям тоже особым успехом не увенчались.

Скорее всего Безосу просто запретили отнимать у страны последние рабочие места. Мало того что все товары из Китая, так ещё и продавцы из Индии.

[Iv-v]

Технологические гиганты OpenAI, Google и Meta* в погоне за онлайн-данными для обучения своих новейших систем искусственного интеллекта готовы на всё: игнорировать корпоративные политики, менять собственные правила и даже обсуждать возможность обхода законов об авторском праве.
Одним из самых вопиющих примеров стали действия исследователей [color=var(--horizon)]OpenAI [/url]в Сан-Франциско. Они разработали инструмент для транскрибирования видео с YouTube, чтобы собрать огромный массив разговорных текстов для развития ИИ. Некоторые сотрудники OpenAI выражали обеспокоенность тем, что такой шаг может нарушать правила YouTube, которые запрещают использовать видео платформы для "независимых" приложений. Однако в итоге команда во главе с президентом компании Грегом Брокманом, который лично участвовал в сборе данных, расшифровала более миллиона часов видео. Полученные тексты были загружены в [color=var(--horizon)]GPT-4[/color] - одну из самых мощных языковых моделей в мире, лежащую в основе чат-бота ChatGPT.[/font][/size][/color]
Эта история наглядно демонстрирует, насколько отчаянной стала гонка за цифровыми данными, необходимыми для прогресса ИИ. Ради заветных терабайтов информации технологические компании, включая OpenAI, Google и Meta*, готовы срезать углы, игнорировать внутренние политики и балансировать на грани закона. [color=var(--horizon)]Расследование New York Times[/url] показало, что эти ИТ-гиганты всерьез обсуждали возможность обхода авторских прав ради пополнения своих баз данных.[/font][/size][/color]
В Meta*, которой принадлежат Facebook* и Instagram* , менеджеры, юристы и инженеры всерьез рассматривали вариант покупки издательства Simon & Schuster, чтобы заполучить большой объем книг. Они также обсуждали идею собирать защищенные авторским правом данные по всему интернету, даже если это грозило судебными исками. По их мнению, переговоры о лицензировании с издателями, авторами, музыкантами и новостной индустрией заняли бы слишком много времени.

Объем данных имеет решающее значение. Ведущие[color=var(--horizon)] чат-боты обучались на массивах цифровых текстов[/url], включающих до трех триллионов слов - примерно вдвое больше, чем хранится в Бодлианской библиотеке Оксфордского университета, которая собирает рукописи с 1602 года. По словам исследователей ИИ, наиболее ценными являются высококачественные данные, такие как опубликованные книги и статьи, тщательно написанные и отредактированные профессионалами.[/font][/size][/color]
Долгие годы интернет с такими сайтами, как Википедия и [color=var(--horizon)]Reddit[/url], казался неиссякаемым источником данных. Но по мере развития ИИ технологические компании стали искать новые резервуары информации. Google и Meta, имеющие миллиарды пользователей, ежедневно генерирующих поисковые запросы и посты в соцсетях, во многом ограничены законами о конфиденциальности и собственными политиками в плане использования этого контента для обучения ИИ.[/font][/size][/color]
Ситуация становится критической. По прогнозам исследовательского института Epoch, уже к 2026 году технологические компании могут исчерпать все качественные данные, доступные в интернете. Гиганты индустрии потребляют информацию быстрее, чем она производится.
"Единственный практичный способ существования этих инструментов - это возможность обучать их на огромных объемах данных без необходимости лицензирования", - заявил Сай Дамл, юрист, представляющий интересы венчурной компании Andreessen Horowitz, в ходе [color=var(--horizon)]публичной дискуссии об авторском праве[/url]. "Необходимый объем данных настолько огромен, что даже коллективное лицензирование не сможет решить проблему".[/font][/size][/color]
Технологические компании настолько жаждут новых данных, что некоторые из них разрабатывают "синтетическую" информацию. Речь идет не об органическом контенте, созданном людьми, а о текстах, изображениях и коде, генерируемых самими ИИ-моделями. Иными словами, системы учатся на том, что создают сами.

В то время как Meta* и Google лихорадочно ищут новые источники "цифровой крови" для своих ненасытных ИИ-моделей, Сэм Альтман из OpenAI предлагает иной подход к решению надвигающегося кризиса данных.
По его мнению, которое он озвучил на майской конференции, компании вроде OpenAI в конечном итоге начнут обучать свои алгоритмы на текстах, сгенерированных самим ИИ - так называемых синтетических данных. Идея проста: если ИИ-модель способна создавать правдоподобные тексты, то она может сама производить дополнительную информацию для своего развития. Это позволит разработчикам создавать все более мощные системы, не завися от защищенных авторским правом материалов.
"Как только мы преодолеем горизонт событий синтетических данных, и модель станет достаточно умной, чтобы генерировать качественную информацию, все будет в порядке", - заявил Альтман.
Однако концепция синтетических данных, хотя и не нова, таит в себе немало подводных камней. Исследователи бьются над этой проблемой годами, но создать ИИ, способный эффективно обучать самого себя, оказалось очень непросто. Модели, которые учатся на собственных результатах, рискуют попасть в замкнутый круг, где они лишь усиливают свои причуды, ошибки и ограничения.

https://habr.com/ru/articles/806021/

Отличная идея: кормить коров их собственным дерьмом. 

[Iv-v]

И не нужно говорить, что этому место в "Юморе".