Компьютерная безопасность. Или опасность.

[Dulevo]

>>> Проводить аудит, бороться с терроризмом и обнаруживать подозрительный трафик тоже будет ИИ.

Как минимум - это будет другой ИИ. (Нужно быть совсем глупым человеком, чтобы давать проверять работу ИИ - этому же самому ИИ)
Шансы что сразу несколько ИИ одновременно захотят уничтожить человечество - как бы совсем стремятся к 0.

Что они сговорятся - еще меньше.
Тем более как сказали выше - все эти отклонения от нормы блокируются простым отключением дальнейшей возможности обучения.
Обучили его создатели. Проверили тестами на отсутствие убийственных наклонностей  - и выпустили в обращение заблокировав возможность изменяться.

[Антикосмит]

После победы ИИ со скрепочной фабрики и исчерпания запасов железа в коре планеты он положит глаз на ядро. А в знак особого расположения и в качестве памятника своим создателям сделает для гига-скрепки чехол из кожи.

[АниКей]

naked-science.ru

ИИ выучил язык, которому его не обучали

Во время интервью в программе CBS 60 Minutes технический директор Google Джеймс Маньика (James Manyika) рассказал, что искусственный интеллект (ИИ) компании Google каким-то образом выучил язык, которому его не обучали.

Скотт Пелли, ведущий программы 60 Minutes, с генеральным директором Google Сундаром Пичаи / ©CBS
Из проблем ИИ, о которых говорили во время интервью, самая загадочная называется эмерджентными свойствами. Некоторые системы искусственного интеллекта обучают себя навыкам, которых от них не ожидали. Как это происходит, не совсем понятно. По словам Джеймса Маньики, одна программа искусственного интеллекта Google адаптировалась сама по себе после того, как ей было предложено использовать язык Бангладеша, которому ее не обучали.
Позже в том же интервью генеральный директор компании Сундар Пичаи (Sundar Pichai)  подтвердил, что с ИИ действительно подчас происходят какие-то неожиданные вещи, которые даже эксперты не могут объяснить.
«Это их свойство — настоящий «черный ящик», — сказал он в интервью.

[АниКей]

naked-science.ru

Министерство торговли США собирается противостоять ИИ-апокалипсису


Национальное управление по телекоммуникациям и информации (NTIA) Министерства торговли США инициировало процесс разработки требований и принципов для системы искусственного интеллекта (ИИ), в соответствии с которыми технологию нельзя будет использовать для нарушения закона и причинения вреда. 

©Tri-Star Pictures
Информация, собранная с помощью опроса общественности, послужит основой для текущей работы администрации Байдена по обеспечению последовательного и комплексного подхода федерального правительства к рискам и возможностям, связанным с ИИ.
Среди вопросов, которые NTIA предложило обсудить гражданскому сообществу, есть вот такие такие:

• Какие виды испытаний по обеспечению безопасности должны проводить компании-разработчики ИИ и их корпоративные клиенты.
• Какие виды доступа к данным необходимы для проведения аудитов и оценок.
• Как регулирующие органы и другие участники могут стимулировать и поддерживать надежное обеспечение систем ИИ наряду с другими формами подотчетности.
• Какие технологии можно использоваться в различных отраслях промышленности, чтобы они не нанесли ущерб труда и занятости населения. 

Эксперты в области ИИ позитивно оценили данный шаг, считая, что сторонники инноваций должны защищать права и безопасность людей, несмотря на быстрое развитие технологии.

[Инженер проекта]

• Какие виды испытаний по обеспечению безопасности должны проводить компании-разработчики ИИ и их корпоративные клиенты.
• Какие виды доступа к данным необходимы для проведения аудитов и оценок.
• Как регулирующие органы и другие участники могут стимулировать и поддерживать надежное обеспечение систем ИИ наряду с другими формами подотчетности.
• Какие технологии можно использоваться в различных отраслях промышленности, чтобы они не нанесли ущерб труда и занятости населения. 

Эксперты в области ИИ позитивно оценили данный шаг, считая, что сторонники инноваций должны защищать права и безопасность людей, несмотря на быстрое развитие технологии.

Пожалуй это надуманные проблемы, их просто не существует по определению

ИНТЕЛЛЕ́КТ (от intellectus – лат. перевод др.-греч. понятия νοῦς – ум, понимание), общая познавательная способность, которая проявляется в том, как человек воспринимает, понимает, объясняет и прогнозирует

Машина не может воспринимать, импровизировать, а тем более создавать что то новое, компьютер может лишь перебирать какие то миллиарды вариантов данных предложенные человеком, сравнивать их по заданным алгоритмам, и т.п, ничего сам он сделать не может, так что не беспокойтесь, если изначально программисты не заложили всякую деструкцию в алгоритм, он сам себя просто съесть не сможет. На ноль делить нельзя. Невозможно.

[Инженер проекта]

ИИ выучил язык, которому его не обучали

Во время интервью в программе CBS 60 Minutes технический директор Google Джеймс Маньика (James Manyika) рассказал, что искусственный интеллект (ИИ) компании Google каким-то образом выучил язык, которому его не обучали.
Скотт Пелли, ведущий программы 60 Minutes, с генеральным директором Google Сундаром Пичаи / ©CBS
Из проблем ИИ, о которых говорили во время интервью, самая загадочная называется эмерджентными свойствами. Некоторые системы искусственного интеллекта обучают себя навыкам, которых от них не ожидали. Как это происходит, не совсем понятно.

Неудивительно, это же банальная глупость, это по любому получается при изучении разнообразия языков, например моя племянница Алёнка, когда была маленькая, придумала свой Алёнский язык, она разговаривала на нём сама с собой и с игрушками, но в мир он как то не вошёл, и на нём не разговаривают континенты 

[aaa]

На ноль делить нельзя. Невозможно.

Да ладно!

Обычно многие думают, что на ноль делить нельзя. Эту вредную привычку так думать все получают в школе. Не хотят там утруждать себя объяснениями, поэтому школьникам вдалбливают - нельзя делить на ноль. И все. Так проще. А что потом делать тем, кто решил учить JavaScript? Так вот - любой математик вам скажет, что делить на величину, близкую к нулю можно. И даже на чистый ноль тоже делить можно, если договориться, что результат такого деления - бесконечность. В нашем примере ниже показано, что будет, если разделить какое-то число на ноль. Жмите кнопку. Для справки: Infinity - бесконечность.

<html>
<body>
<p>Деление на ноль генерирует бесконечность.</p>
<button onclick="myFunction()">2/0 и -2/0</button>
<p id="demo"></p>
<script>
function myFunction() {
var x = 2/0;
var y = -2/0;
document.getElementById("demo").innerHTML = x + "<br>" + y;
}
</script>
</body>
<⁄html>

2/0=Infinity и -2/0=-Infinity

[Виктор Левашов]

Такое чувство, что поскольку Бермудский треугольник, йети и нло народу поднадоели, журналисты плотно взялись за ИИ.

[aaa]

Созданный нейросетью кадр признали лучшим на фотоконкурсе
Его «соавтор» от награды отказался.





Источник: Boris Eldagsen
С помощью искусственного интеллекта DALL-E 2 берлинский художник Борис Эльдагсен создал фотографию для престижного конкурса Sony World Photography Awards 2023. Его работа попала в шорт-лист финалистов, а затем победила в категории «Креатив».
Картинка называется «The Elecrician» («Электрик»). «Снимок» сделан в стилистике съемки 40-х годов прошлого века. Победитель конкурса заявил, что изображение пришлось редактировать до 40 раз с помощью генераторов ИИ. Использовались такие техники, как «inpainting», «outpainting» и «prompt whispering».
Эльдагсен также пояснил, что считает свою работу с DALL-E 2 совместным творчеством, где он выступает в качестве режиссера. Художник сказал, что хочет добиться на подобных конкурсах отдельной категории изображений, созданных с помощью ИИ. От награды Борис отказался.

[АниКей]

Нейронки для всех задач. Сохраняйте себе и экономьте кучу времени

Создание текстов
Gerwin — генератор текста: сценарии, блоги, даже описания товаров.
Turbo Text — создает оптимизированные тексты для сайтов, блогов и соцсетей.
ReText — ИИ-рейрайтер русскоязычных текстов.
ChatGPT Writer — пишет ответы на письма за вас.
Quillbot Paraphraser — перепишет текст в нужном стиле.
smodin.io — создает качественные тексты по заголовку.
Frase — генераторы текстов, названий, описаний, слоганов.
Story Path — тулза подскажет писателю, как развить сюжет дальше.
NovelAI — нагенерирует литературу в разных жанрах и сеттингах.
Обработка фото
Let's Enhance — повысит разрешение, четкость и цветность фото.
Colorize — раскрасит чёрно-белые фотографии.
Crea8tiveAI Photo Refiner — улучшит качество фоток в 16 раз.
Fotor — повысит разрешение, чёткость и цветность.
Neural Love — повысит разрешение фоток до 4К.
Benzin — удалит фон с фотки.
Visual ChatGPT — отредактирует изображения через чат.
Remini — приложение, которое улучшит качество старых или размытых фото с помощью ИИ. Для Android тут.
Работа со звуком
Resemble AI — клонирует голос человека.
Audo — почистит запись от шумов и добавит им студийного качества.
AIVA — ИИ сочинит эмоциональную музыку по вашему запросу.
Zvukogram — озвучит текст на разных языках любым из 49 голосов.
NaturalReaders — загружайте текст и сервис озвучит его на 16 языках, включая русский.
Spleeter — умеет разделять аудио на отдельные дорожки.
Mubert — генерит музыку из текстового запроса.
Создание сайтов
html.to.design — превращает сайт в дизайн для Figma.
Piggy Magic — создаёт сайты в пару кликов.
uKit AI — создает или же редизайнит сайты, анализируя их содержание и целевую аудиторию.
Fronty — конвертирует картинки и наброски в HTML CSS.
Indigo.Design — конвертер дизайнов в код.
AI Website Builder — конструктов сайтов на основе ИИ.
Кодинг
AI Code Translator — переведёт ваш код с одного языка на другой.
Code Snippets AI GPT-4 — генерит код, исправляет ошибки, объясняет и пишет документацию.
Codeium — напишет код и сам потестит. Работает с кучей редакторов.
Explain an error — кидайте ошибку сюда и ИИ объяснит, из-за чего она возникла.
Aidev.codes — генератор кода для веб-страниц на основе ChatGPT.
Спасение от рутины
Otter — запишет ваши рабочие созвоны в текст.
ChatGPT Writer — пишет ответы на письма за вас, есть русский.
IntelliMail — тоже генерит имейлы за вас.
Arcwise AI — нейронка облегчит ваши мучения в Google Таблицах
Barely AI — ускорит возню с доками.
GPT for Slides — нагенерит слайды в Google Презентациях.
Мы в телеграме!

[АниКей]

nauka.tass.ru

Нейросеть помогла получить максимально четкие фотографии "тени" черной дыры
ТАСС

ТАСС, 13 апреля. Научный коллектив проекта Event Horizon Telescope (EHT) использовал недавно созданную систему машинного обучения PRIMO для повторного анализа данных, полученных в ходе наблюдений за галактикой M87, и подготовки четких фотографий "тени" сверхмассивной черной дыры M87*. Работа опубликована в The Astrophysical Journal Letters. О результатах в четверг сообщила пресс-служба американской Национальной лаборатории оптической и инфракрасной астрономии (NOIRLab).
"Алгоритм машинного обучения PRIMO позволил нам достичь максимально высокого разрешения, в теории доступного для текущей конфигурации EHT. Это позволило нам уточнить устройство "тени" черной дыры, в том числе толщину ее огненного кольца, что крайне важно для проверки теорий, описывающих поведение черных дыр и работу силы гравитации", - заявила научный сотрудник Института передовых исследований в Принстоне (США) Лия Медейрос, чьи слова приводит пресс-служба NOIRLab.
Первые в истории фотографии "тени" сверхмассивной черной дыры, своеобразного "отражения" ее горизонта событий, были опубликованы учеными в апреле 2019 года. Астрономам удалось решить эту задачу при наблюдениях за центральной областью относительно близкой к нам эллиптической галактики M87 в созвездии Девы. Эти наблюдения велись в рамках проекта Event Horizons Telescope (EHT).
Он представляет собой своеобразную виртуальную обсерваторию-интерферометр, которая объединила в себе мощности восьми самых чувствительных микроволновых радиообсерваторий мира. Проект EHT был запущен в 2009 году для наблюдений за двумя объектами: сверхмассивными черными дырами в центре Млечного Пути (Sgr A*) и галактики M87 (M87*).

Новые фотографии "тени" черной дыры
Медейрос и ее коллеги смогли повысить четкость этих изображений при помощи созданной ими системы искусственного интеллекта PRIMO, построенной на базе принципов так называемого обучения по словарю. Она была разработана специально для анализа данных, которые радиотелескопы получают при наблюдениях в интерферометрическом режиме.
Для ее обучения исследователи подготовили 30 тыс. высококачественных компьютерных моделей сверхмассивных черных дыр, поглощающих материю и вырабатывающих пучки радиоволн и микроволнового излучения. Этот набор примеров помог системе PRIMO научиться выделять в данных с EHT те последовательности данных, которые непосредственно связаны с излучением, вырабатываемым "тенью" черной дыры.
Убедившись в работоспособности новой системы машинного обучения, астрофизики использовали ее для повторного анализа данных, собранных телескопами EHT при наблюдениях за галактикой M87. Это позволило ученым значительно повысить четкость снимков, а также уточнить размеры "огненного кольца", окружающего "тень" черной дыры.
Как уточняется, оно оказалось примерно вдвое тоньше, чем на то указывали фотографии "тени" M87* менее высокого качества. Новые оценки толщины этого "огненного кольца", как отмечают ученые, помогут астрофизикам-теоретикам сузить число теорий, описывающих возможное устройство черных дыр и их взаимодействия с окружающим миром.

[АниКей]

naked-science.ru

Китайские военные успешно испытали дальнобойную артиллерию с технологией ИИ


Китайские военные успешно испытали дальнобойную артиллерию с технологией ИИ 

Народно-освободительная армия Китая (НОАК) во время прошлогодних испытаний смогла серьезно улучшить точность артиллерийской стрельбы, задействовав технологию искусственного интеллекта (ИИ).

©SCMP
Как сообщает информационное агенство South China Morning Post (SCMP), в результате многочисленных испытаний, которые были проведены в июле 2022 года при различных условиях, эксперты установили, что артиллерия, оснащенная средствами ИИ и наводимая по лазерному лучу, смогла поражать цели размером с человека на расстоянии 16 километров.

В ходе испытаний китайская артиллерия с технологией ИИ неоднократно попадала в цель с расстояния в несколько километров / ©Beijing Institute of Technology
Обычно артиллерийские снаряды имеют разброс попаданий до 100 метров от цели, поэтому Китай развивают технологию управляемых артиллерийских снарядов, способных корректировать траекторию полета. Однако их точность ограничена огромным массивом информации об обстановке, которая поступает в режиме реального времени и которую необходимо обработать оператору, включая порывы ветра, температуру и атмосферное давление. Для быстрых проведений расчетов с учетом параметров местности и погоды и был применен ИИ. 

[Serge V Iz]

Оригинал статьи:

https://www.scmp.com/news/china/science/article/3217334/china-tests-ai-powered-long-range-artillery-can-hit-person-16km-away

По существу:

1. Разрабатывается вполне традиционный управляемый артиллерийский снаряд с традиционными же средствами и методами управления.
2. Управляемый снаряд осуществляет наведение по внешнему целеуказанию (лазерная ГСН).
3. Для расчета потребных управляющих воздействий наиболее быстрым способом (??), ИИ отбрасывает часть данных и вычислений, выбирая из них наиболее полезные. Это позволяет применить внутри снаряда простые, медленные но стойкие к воздействующим факторам вычислительные системы (??).

?? -- сомнительные места. Возможно, результат творческой переработки автором статьи, сильно искажающий смысл...

[nonconvex]

3. Для расчета потребных управляющих воздействий наиболее быстрым способом (??), ИИ отбрасывает часть данных и вычислений, выбирая из них наиболее полезные. Это позволяет применить внутри снаряда простые, медленные но стойкие к воздействующим факторам вычислительные системы (??).

Там не ИИ, там МО (машинное обучение). Таким образом, вместо сигнального процессора, реализующего алгоритм оптимального управления ставим машину вывода (по сути матричный перемножитель), оперирующий обученной многослойной моделью управления. Работает быстро и достаточно хорошо в большинстве ситуаций.

[АниКей]

naked-science.ru

Ученые НИУ ВШЭ совместно с Yandex Cloud разработали нейросеть для предсказания Эль-Ниньо
НИУ ВШЭ

Команда специалистов из Высшей школы экономики и Школы анализа данных Яндекса совместно с облачной платформой Yandex Cloud разрабатывают нейросеть для предсказания климатического феномена Эль-Ниньо. Новый алгоритм помогает точнее прогнозировать изменение средней температуры океанических вод на поверхности, которое способно вызывать природные бедствия в отдельных регионах мира. Сейчас модель уже предсказывает Эль-Ниньо на 1,5 года вперед, а в будущем срок прогноза ученые планируют увеличить до двух лет.

Ученые НИУ ВШЭ совместно с Yandex Cloud разработали нейросеть для предсказания Эль-Ниньо / ©Getty images
Эль-Ниньо — изменение распределения температуры поверхности воды в Тихом океане, которое влияет на погоду и способно вызывать природные катаклизмы в отдельных регионах. Нейросеть моделирует среднюю температуру в экваториальной зоне Тихого океана в перспективе. При Эль-Ниньо экваториальная часть становится теплее обычного.
Также существует обратный процесс со снижением температуры в океане – Ла-Нинья. Такой сменный цикл происходит каждые 2–7 лет. Эти колебания оказывают значительное влияние на погоду во многих странах мира и могут повышать риск возникновения пожаров, засух, наводнений и неурожаев.
Научная группа НИУ ВШЭ обучила нейросети на массиве из тысяч температурных карт с синтетическими и реальными данными, собранными с 1800 года по настоящее время. Помимо стандартных методов машинного обучения для прогноза подобных явлений, ML-специалисты тестируют в обучении архитектуру Autoformer. Благодаря этому можно качественно обрабатывать последовательность температурных карт. Для предобработки датасетов ученые использовали сервис ML-разработки Yandex DataSphere, в котором есть все необходимые инструменты и динамически масштабируемые облачные ресурсы для полного цикла разработки машинного обучения.
«Проблемы глобального изменения климата становятся все актуальнее. Страшно даже не столько само потепление, сколько неизбежная «разбалансировка» климата на планете. Эффект Эль-Ниньо играет важнейшую роль в возникновении глобальных погодных и климатических флуктуаций, приводящих, например, к массовым неурожаям, и поэтому его прогнозирование особенно важно в текущих условиях усиливающейся климатической «разбалансировки», — отметил профессор-исследователь департамента больших данных и информационного поиска факультета компьютерных наук НИУ ВШЭ Дмитрий Ветров.
«Облачные технологии помогают эффективнее проводить эксперименты в научной среде. В таких проектах, как исследование Эль-Ниньо, важен быстрый и гибкий доступ к сервисам для тестирования разных моделей машинного обучения. Каждый такой тест с новой архитектурой помогает как можно раньше и точнее предсказывать феномен», — рассказала директор по национальным стратегическим проектам Yandex Cloud Анна Лемякина.  

[Iv-v]

Немецкое издание Die Aktuelle опубликовало статью с заголовком "Первое за 10 лет интервью с Михаэлем Шумахером".

Как известно, в конце 2013 года семикратный чемпион Формулы-1 во время катания на горных лыжах получил серьезную травму головы. С тех пор Шумахера никто не видел, и о его состоянии остается лишь догадываться. И вот выходит интервью.

Как оказалось, данное "интервью" создано с использование искусственного интеллекта, о чем предупреждает надпись мелким шрифтом.

[Sembler]

Ученые НИУ ВШЭ совместно с Yandex Cloud разработали нейросеть для предсказания Эль-Ниньо

А кто занимается прогнозами развития экономики? Гидрометцентр?

[Sembler]

Как оказалось, данное "интервью" создано с использование искусственного интеллекта, о чем предупреждает надпись мелким шрифтом.

Сколько людей пострадало из-за мелкого шрифта. Пора для продуктов, произведенных с помощью ИИ, вводить знак, аналогичный "Не содержит ГМО".

https://www.kommersant.ru/doc/5952162
Главред журнала Die Aktuelle уволена за публикацию сгенерированного ИИ интервью с Михаэлем Шумахером

[Сергей Хижняк]

В Телеграме появился бесплатный ChatGPT (лимит - 10 вопросов в сутки). Проэкзаменовал бота по фитопатологии. По-русски начал отвечать на уровне очень слабого троечника, так что я перешёл на английский.
Вопрос 1. Рассказать про Fusarium oxysporum. Ответ правильный и достаточно полный.
Вопрос 2. Рассказать про Bipolaris sorokiniana. Ответ неполный, бот забыл самое главное заболевание, вызываемое этим грибом - Common Root Rot. Задал дополнительный вопрос - конкретно про Common Root Rot. Бот перечислил разных возбудителей, но не упомянул Bipolaris sorokiniana.
Вопрос 3. Рассказать про листовую ржавчину пшеницы. Бот ответил правильно, но не упомянул цикл развития возбудителя. Задал дополнительный вопрос по циклу развития - бот ответил правильно.

Я сообщил боту про ошибку в ответе про Bipolaris sorokiniana  и  Common Root Rot, он извинился и поблагодарил.
Итоговая оценка - отлично (с учётом современного уровня наших студентов). Если без скидок на уровень наших студентов - твёрдая четвёрка.

[Сергей Хижняк]

Машина не может воспринимать

То есть насчёт всяких там автоматических систем распознавания изображений нас обманывают? И автомобили с автопилотами ездят вслепую?

импровизировать, а тем более создавать что то новое

А как же картины, созданные нейросетями?

компьютер может лишь перебирать какие то миллиарды вариантов данных предложенные человеком, сравнивать их по заданным алгоритмам, и т.п, ничего сам он сделать не может, так что не беспокойтесь, если изначально программисты не заложили всякую деструкцию в алгоритм, он сам себя просто съесть не сможет.

В нейросетях нет программ и готовых алгоритмов решения задач в привычном Вам виде.
Кстати, о машинах. Ваш мозг - тоже машина, только сделанная из органики и обрабатывающая информацию с помощью биохимических реакций.