Компьютерная безопасность. Или опасность.

[АниКей]

mk.ru

Пользователей Сети предупредили об опасности использования ChatGPT


Экс-менеджер Google Уиттакер считает опасным ChatGPT из-за возможности слежки
Бывший менеджер корпорации Google, ныне глава компании Signal Foundation Мередит Уиттакер заявила, что мир превратился в испытательную площадку для чат-бота на базе искусственного интеллекта ChatGPT.
Между тем, как она предупредила, повальное увлечение новым продуктом может привести к обострению проблемы слежки. Также это, по ее мнению, приведет к концентрации больших объемов данных в руках нескольких компаний. Экс-топ-менеджера цитирует The Asahi Shimbun.
ChatGPT является, по словам Уитттакер, экспериментальной технологией, точность и безопасность которой никем не изучены. Искусственный интеллект, собирающий данные пользователей, представляет собой продолжение «бизнес-модели для слежки», уверена она. И эта бизнес-модель монетизируется через механизм интернет-рекламы.
«Искусственный интеллект не является ни нейтральным, ни демократичным, - отмечает она. - В конечном итоге он создан для обслуживания интересов крупных компаний»

[azvoz]

«Искусственный интеллект не является ни нейтральным, ни демократичным, - отмечает она. - В конечном итоге он создан для обслуживания интересов крупных компаний»

Спасибо, Кэп!

[АниКей]

[nonconvex]

Спросил я у лопаты, как построить экскаватор.
Лопата сказала, что не знает.
Это подтверждает мою гипотезу, что экскаватор построить нельзя.

Начало верное, вывод некорректный.
-Лопату спросили, как построить экскаватор.
-Лопата ответила, что для того чтобы этому научиться ей потребуется экспоненциальное время, а на возражение что любой землекоп это знает, она ответила, что
-Землекопы другие, но что она активно работает чтобы стать такой же.

[Dulevo]

Первые ласточки...

>>> В Китае востребованность профессии художника в геймдеве упала на 70%.

[ABConymous]

Справедливости ради, большой процент игр, а особенно в Китае, это однообразные донатные помойки, так что неудивительно.

[АниКей]

[Dulevo]

Маск создает свою собственную ИИ компанию. X.AI
Переманил двух исследователей из гугловского Deep Mind и закупил 10.000 нвидео процессоров.

Если тренировка новых моделей стоит под пол миллиарда долларов - то на рынке не так уж много игроков которые могут позволить себе такие траты.
И видимо Масковская компания станет одной из них.

[Dulevo]

Послушал интервью Лекс Фридмана с одним из сторонников приостановки разработки ИИ - Max Tegmark.

Что-то я так и не понял чего конкретно они боятся?

Он не верит, как некоторые, что ИИ будет таким умным что сможет обмануть создателей -и усыпив их бдительность - проникнет в управление некими важными областями - а потом ка-а-ак нанесет неожиданный удар.
Он говорит что опасается передаче ИИ управление ядерным вооружением.

Какой дурак будет передавать ядерное оружие в руки ИИ?

Вообще создалось впечатление что он не очень любит прогресс. Говорит о том что вот ИИ отберет все работы у людей - где мол люди тогда будут находить смысл жизни?

Т.е в конечном итоге у всех тех кто говорит об опасности ИИ - в фундаменте лежит недоверие и нелюбовь к прогрессу. (По сложившемуся у меня мнению)

Так все таки - какие есть реальные сценарии опасного ИИ? Чего опасаются все противники ИИ?

[Serge V Iz]

Так все таки - какие есть реальные сценарии опасного ИИ? Чего опасаются все противники ИИ?

ИИ предполагается использовать как непрозрачный механизм трансформации больших объемов информации в малые, предназначенные для принятия управленческих решений. Пока не важно, кем, человеком или простым автоматом. В том числе, и в вопросах "нажать Кнопку" или там "бомбить Ливию".

Проблема в том, что исходный большой объем можно отравить искусственными ложными корреляциями. SEO-оптимизаторы этим профессионально занимались. ) Сейчас будут осваивать GPT-оптимизацию. 

Они там боятся, что это, в конечном итоге, приведет а неверному катастрофическому решению, лёгкости реализации которого посодействует вставленный между реальностью и решателем черный ящик.

[telekast]

Так все таки - какие есть реальные сценарии опасного ИИ? Чего опасаются все противники ИИ?

ИИ предполагается использовать как непрозрачный механизм трансформации больших объемов информации в малые, предназначенные для принятия управленческих решений. Пока не важно, кем, человеком или простым автоматом. В том числе, и в вопросах "нажать Кнопку" или там "бомбить Ливию".

Проблема в том, что исходный большой объем можно отравить искусственными ложными корреляциями. SEO-оптимизаторы этим профессионально занимались. ) Сейчас будут осваивать GPT-оптимизацию. 

Они там боятся, что это, в конечном итоге, приведет а неверному катастрофическому решению, лёгкости реализации которого посодействует вставленный между реальностью и решателем черный ящик.

Можно подумать сейчас нет такой опасности. Да сколько угодно. Достаточно референту подать данные в папочке(тм) "На доклад" под нужным углом и будут такие решения, что все в ахтунге.
Имху

[Dulevo]

Т.е в конечном итоге боятся не конкретно ИИ - а того как люди будут его использовать.

Ничего нового - та же боязнь что люди начнут ездить на автомобиле с сумасшедшей скоростью в 30 км в час - и будут сходить с ума.

[Serge V Iz]

Т.е в конечном итоге боятся не конкретно ИИ - а того как люди будут его использовать.

Ничего нового - та же боязнь что люди начнут ездить на автомобиле с сумасшедшей скоростью в 30 км в час - и будут сходить с ума.

Именно )

Только раньше автомобилем можно было за раз задавить, ну, максимум, 10 девонских длинношёрстных овец. А сейчас -- до порядка ста миллионов. )

[Александр Геннадьевич Шлядинский]

Так все таки - какие есть реальные сценарии опасного ИИ? Чего опасаются все противники ИИ?

Они там боятся, что это, в конечном итоге, приведет а неверному катастрофическому решению, лёгкости реализации которого посодействует вставленный между реальностью и решателем черный ящик.

В принципе все проигранные сражения-войны происходили за счет неверных катастрофических решений. При этом вполне обходились без черного ИИ ящика между реальностью и решателем. Обходились своими силами...

[Dulevo]

Атавистическая бессознательня боязнь всего нового...

Свои дураки у кнопки привычны и потому не страшны. 
А вот если ИИ... у-у-у... страшно!

[Serge V Iz]

все проигранные сражения-войны происходили за счет неверных катастрофических решений. При этом вполне обходились без черного ИИ ящика между реальностью и решателем. Обходились своими силами...

Появилась возможность проиграть сражение с самим собой. )

[Александр Геннадьевич Шлядинский]

все проигранные сражения-войны происходили за счет неверных катастрофических решений. При этом вполне обходились без черного ИИ ящика между реальностью и решателем. Обходились своими силами...

Появилась возможность проиграть сражение с самим собой. )

А что получит ИИ выиграв сражение??? Вечный покой? Ни кто ни чего не спрашивает. Ни каких задач не ставит. Ни кому он не нужен нафиг. Во жисть победителя...

[Serge V Iz]

А что получит ИИ выиграв сражение??? Вечный покой? Ни кто ни чего не спрашивает. Ни каких задач не ставит. Ни кому он не нужен нафиг. Во жисть победителя...

Ему, вероятно, это без разницы. Если нет -- пусть сам себе смысл жизни выдумывает )

А вот человеку... Очень уже у нас много людей, за которых думает "таблица Excel, неизвестно откуда взявшаяся -- всегда ей пользовались" 

[Александр Геннадьевич Шлядинский]

Смысл жизни придумать, это уже на нобелевку тянет. Да кто ж ему ее вручать будет?

[nonconvex]

Смысл жизни придумать, это уже на нобелевку тянет. Да кто ж ему ее вручать будет?

Ну скажем, вполне невинная смысловая задача - оптимальное развитие планеты. Все "за". Проблема лишь в том, что человек может оказаться в мешающих факторах, которые нужно бы привести к нулю.