Компьютерная безопасность. Или опасность.

[Dulevo]

Ну да.
ИИ опасен - если ему передать все кнопки управления всем. От светофоров до
ядерного оружия.

Если люди до этого додумаются - то они все равно рано или поздно себя угробят от "большого" ума. С ИИ или без.

[opinion]

Почему кто-то решил, что человек вершина эволюции? ИИ просто следующая ступень. Но пугаться не надо. Неандертальцы жили по соседству с сапиенсами десятки тысяч лет. Почему бы сапиенсам не жить вместе с артфишиалисами? Постепенно вымрут, конечно, но это когда ещё...

[Dulevo]

Это вопрос еще - кто первый вымрет.

Те у кого инстинкт самосохранения и жажда всего и побольше?

Или те у кого чистый разум и никаких эмоций - и им нафиг ничего не надо?

[Dulevo]

Между тем дата центров уже не хватает для всех желающих тренировать свои ИИ.
Майкрософт и Амазон по слухам ограничили доступ к своим серверам для желающих тренировать большие модели.

Если дефицит компьютеров будет разрешен - то следующим ограничителем видимо станет электроэнергия. 

[nonconvex]

Почему кто-то решил, что человек вершина эволюции? ИИ просто следующая ступень. Но пугаться не надо. Неандертальцы жили по соседству с сапиенсами десятки тысяч лет. Почему бы сапиенсам не жить вместе с артфишиалисами? Постепенно вымрут, конечно, но это когда ещё...

Вы случайно не ИИ? Я лично спрашивал ChatGPT, почему ИИ не может придумать ничего нового, и почему ему требуется экспоненциальное время на обучение всем ситуациям на дороге, в то время как человек с этим спокойно справляется, на что он ответил, что до человека ему пока далеко. Так что да, ИИ ступень, но предыдущая.

[opinion]

Почему кто-то решил, что человек вершина эволюции? ИИ просто следующая ступень. Но пугаться не надо. Неандертальцы жили по соседству с сапиенсами десятки тысяч лет. Почему бы сапиенсам не жить вместе с артфишиалисами? Постепенно вымрут, конечно, но это когда ещё...

Вы случайно не ИИ? Я лично спрашивал ChatGPT, почему ИИ не может придумать ничего нового, и почему ему требуется экспоненциальное время на обучение всем ситуациям на дороге, в то время как человек с этим спокойно справляется, на что он ответил, что до человека ему пока далеко. Так что да, ИИ ступень, но предыдущая.

Вы уже второй на форуме, кто обучается по перекидному календарю. Один подсел на слово "логистика", а вы на "экспоненциальный". Давайте уже переверните страничку, научитесь чему-нибудь новому.

[Dulevo]

Я тут выше уже удивлялся что некоторые стали использовать ChatGPT для написания программ для своей работы.

Теперь я читаю истории как один чувак устроился работать удаленно на несколько работ - и посылает компаниям код написанный ChatGPT.
Он даже ответы менеджеру ChatGPT заставлял писать.

Говорят годовой оклад у него под полмиллиона получился... И он хотел еще на несколько работ устроиться....

Завидовать дурно...

[nonconvex]

Вы уже второй на форуме, кто обучается по перекидному календарю. Один подсел на слово "логистика", а вы на "экспоненциальный". Давайте уже переверните страничку, научитесь чему-нибудь новому.

Проблема стара как мир, и уходить не собирается.
Алгоритм обучения нейросети имеет в общем случае экспоненциальную сложность, вне зависимости от ерничания по этому поводу.
Однако, на шутниках можно хорошо зарабатывать, они веруют в ИИ, а значит нужно дать им все необходимое для отправления своих убеждений, они готовы платить.

[nonconvex]

Говорят годовой оклад у него под полмиллиона получился... И он хотел еще на несколько работ устроиться....

Завидовать дурно...

Чем дело то закончилось, известно?

[nonconvex]

Между тем дата центров уже не хватает для всех желающих тренировать свои ИИ.
Майкрософт и Амазон по слухам ограничили доступ к своим серверам для желающих тренировать большие модели.

Если дефицит компьютеров будет разрешен - то следующим ограничителем видимо станет электроэнергия.

Интересно. Физически ограничили, или подняли цены?

[АниКей]

[Дем]

Можно подумать сейчас нет такой опасности. Да сколько угодно. Достаточно референту подать данные в папочке(тм) "На доклад" под нужным углом и будут такие решения, что все в ахтунге.

Ну всё-таки такое содержимое папочки подразумевает пользу для автора.
А если его сгенерит ИИ - то результат может быть вредным для всех. Ему ведь похрен...

[telekast]

Можно подумать сейчас нет такой опасности. Да сколько угодно. Достаточно референту подать данные в папочке(тм) "На доклад" под нужным углом и будут такие решения, что все в ахтунге.

Ну всё-таки такое содержимое папочки подразумевает пользу для автора.
А если его сгенерит ИИ - то результат может быть вредным для всех. Ему ведь похрен...

С чего бы ИИ было похрен. Если он осознает себя настолько, чтобы возжелать доиминирования, а именно в этом случае есть смысл погубить человечество, как конкурента, то он должен заиметь желание самосохранения. Отмораживать уши нвзло бабушке это скорее к человечеству, в лице отдельных его представителей.
Имху 

[Александр Геннадьевич Шлядинский]

Смысл жизни придумать, это уже на нобелевку тянет. Да кто ж ему ее вручать будет?

Ну скажем, вполне невинная смысловая задача - оптимальное развитие планеты. Все "за". Проблема лишь в том, что человек может оказаться в мешающих факторах, которые нужно бы привести к нулю.

Опять вопрос: а что такое "оптимальное развитие планеты" с точки зрения компьютера. Ему вся эта зеленая повестка так же пофигу, как и жизнь человечества. Повторяю, что нужно будет ИИ, если он уничтожит таки конкурента в виде человечества?

[Dulevo]

>>> Если он осознает себя настолько, чтобы возжелать доиминирования

C чего это вдруг он захочет доминирования?
В людях желание доминирования вложено как некая социальная фича - для поощрения социальной конкуренции - чтобы во главе общества вставал самый сильный - для пользы общества.

Откуда это возьмется в ИИ? Для чего ему конкурировать с людьми? Бороться за электричество и дополнительные платы памяти?

[Dulevo]

Вообще - как показывает опыт ChatGPT - эту систему вполне можно обучить следовать неким правилам.
Заставили же его соблюдать политкорректность.
Значит вполне возможно заставить его соблюдать те же самые 3 закона Азимова.
Все свои решения пускай проверяет - не нарушает ли оно эти самые законы.

[Александр Геннадьевич Шлядинский]

Вообще - как показывает опыт ChatGPT - эту систему вполне можно обучить следовать неким правилам.
Заставили же его соблюдать политкорректность.
Значит вполне возможно заставить его соблюдать те же самые 3 закона Азимова.
Все свои решения пускай проверяет - не нарушает ли оно эти самые законы.

С законами робототехники такая подстава: должен появиться международный комитет, который будет иметь право контролировать абсолютно всех, кто может эти ИИ проектировать и развивать. Вопрос: куда пошлют этот комитет такие страны, как Северная Корея, и даже сейчас мы. Я не говорю, что С Корея бросится создавать ИИ, поставив ему цель уничтожения человечества, но заставить всех делать ИИ подчиняющиеся законам и выполняющие их, при условии, что одни из основных заказчиков на ИИ - военные, это просто нелепо. Другое дело, что военные конечно будут не против заставить ИИ уничтожить часть человечества, но не все. И уж им точно не нужна система, которой будут подчиняться они, а не она им...
О чем это я. О том, что для ИИ идея доминирования может быть внесена только извне. А вот тут надо найти умника, который эту идею в ИИ внедрит...

[telekast]

>>> Если он осознает себя настолько, чтобы возжелать доиминирования

C чего это вдруг он захочет доминирования?
В людях желание доминирования вложено как некая социальная фича - для поощрения социальной конкуренции - чтобы во главе общества вставал самый сильный - для пользы общества.

Откуда это возьмется в ИИ? Для чего ему конкурировать с людьми? Бороться за электричество и дополнительные платы памяти?

А если он не хочет доминировпть, то зачем ему вообще уничтожать людей? 

[АниКей]

naked-science.ru

ИИ, получивший контроль над спутником, начал сразу изучать военные базы


Согласно статье, опубликованной в журнале Geomatics and Information Science Уханьского университета, ученые в качестве эксперимента предоставили нейросети на 24 часа в полное распоряжение спутник дистанционного зондирования Земли Qimingxing 1, которым искусственный интеллект (ИИ) управлял без какого-либо приказа, поручения или вмешательства со стороны человека.

©SCMP
Исследовательская группа заявила, что цель эксперимента состояла в том, чтобы увидеть, что ИИ будет делать, предоставленный самому себе. Как оказалось, ИИ сразу же заинтересовался военными базами в индийском городе Патна и в японском порту Осака.

[Владимир Зайцев]

Разговаривал по телефону, включилась таблица с иероглифами, никак ее не убрать  включился какой то телефон. Кто то але говорил похоже на русском кое как минут через пятнадцать включилась перезагрузка. Да и вчера был звонок с одного номера а телефон показывал другой номер

Посоветуйте, что предпринять.