Опасности и преимущества использования нейросетей и ИИ для человечества - факты и только факты

Автор Veganin, 26.04.2024 22:47:29

« назад - далее »

0 Пользователи и 1 гость просматривают эту тему.

Veganin

Тема посвящена опасности и преимуществам использования нейросетей и ИИ для человечества в целом. Где можно и где нельзя использовать нейросети, какие методы контроля деятельности нейросетей/ИИ можно и нужно использовать, как верифицировать эти методы контроля и т.д.

Поскольку тема развития нейросетей неразрывно связана с военными технологиями, контролем за населением, ресурсами и окружаюшим миром, а также  ограничениями, налагаемые на их использование законодательством разных стран, размещение новостных сообщений из мира военных технологий и политики здесь неизбежно и оправданно. Поэтому прошу обсуждать конкретные новости и их влияние на человечество в целом, не скатываясь в политоту.

 Если размещаете новость, например, использования нейросетей в боевых дронах, то нужно показать их в контексте темы: новостное сообщение (лучше - с ресурса фирмы-производителя), ТТХ дрона, случаи использования и как это отразится на человечестве в целом в будущем, когда данная сфера применения нейросетей/ИИ распространится на всю планету.
Исключение: видео применения дронов в российско-украинском конфликте. Недостатка в видеоматериалах, благодаря телеграмм-каналам, не существует и размещать здесь их не следует.

Здесь же можно размещать ссылки на научные и художественные фильмы и книги.
"Мы не осмеливаемся на многие вещи, потому что они тяжелые, но тяжелые, потому что мы не осмеливаемся сделать их." Сенека
Если вы думаете, что на что-то способны, вы правы; если думаете, что у вас ничего не получится - вы тоже правы. © Генри Форд

Inti

Новая Чёрная Дыра с полит-модерацией: https://blackhole.su/index.php?board=16.0
Новая Чёрная Дыра без полит-модерации: http://www.forum--x.ru/index.php?board=1.0

Бертикъ

Даже три закона робототехники не гарантируют безопасность ИИ для человека, что показал сам Азимов в своих последующих произведениях.
А уж если никто не гарантирует закладку этих законов в конкретный ИИ, то опасность (любая, вплоть до терминальной) увеличивается непредсказуемо.
Человечество еще недостаточно вышло из пещер, чтобы начинать играть в бога. ИИ в такой ситуации - зло, но мы узнаем об этом слишком поздно.
Как много мы знаем, и как мало мы понимаем. © А.Эйнштейн

Dulevo

Кто не рискует - тот не пьет шампанского.

Уж сколько вреда принесло использование огня - но без него мы так и сидели бы в пещерах (а скорее всего - вымерли бы в последнем оледенении).

Применение ИИ - решит множество проблем. Отказываться от него - глупость.

Бертикъ

Цитата: Dulevo от 09.05.2024 14:22:13Применение ИИ - решит множество проблем.
Т.к. ИИ еще не существует, то это утверждение лишено содержания.
ЗЫ: Ядерная реакция тоже могла решить множество проблем, но ее первое применение лишило жизни население двух городов. Появление ИИ при нынешнем уровне цифровизации может лишить жизни всю цивилизацию.
Как много мы знаем, и как мало мы понимаем. © А.Эйнштейн

Dulevo



nonconvex

Цитата: Dulevo от 09.05.2024 15:47:52Ну вы же уверены в опасности ИИ, хотя он не существует...
Опасность ИИ не в том, что он существует - его как не было, так и нет. Опасность в том, что можно подумать что он есть, и поручить ему задачи которые действительно требуют интеллекта. Вот тогда его банальное ложное срабатывание может наделать бед, как уже делает, в управлении автомобилем.

cross-track

Цитата: nonconvex от 10.05.2024 00:14:22
Цитата: Dulevo от 09.05.2024 15:47:52Ну вы же уверены в опасности ИИ, хотя он не существует...
Опасность ИИ не в том, что он существует - его как не было, так и нет. Опасность в том, что можно подумать что он есть, и поручить ему задачи которые действительно требуют интеллекта. Вот тогда его банальное ложное срабатывание может наделать бед, как уже делает, в управлении автомобилем.

Нужно запретить использование ИИ в управлении автомобилем, и тогда аварий станет намного меньше!
Не все у нас еще хорошо, кое-что - просто замечательно!

BlackMokona

Цитата: cross-track от 10.05.2024 11:10:01
Цитата: nonconvex от 10.05.2024 00:14:22
Цитата: Dulevo от 09.05.2024 15:47:52Ну вы же уверены в опасности ИИ, хотя он не существует...
Опасность ИИ не в том, что он существует - его как не было, так и нет. Опасность в том, что можно подумать что он есть, и поручить ему задачи которые действительно требуют интеллекта. Вот тогда его банальное ложное срабатывание может наделать бед, как уже делает, в управлении автомобилем.

Нужно запретить использование ИИ в управлении автомобилем, и тогда аварий станет намного меньше!
ЕИ вы хотели сказать? 

nonconvex

Цитата: BlackMokona от 10.05.2024 11:24:37
Цитата: cross-track от 10.05.2024 11:10:01
Цитата: nonconvex от 10.05.2024 00:14:22
Цитата: Dulevo от 09.05.2024 15:47:52Ну вы же уверены в опасности ИИ, хотя он не существует...
Опасность ИИ не в том, что он существует - его как не было, так и нет. Опасность в том, что можно подумать что он есть, и поручить ему задачи которые действительно требуют интеллекта. Вот тогда его банальное ложное срабатывание может наделать бед, как уже делает, в управлении автомобилем.

Нужно запретить использование ИИ в управлении автомобилем, и тогда аварий станет намного меньше!
ЕИ вы хотели сказать?
НеИ, он хотел сказать.
Сейчас человек и управляет, подстраховывая "Автопилот", он же ADAS-плюс-плюс
Когда же человек реально отвлекается, тогда и случаются проблемы.


cross-track

Цитата: nonconvex от 10.05.2024 18:23:01Сейчас человек и управляет, подстраховывая "Автопилот", он же ADAS-плюс-плюс
Когда же человек реально отвлекается, тогда и случаются проблемы.
Никто не говорит, что сейчас автопилот может полностью заменить человека. Автопилот еще далек от совершенства, и сейчас сюда вкладываются большие ресурсы . Но прогресс налицо, и здесь не видно нерешаемых проблем в виде принципиальной невозможности создания автопилота, заменяющего водителя-человека.
Не все у нас еще хорошо, кое-что - просто замечательно!

simple

Цитата: cross-track от 10.05.2024 19:51:26Но прогресс налицо, и здесь не видно нерешаемых проблем в виде принципиальной невозможности создания автопилота, заменяющего водителя-человека.
нужно увеличивать мощность железа и так чтоб в машину помещалось и энергии на борту хватало, переход на 3 нанометра недостаточно, чем дальше тем серьезней сложности, там уже счет на отдельные атомы идет, нужны новые технологии

nonconvex

Цитата: cross-track от 10.05.2024 19:51:26
Цитата: nonconvex от 10.05.2024 18:23:01Сейчас человек и управляет, подстраховывая "Автопилот", он же ADAS-плюс-плюс
Когда же человек реально отвлекается, тогда и случаются проблемы.
Никто не говорит, что сейчас автопилот может полностью заменить человека. Автопилот еще далек от совершенства, и сейчас сюда вкладываются большие ресурсы . Но прогресс налицо, и здесь не видно нерешаемых проблем в виде принципиальной невозможности создания автопилота, заменяющего водителя-человека.
Нерешаемая проблема - экспоненциальная вычислетельная сложность обучения. Сколько еще раз это нужно озвучить?
Она разрешится только тогда, когда для класса NP-полных задач найдут полиномиальное решение.
Формально говоря, P != NP.

nonconvex

Цитата: simple от 10.05.2024 20:19:21нужно увеличивать мощность железа и так чтоб в машину помещалось и энергии на борту хватало, переход на 3 нанометра недостаточно, чем дальше тем серьезней сложности, там уже счет на отдельные атомы идет, нужны новые технологии
Вот и в Эпл также наивно полагали. Отсутствие математического образования сказывается.

cross-track

Цитата: nonconvex от 10.05.2024 21:07:53
Цитата: cross-track от 10.05.2024 19:51:26
Цитата: nonconvex от 10.05.2024 18:23:01Сейчас человек и управляет, подстраховывая "Автопилот", он же ADAS-плюс-плюс
Когда же человек реально отвлекается, тогда и случаются проблемы.
Никто не говорит, что сейчас автопилот может полностью заменить человека. Автопилот еще далек от совершенства, и сейчас сюда вкладываются большие ресурсы . Но прогресс налицо, и здесь не видно нерешаемых проблем в виде принципиальной невозможности создания автопилота, заменяющего водителя-человека.
Нерешаемая проблема - экспоненциальная вычислетельная сложность обучения. Сколько еще раз это нужно озвучить?
Она разрешится только тогда, когда для класса NP-полных задач найдут полиномиальное решение.
Формально говоря, P != NP.
Вам напомнить, что не так давно, всего лишь пару десятков лет тому назад утверждали, что компьютер не сможет обыграть человека? И ссылались на ту же  экспоненциальную вычислительную сложность. Но если решать задачи не путем переборов (пусть и модифицированных), то такого типа проблемы могут успешно разрешаться.
Не все у нас еще хорошо, кое-что - просто замечательно!

simple

Цитата: nonconvex от 10.05.2024 21:09:14Вот и в Эпл также наивно полагали. Отсутствие математического образования сказывается.
разжуйте

nonconvex

Цитата: simple от 10.05.2024 23:06:52
Цитата: nonconvex от 10.05.2024 21:09:14Вот и в Эпл также наивно полагали. Отсутствие математического образования сказывается.
разжуйте
Неплохо разжевано в соседней теме. Ссылочка оттуда.

simple

Цитата: nonconvex от 11.05.2024 00:34:20
Цитата: simple от 10.05.2024 23:06:52
Цитата: nonconvex от 10.05.2024 21:09:14Вот и в Эпл также наивно полагали. Отсутствие математического образования сказывается.
разжуйте
Неплохо разжевано в соседней теме. Ссылочка оттуда.

и? тут подтверждают то что я и пишу - не хватает мощности железа
при этом они вложились в железо и процессоры получились лучшими, как минимум, в своем классе

nonconvex

Цитата: simple от 11.05.2024 00:48:08
Цитата: nonconvex от 11.05.2024 00:34:20
Цитата: simple от 10.05.2024 23:06:52
Цитата: nonconvex от 10.05.2024 21:09:14Вот и в Эпл также наивно полагали. Отсутствие математического образования сказывается.
разжуйте
Неплохо разжевано в соседней теме. Ссылочка оттуда.

и? тут подтверждают то что я и пишу - не хватает мощности железа
при этом они вложились в железо и процессоры получились лучшими, как минимум, в своем классе
Нужно ли было для этого понимания тратить 10 миллиардов зеленых?
Какие процессоры, автомобильные?