Опасности и преимущества использования нейросетей и ИИ для человечества - факты и только факты

[Veganin]

Тема посвящена опасности и преимуществам использования нейросетей и ИИ для человечества в целом. Где можно и где нельзя использовать нейросети, какие методы контроля деятельности нейросетей/ИИ можно и нужно использовать, как верифицировать эти методы контроля и т.д.

Поскольку тема развития нейросетей неразрывно связана с военными технологиями, контролем за населением, ресурсами и окружаюшим миром, а также  ограничениями, налагаемые на их использование законодательством разных стран, размещение новостных сообщений из мира военных технологий и политики здесь неизбежно и оправданно. Поэтому прошу обсуждать конкретные новости и их влияние на человечество в целом, не скатываясь в политоту.

 Если размещаете новость, например, использования нейросетей в боевых дронах, то нужно показать их в контексте темы: новостное сообщение (лучше - с ресурса фирмы-производителя), ТТХ дрона, случаи использования и как это отразится на человечестве в целом в будущем, когда данная сфера применения нейросетей/ИИ распространится на всю планету.
Исключение: видео применения дронов в российско-украинском конфликте. Недостатка в видеоматериалах, благодаря телеграмм-каналам, не существует и размещать здесь их не следует.

Здесь же можно размещать ссылки на научные и художественные фильмы и книги.

[Inti]

Фильм по теме. По мне так бред, но в комментах многим понравился.

[Бертикъ]

Даже три закона робототехники не гарантируют безопасность ИИ для человека, что показал сам Азимов в своих последующих произведениях.
А уж если никто не гарантирует закладку этих законов в конкретный ИИ, то опасность (любая, вплоть до терминальной) увеличивается непредсказуемо.
Человечество еще недостаточно вышло из пещер, чтобы начинать играть в бога. ИИ в такой ситуации - зло, но мы узнаем об этом слишком поздно.

[Dulevo]

Кто не рискует - тот не пьет шампанского.

Уж сколько вреда принесло использование огня - но без него мы так и сидели бы в пещерах (а скорее всего - вымерли бы в последнем оледенении).

Применение ИИ - решит множество проблем. Отказываться от него - глупость.

[Бертикъ]

Применение ИИ - решит множество проблем.

Т.к. ИИ еще не существует, то это утверждение лишено содержания.
ЗЫ: Ядерная реакция тоже могла решить множество проблем, но ее первое применение лишило жизни население двух городов. Появление ИИ при нынешнем уровне цифровизации может лишить жизни всю цивилизацию.

[Dulevo]

Ну вы же уверены в опасности ИИ, хотя он не существует...

[mihalchuk]

Когда будут факты, будет уже поздно.

[nonconvex]

Ну вы же уверены в опасности ИИ, хотя он не существует...

Опасность ИИ не в том, что он существует - его как не было, так и нет. Опасность в том, что можно подумать что он есть, и поручить ему задачи которые действительно требуют интеллекта. Вот тогда его банальное ложное срабатывание может наделать бед, как уже делает, в управлении автомобилем.

[cross-track]

Ну вы же уверены в опасности ИИ, хотя он не существует...

Опасность ИИ не в том, что он существует - его как не было, так и нет. Опасность в том, что можно подумать что он есть, и поручить ему задачи которые действительно требуют интеллекта. Вот тогда его банальное ложное срабатывание может наделать бед, как уже делает, в управлении автомобилем.

Нужно запретить использование ИИ в управлении автомобилем, и тогда аварий станет намного меньше!

[BlackMokona]

Ну вы же уверены в опасности ИИ, хотя он не существует...

Опасность ИИ не в том, что он существует - его как не было, так и нет. Опасность в том, что можно подумать что он есть, и поручить ему задачи которые действительно требуют интеллекта. Вот тогда его банальное ложное срабатывание может наделать бед, как уже делает, в управлении автомобилем.

Нужно запретить использование ИИ в управлении автомобилем, и тогда аварий станет намного меньше!

ЕИ вы хотели сказать? 

[nonconvex]

Ну вы же уверены в опасности ИИ, хотя он не существует...

Опасность ИИ не в том, что он существует - его как не было, так и нет. Опасность в том, что можно подумать что он есть, и поручить ему задачи которые действительно требуют интеллекта. Вот тогда его банальное ложное срабатывание может наделать бед, как уже делает, в управлении автомобилем.

Нужно запретить использование ИИ в управлении автомобилем, и тогда аварий станет намного меньше!

ЕИ вы хотели сказать?

НеИ, он хотел сказать.
Сейчас человек и управляет, подстраховывая "Автопилот", он же ADAS-плюс-плюс
Когда же человек реально отвлекается, тогда и случаются проблемы.

[cross-track]

Сейчас человек и управляет, подстраховывая "Автопилот", он же ADAS-плюс-плюс
Когда же человек реально отвлекается, тогда и случаются проблемы.

Никто не говорит, что сейчас автопилот может полностью заменить человека. Автопилот еще далек от совершенства, и сейчас сюда вкладываются большие ресурсы . Но прогресс налицо, и здесь не видно нерешаемых проблем в виде принципиальной невозможности создания автопилота, заменяющего водителя-человека.

[simple]

Но прогресс налицо, и здесь не видно нерешаемых проблем в виде принципиальной невозможности создания автопилота, заменяющего водителя-человека.

нужно увеличивать мощность железа и так чтоб в машину помещалось и энергии на борту хватало, переход на 3 нанометра недостаточно, чем дальше тем серьезней сложности, там уже счет на отдельные атомы идет, нужны новые технологии

[nonconvex]

Сейчас человек и управляет, подстраховывая "Автопилот", он же ADAS-плюс-плюс
Когда же человек реально отвлекается, тогда и случаются проблемы.

Никто не говорит, что сейчас автопилот может полностью заменить человека. Автопилот еще далек от совершенства, и сейчас сюда вкладываются большие ресурсы . Но прогресс налицо, и здесь не видно нерешаемых проблем в виде принципиальной невозможности создания автопилота, заменяющего водителя-человека.

Нерешаемая проблема - экспоненциальная вычислетельная сложность обучения. Сколько еще раз это нужно озвучить?
Она разрешится только тогда, когда для класса NP-полных задач найдут полиномиальное решение.
Формально говоря, P != NP.

[nonconvex]

нужно увеличивать мощность железа и так чтоб в машину помещалось и энергии на борту хватало, переход на 3 нанометра недостаточно, чем дальше тем серьезней сложности, там уже счет на отдельные атомы идет, нужны новые технологии

Вот и в Эпл также наивно полагали. Отсутствие математического образования сказывается.

[cross-track]

Сейчас человек и управляет, подстраховывая "Автопилот", он же ADAS-плюс-плюс
Когда же человек реально отвлекается, тогда и случаются проблемы.

Никто не говорит, что сейчас автопилот может полностью заменить человека. Автопилот еще далек от совершенства, и сейчас сюда вкладываются большие ресурсы . Но прогресс налицо, и здесь не видно нерешаемых проблем в виде принципиальной невозможности создания автопилота, заменяющего водителя-человека.

Нерешаемая проблема - экспоненциальная вычислетельная сложность обучения. Сколько еще раз это нужно озвучить?
Она разрешится только тогда, когда для класса NP-полных задач найдут полиномиальное решение.
Формально говоря, P != NP.

Вам напомнить, что не так давно, всего лишь пару десятков лет тому назад утверждали, что компьютер не сможет обыграть человека? И ссылались на ту же  экспоненциальную вычислительную сложность. Но если решать задачи не путем переборов (пусть и модифицированных), то такого типа проблемы могут успешно разрешаться.

[simple]

Вот и в Эпл также наивно полагали. Отсутствие математического образования сказывается.

разжуйте

[nonconvex]

Вот и в Эпл также наивно полагали. Отсутствие математического образования сказывается.

разжуйте

Неплохо разжевано в соседней теме. Ссылочка оттуда.

[simple]

Вот и в Эпл также наивно полагали. Отсутствие математического образования сказывается.

разжуйте

Неплохо разжевано в соседней теме. Ссылочка оттуда.

и? тут подтверждают то что я и пишу - не хватает мощности железа
при этом они вложились в железо и процессоры получились лучшими, как минимум, в своем классе

[nonconvex]

Вот и в Эпл также наивно полагали. Отсутствие математического образования сказывается.

разжуйте

Неплохо разжевано в соседней теме. Ссылочка оттуда.

и? тут подтверждают то что я и пишу - не хватает мощности железа
при этом они вложились в железо и процессоры получились лучшими, как минимум, в своем классе

Нужно ли было для этого понимания тратить 10 миллиардов зеленых?
Какие процессоры, автомобильные?