Опасности и преимущества использования нейросетей и ИИ для человечества - факты и только факты

[Inti]

В научных статьях цифры часто важнее общих выводов. Именно по ним сравнивают технологии, уточняют модели и замечают новые тенденции. Но нужные значения редко лежат на поверхности. Температуры, КПД, выбросы, стоимость, параметры материалов и медицинские показатели обычно спрятаны внутри абзацев вместе с оговорками, единицами измерения, временем, местом и способом расчета. Когда публикаций становится слишком много, вручную собирать такие данные из сотен и тысяч работ почти невозможно.
Исследователи из Юлиха предложили для такой задачи отдельный инструмент.
Подробнее: https://www.securitylab.ru/news/571747.php

[nonconvex]

GPT-Rosalind должна помочь там, где современная биология давно уперлась в масштаб и сложность. За десятилетия геномных исследований и белковой биохимии ученые накопили такие массивы данных, что одному человеку уже трудно охватить весь нужный контекст.
Подробнее: https://www.securitylab.ru/news/571727.php

На самом деле - именно в биологии ИИ вероятно сможет совершить(или поможет совершить) множество открытий, и найти множество решений задач неподвластных человеческому уму.

На самом деле задачу всегда ставит человек, он же перенацеливает ИИ, когда тот уходит в дебри бестолкового перебора во время логического вывода. И вот это нацеливание ИИ неподвластно, по причине вычислительной сложности. 

[Inti]

GPT-Rosalind должна помочь там, где современная биология давно уперлась в масштаб и сложность. За десятилетия геномных исследований и белковой биохимии ученые накопили такие массивы данных, что одному человеку уже трудно охватить весь нужный контекст.
Подробнее: https://www.securitylab.ru/news/571727.php

На самом деле - именно в биологии ИИ вероятно сможет совершить(или поможет совершить) множество открытий, и найти множество решений задач неподвластных человеческому уму.

На самом деле задачу всегда ставит человек, он же перенацеливает ИИ, когда тот уходит в дебри бестолкового перебора во время логического вывода. И вот это нацеливание ИИ неподвластно, по причине вычислительной сложности.

С этим нечего и спорить. Задачи и цели в биологии иногда очень легко ставить, например "хочу жить на 100 лет больше" или "хочу лекарство от рака". Главная сложность именно в решении задач а не в их постановке.

[Inti]

Генеральный директор Anthropic Дарио Амодеи сделал громкое и тревожное заявление о будущем искусственного интеллекта. По его словам, технология, которую он сам активно развивает, может в ближайшие годы привести к масштабным изменениям на рынке труда, к которым общество пока не готово.
Амодеи утверждает, что искусственный интеллект способен заменить до 50% начальных офисных рабочих мест в течение ближайших пяти лет. Речь идет прежде всего о так называемых white-collar позициях — работе в финансах, консалтинге, юриспруденции и IT. Это те сферы, где младшие сотрудники обычно занимаются анализом данных, подготовкой отчетов и обработкой документов — задачами, с которыми современные системы ИИ справляются все лучше и быстрее.

По его оценке, такие изменения могут привести к росту безработицы до 10–20%. Причем наиболее заметные последствия могут начаться уже в горизонте от одного до пяти лет. Амодеи подчеркивает, что многие люди пока не воспринимают эти прогнозы всерьез и не осознают масштаб возможных изменений.

При этом он также описал парадоксальный сценарий, который на первый взгляд выглядит позитивно, но на деле вызывает тревогу. По его словам: «Рак излечен, экономика растет на 10% в год, бюджет сбалансирован, и при этом 20% людей не имеют работы». Эта картина, по мнению Амодеи, показывает, что даже при общем технологическом и экономическом прогрессе социальные последствия могут быть крайне болезненными.

Особенность текущей технологической волны, по его словам, в том, что искусственный интеллект действует одновременно во множестве отраслей. В отличие от прошлых этапов автоматизации, когда работники могли переходить из одной сферы в другую, сейчас ИИ способен затронуть и производственный, и офисный труд. Амодеи называет его фактически универсальной заменой человеческой работы, а не просто инструментом повышения эффективности.

Отдельную обеспокоенность вызывает разрушение традиционной карьерной лестницы. Если начальные позиции исчезают, то у молодых специалистов не будет возможности накапливать опыт. Это может привести к дефициту квалифицированных кадров уже через 5–10 лет.

Некоторые признаки таких изменений уже наблюдаются. Сообщается о значительном снижении найма выпускников в крупных технологических компаниях, а также о десятках тысяч увольнений в США, частично связанных с внедрением ИИ. Кроме того, заметная доля работников выражает опасения по поводу потери работы из-за новых технологий.

При этом не все эксперты согласны с такими оценками. Часть специалистов считает, что влияние ИИ на занятость пока преувеличено, а реальные изменения происходят медленнее. Однако Амодеи настаивает на том, что разработчики технологий обязаны открыто говорить о потенциальных рисках.

В целом его позиция сводится к тому, что искусственный интеллект может одновременно ускорить экономический рост и научный прогресс, но при этом создать серьезные социальные проблемы, включая высокий уровень безработицы. Главный вывод заключается в том, что последствия развития ИИ могут оказаться значительно более быстрыми и масштабными, чем ожидает большинство людей.

[nonconvex]

Генеральный директор Anthropic Дарио Амодеи сделал громкое и тревожное заявление о будущем искусственного интеллекта. По его словам, технология, которую он сам активно развивает, может в ближайшие годы привести к масштабным изменениям на рынке труда, к которым общество пока не готово.
Амодеи утверждает, что искусственный интеллект способен заменить до 50% начальных офисных рабочих мест в течение ближайших пяти лет. Речь идет прежде всего о так называемых white-collar позициях — работе в финансах, консалтинге, юриспруденции и IT. Это те сферы, где младшие сотрудники обычно занимаются анализом данных, подготовкой отчетов и обработкой документов — задачами, с которыми современные системы ИИ справляются все лучше и быстрее.

Откуда возьмутся старшие сотрудники, он громко и тревожно не заявил?

[Inti]

Откуда возьмутся старшие сотрудники, он громко и тревожно не заявил?

Внимательнее если прочитать - то таки заявил:

Отдельную обеспокоенность вызывает разрушение традиционной карьерной лестницы. Если начальные позиции исчезают, то у молодых специалистов не будет возможности накапливать опыт. Это может привести к дефициту квалифицированных кадров уже через 5–10 лет.

[nonconvex]

Откуда возьмутся старшие сотрудники, он громко и тревожно не заявил?

Внимательнее если прочитать - то таки заявил:

Отдельную обеспокоенность вызывает разрушение традиционной карьерной лестницы. Если начальные позиции исчезают, то у молодых специалистов не будет возможности накапливать опыт. Это может привести к дефициту квалифицированных кадров уже через 5–10 лет.

Ну раз заявил, значит такой проблемы нет. В приличных фирмах не зря беруг на работу студентов на летнюю практику, хотя, казалось бы, вот их то точно ИИ заменит.

[Inti]

Альтман c ведущими сотрудниками на презентации нового Chat GPT:

Китай нас никогда не догонит!

[Inti]

[Inti]

OpenAI(разработчик\владелец ChatGPT) выкатила статью на 13-ти страницах о том что что-то надо делать из-за приближения супер-ИИ который сильно поменяет очень многое. 
https://openai.com/ru-RU/index/industrial-policy-for-the-intelligence-age/

Маск уже высказывался по этому поводу коротко и чётко - типа надо будет всем платить деньги(даже неработающим) за счёт налогов. А OpenAI пишет много и какую-то муру, в частности вот это:

Создать Государственный фонд благосостояния, который обеспечит каждому гражданину — в том числе тем, кто не инвестирует на финансовых рынках, — долю в экономическом росте, обусловленном развитием ИИ. В то время как налоговые реформы помогут
правительствам продолжать финансировать важнейшие программы, Государственный фонд благосостояния призван гарантировать, что люди будут напрямую участвовать в выгодах от этого роста. Политики и компании, занимающиеся ИИ, должны работать
вместе, чтобы определить, как лучше всего наполнить Фонд, который мог бы инвестировать в диверсифицированные долгосрочные активы,
отражающие рост как компаний, занимающихся ИИ, так и более широкого круга фирм, внедряющих и использующих ИИ.
Доходы от Фонда могли бы распределяться непосредственно среди граждан, что позволило бы большему количеству людей непосредственно участвовать в выгодах роста, обусловленного ИИ, независимо от их исходного благосостояния или доступа к капиталу.

Прочитал всю статью - и понял что грядут большие перемены, и у Китая пожалуй шансы лучше чтобы сохранить управляемость на всех этих виражах, причём не замедляя развитие и внедрение ИИ. На Западе будут большие проблемы с перестройкой всего общества в общем-то в сторону ИИ-коммунизма, и создания роботовладельческого общества...

[nonconvex]

Прочитал всю статью - и понял что грядут большие перемены, и у Китая пожалуй шансы лучше чтобы сохранить управляемость на всех этих виражах, причём не замедляя развитие и внедрение ИИ. На Западе будут большие проблемы с перестройкой всего общества в общем-то в сторону ИИ-коммунизма, и создания роботовладельческого общества...

Не читайте статьи Альтмана по вечерам.