Опасности и преимущества использования нейросетей и ИИ для человечества - факты и только факты

[nonconvex]

Надо развивать "таланты" ИИ в узких областях.

Это тоже делается, просто специализированные экспертные системы не так сильно интересны народным массам    Ясен пень что скажем медицинский ИИ нужно тренировать на специализированных ресурсах а не на научной фантастике и политических новостях. Кстати, вот абсолютно уверен что ИИ в качестве помощника врачей будет ну просто потрясающе полезен - особенно для тех пациентов которых лечить никто особо и не хочет - т.е. для простых людей.

В IBM тоже так думали, и создали Ватсона. Ничего не вышло. Косячит он, галлюцинирует, требует непрерывного присмотра врача. Вот вы, как простой человек, согласитесь чтобы вас лечил врач с галлюцинациями?

[Inti]

Надо развивать "таланты" ИИ в узких областях.

Это тоже делается, просто специализированные экспертные системы не так сильно интересны народным массам    Ясен пень что скажем медицинский ИИ нужно тренировать на специализированных ресурсах а не на научной фантастике и политических новостях. Кстати, вот абсолютно уверен что ИИ в качестве помощника врачей будет ну просто потрясающе полезен - особенно для тех пациентов которых лечить никто особо и не хочет - т.е. для простых людей.

В IBM тоже так думали, и создали Ватсона. Ничего не вышло. Косячит он, галлюцинирует, требует непрерывного присмотра врача. Вот вы, как простой человек, согласитесь чтобы вас лечил врач с галлюцинациями?

Я бы хотел чтобы ИИ был помощником врача. Чтобы он делал предварительный опрос и выдавал врачу рекомендации. Чтобы ИИ при каждом визите анализировал ВСЮ мою медицинскую историю и ВСЕ анализы, и выдавал графики изменений. У среднего врача просто слишком много пациентов и слишком мало времени для каждого, ИИ мог бы очень помочь со своими подсказками. 
По сути, кой-какой примитивный ИИ уже сейчас используется, например если результат анализа выходит за рамки нормы то он отображается красным. Но никто не прослеживает динамику изменений анализов если нет выхода за пределы нормы. Развитый ИИ мог бы это делать. Никакой врач не будет этого делать, слишком много работы.

[nonconvex]

Развитый ИИ мог бы это делать. Никакой врач не будет этого делать, слишком много работы.

Правильно говорить - развитОй, чтобы коррелировать с чем то недостижимым.
У развитОго ИИ будут такие галлюцинации, что пять дипломированных врачей не разберутся. В это время больной помрет, а виноваты будут они.

[Inti]

Развитый ИИ мог бы это делать. Никакой врач не будет этого делать, слишком много работы.

Правильно говорить - развитОй, чтобы коррелировать с чем то недостижимым.
У развитОго ИИ будут такие галлюцинации, что пять дипломированных врачей не разберутся. В это время больной помрет, а виноваты будут они.

Глюки могут быть, но все решения всё равно будут приниматься врачом. Другое дело что не все врачи будут рады даже советам, в особенности те которым пациенты пофигу. Потому что советы ИИ будут записываться, и если потом обнаружится что совет был хорош - а врач его проигнорировал - то у врача будут проблемы.
Но в целом - качество обслуживания пациентов значительно улучшится.

[nonconvex]

Развитый ИИ мог бы это делать. Никакой врач не будет этого делать, слишком много работы.

Правильно говорить - развитОй, чтобы коррелировать с чем то недостижимым.
У развитОго ИИ будут такие галлюцинации, что пять дипломированных врачей не разберутся. В это время больной помрет, а виноваты будут они.

Глюки могут быть, но все решения всё равно будут приниматься врачом. Другое дело что не все врачи будут рады даже советам, в особенности те которым пациенты пофигу. Потому что советы ИИ будут записываться, и если потом обнаружится что совет был хорош - а врач его проигнорировал - то у врача будут проблемы.
Но в целом - качество обслуживания пациентов значительно улучшится.

Ватсон сгубили две проблемы - высокая стоимость и недоступность данных пациентов.
Данные пациентов охраняются законом, вы не можете и просто так получить для обучения, их можно  только купить, с согласия пациента. Это, в частности, резко увеличивает стоимость обучения, не говоря уже о затратах на персонал и оборудование.
В итоге Ватсон был продан.

[cross-track]

https://www.bloomberg.com/news/articles/2024-05-27/musk-s-xai-raises-6-billion-in-sequioa-backed-series-b-funding
Musk's xAI Raises $6 Billion in Bid to Challenge OpenAI

Машинный перевод:

(Блумберг) -- Стартап Илона Маска по искусственному интеллекту xAI привлек 6 миллиардов долларов, чтобы ускорить вызов своим бывшим союзникам из OpenAI.

Раунд серии B, о котором было объявлено в блоге 26 мая, состоялся менее чем через год после дебюта xAI и знаменует собой одну из крупнейших инвестиций в зарождающуюся область разработки инструментов искусственного интеллекта. Маск был одним из первых сторонников искусственного интеллекта, поддерживая OpenAI до того, как он представил ChatGPT в конце 2022 года.

Позже он отказался от поддержки этого предприятия и призвал к осторожности из-за потенциальных опасностей этой технологии. В прошлом году он был среди большой группы лидеров отрасли, призывавших приостановить разработку ИИ.

В ноябре Маск запустил конкурента ChatGPT OpenAI под названием Grok, который был обучен и интегрирован в X.com, социальную сеть, ранее известную как Twitter. На данный момент это наиболее заметный результат работы xAI, которой руководят руководители, имеющие опыт работы в DeepMind, принадлежащей Alphabet Inc., Microsoft Corp. и Tesla Inc.

Компания намерена использовать средства для вывода своих первых продуктов на рынок, создания передовой инфраструктуры и ускорения разработки технологий будущего, говорится в блоге.

Его предварительная оценка составила $18 млрд, сообщил Маск в сообщении на X. Венчурные компании Marquee, в том числе Sequoia Capital и Andreessen Horowitz, поддержали сбор средств, который на данный момент является одним из крупнейших в отрасли.

[BlackMokona]

Вот вы, как простой человек, согласитесь чтобы вас лечил врач с галлюцинациями?

Так и сейчас такие лечат. Интернет переполнен историями о медицинских ошибках. От невнимательности, малого времени, некомпетентности и тд и тп. Забыть инструмент в пациенте? Послать реального больного как симулянта и тд и тп как здраствуй сказать
Здесь как в обсуждениях автопилота , человек всячески идеализируется и берется гигачад сферовакумный. А не типичный человек со всеми его проблемами. Вопрос лишь кто меньше косячит

[nonconvex]

Вот вы, как простой человек, согласитесь чтобы вас лечил врач с галлюцинациями?

Так и сейчас такие лечат. Интернет переполнен историями о медицинских ошибках. От невнимательности, малого времени, некомпетентности и тд и тп. Забыть инструмент в пациенте? Послать реального больного как симулянта и тд и тп как здраствуй сказать
Здесь как в обсуждениях автопилота , человек всячески идеализируется и берется гигачад сферовакумный. А не типичный человек со всеми его проблемами. Вопрос лишь кто меньше косячит

Да уж точно не ИИ.
Год назад ИИ тестировали на предмет лекарств. Только 36 процентов ответов были корректны.

Of the 39 questions, the researchers reported that ChatGPT provided responses for 72 percent. Just over one-third of ChatGPT responses (36 percent) were accurate and complete and had no irrelevant information, whereas 64 percent had inaccurate or incomplete responses. One-third of the complex questions and 23 percent of the noncomplex questions were answered in a satisfactory manner.

из относительно свежего:
Попробовали позадавать ЧатуДжиПиТи вопросы по информатике. Вот что получилось:

The research team used 517 questions found on the site and then measured how often ChatGPT gave the correct answer. Sadly, it was just 52% of the time. They also found the answers tended to be more verbose than would be the case when a human expert was asked the same question.

В половине случаев бот гнал пургу. Вы хотите себе такого "врача"?
Но если вам нужен сказочник на сон грядущий, то это самое оно.

[Inti]

Год назад ИИ тестировали на предмет лекарств. Только 36 процентов ответов были корректны.

Вообще-то ИИ немножко не так работает. Пока что это просто инструмент для повышения производительности труда. Например, я недавно написал с его помощью программу, точнее кусок программы, и да, ИИ гнал временами пургу, я его поправлял, просил что-то исправить. В конце-концов у меня ушло часа два на то что без ИИ я бы делал пару дней. Врач в общем-то тоже должен понимать что ИИ может гнать пургу, это не истина в последней инстанции, а советчик-консультант-справочник, ну например ИИ может выдать какой-то вариант про который врач может забыть. ИИ может прошерстить ВСЕ анализы пациента за много лет и показать тренд в изменении какого-то показателя. Врач должен уметь спрашивать, и должен понимать предмет, и отметать паршивые ответы. Врачебный ИИ пока что может быть консультантом и советчиком, но не тем кто прописывает лекарства без контроля врача.

[Inti]

Доигрались с санкциями против Хуавей:

NVidia вынуждена снизить цены на чипы искусственного интеллекта, поскольку первые ИИ чипы Huawei быстрее и работает лучше

Спойлер

[свернуть]

[BlackMokona]

Год назад ИИ тестировали на предмет лекарств. Только 36 процентов ответов были корректны.

Зато тестировали на анализ всяких снимков и прочего. А там лучше точность чем у людей.

[Владимир Зайцев]

А вот если отмести информационный мусор из картины мироздания и загрузить искусственный интеллект результатами моих исследований по механизмам взаимодействия развития Вселенной. Россия может выйти на миллионы новых предложений по технологиям во всех областях.

[cross-track]

А вот если отмести информационный мусор из картины мироздания и загрузить искусственный интеллект результатами моих исследований по механизмам взаимодействия развития Вселенной. Россия может выйти на миллионы новых предложений по технологиям во всех областях.

Может вам для начала загрузить Чат ЖПТ результатами ваших "исследований по механизмам взаимодействия развития Вселенной"? Это ничего не стоит, и можно на практике получить результат от ИИ. Он вас наверняка удивит!

[Владимир Зайцев]

А вот если отмести информационный мусор из картины мироздания и загрузить искусственный интеллект результатами моих исследований по механизмам взаимодействия развития Вселенной. Россия может выйти на миллионы новых предложений по технологиям во всех областях.

Может вам для начала загрузить Чат ЖПТ результатами ваших "исследований по механизмам взаимодействия развития Вселенной"? Это ничего не стоит, и можно на практике получить результат от ИИ. Он вас наверняка удивит!

Так пока багаж информации искусственного интеллекта забит заблуждениями. Поэтому соглашаюсь с вашим мнением результат будет нулевой.

[nonconvex]

Врач в общем-то тоже должен понимать что ИИ может гнать пургу, это не истина в последней инстанции, а советчик-консультант-справочник

Нужен вам справочник, который может выдать ложную информацию, причем совершенно непредсказуемо? В простых случаях вы его поймаете на вранье, а в сложных можете и поверить. Вот тут и таится опасность.

[nonconvex]

А вот если отмести информационный мусор из картины мироздания и загрузить искусственный интеллект результатами моих исследований по механизмам взаимодействия развития Вселенной.

Все в мире относительно, мусор - тоже.

[Inti]

Врач в общем-то тоже должен понимать что ИИ может гнать пургу, это не истина в последней инстанции, а советчик-консультант-справочник

Нужен вам справочник, который может выдать ложную информацию, причем совершенно непредсказуемо? В простых случаях вы его поймаете на вранье, а в сложных можете и поверить. Вот тут и таится опасность.

А вы часто видели врачей которые расспросив вас о симптомах лезут в справочники? У них на это просто нет времени. Моя мама была врачом, и таки да, читала дома после работы, особенно после трупов, она работала в кардиобригаде на скорой помощи. Однако большинство я думаю этим даже дома не заморачивается.
ИИ по крайней мере хоть что-то смог бы подсказать, даже если его использовать в качестве вопросника перед тем как увидеть врача. И например Copilot нынче выдаёт ссылки на источники его ответов. В итоге можно просмотреть справочник за секунды, прямо во время встречи с пациентом. Вплоть до того что ИИ может СЛУШАТЬ РАЗГОВОР врача с пациентом и сразу выводить на экран что-то что врач может использовать или не использовать. Ну и врачам будет виднее в каким случаях ИИ полезен а в каких нет. Нам об этом спорить смысло мало.

[nonconvex]

А вы часто видели врачей которые расспросив вас о симптомах лезут в справочники? У них на это просто нет времени.

Вы уже определитесь, смотреть в справочник или не смотреть.

В итоге можно просмотреть справочник за секунды, прямо во время встречи с пациентом.

И за секунды понять галлюцинация это или нет? И это при том, что этот болтливый бот вывалит вам портянку на две страницы...
Если же пациент помрет, то родственники потащат врача в суд, и виноват будет он, а не болтливый галюциногенный бот.

В реальности же у врача есть группа естественных ассистентов, собирающих информацию, обрабатывающих результаты анализов и т.д.

[Inti]

В реальности же у врача есть группа естественных ассистентов, собирающих информацию, обрабатывающих результаты анализов и т.д.

Есть. Теперь будет ещё один ассистент, только и всего, причём недорогой и быстрый.

[nonconvex]

В реальности же у врача есть группа естественных ассистентов, собирающих информацию, обрабатывающих результаты анализов и т.д.

Есть. Теперь будет ещё один ассистент, только и всего, причём недорогой и быстрый.

Все неправильно. Если уж великая IBM продала этого ассистента из-за непомерной дороговизны, то что сказать про простого доктора? Ну и со скоростью тоже вопросы. Решение то он выдаст быстро, вот только проверка его на галлюциногенность займет непойми сколько времени.