Опасности и преимущества использования нейросетей и ИИ для человечества - факты и только факты

[Inti]

В реальности же у врача есть группа естественных ассистентов, собирающих информацию, обрабатывающих результаты анализов и т.д.

Есть. Теперь будет ещё один ассистент, только и всего, причём недорогой и быстрый.

Все неправильно. Если уж великая IBM продала этого ассистента из-за непомерной дороговизны, то что сказать про простого доктора? Ну и со скоростью тоже вопросы. Решение то он выдаст быстро, вот только проверка его на галлюциногенность займет непойми сколько времени.

Великая ИБМ уже давно не великая, в частности, она не самая нынче ведущая в разработке и внедрении ИИ.
Галлюциногенность возникает как правило из-за плохого обучения, например когда источниками информации служат гороскопы а не медицинские справочники и учебники. Если хорошо обучить, то и результаты будет неплохие. Впрочем, поживём-увидим.

[nonconvex]

Галлюциногенность возникает как правило из-за плохого обучения, например когда источниками информации служат гороскопы а не медицинские справочники и учебники. Если хорошо обучить, то и результаты будет неплохие. Впрочем, поживём-увидим.

Опять мимо. Галюциногенность возникает на последних пяти процентах из ста, по причине экспоненциальной вычислительной сложности обучения. Обучающей выборкой служат не учебники, а данные реальных пациентов, которые очень сложно получить.

[Inti]

Галлюциногенность возникает как правило из-за плохого обучения, например когда источниками информации служат гороскопы а не медицинские справочники и учебники. Если хорошо обучить, то и результаты будет неплохие. Впрочем, поживём-увидим.

Опять мимо. Галюциногенность возникает на последних пяти процентах из ста, по причине экспоненциальной вычислительной сложности обучения. Обучающей выборкой служат не учебники, а данные реальных пациентов, которые очень сложно получить.

Обучать можно и по учебникам, и по данным пациентов. И применять ИИ в медицине можно совершенно для разных целей, в том числе и для таких для которых последние 5 процентов не важны. Например, если ИИ будет посылать людей на анализы исходя из описанных симптомов, а потом с этими анализами люди будут приходить к врачу - то в чём может быть опасность? В лишней баночке с мочой? А ведь подобные  консультации с ИИ будут экономить визиты к врачам. Т.е налицо будет экономия времени врачей. Не стопроцентная т.к. врачу может показаться что нужны ещё какие-то анализы - но это и будут те самые последние 5 процентов. А не 100 как обычно.

[Inti]

Однако поржал 

[C-300-2]

Вы не можете просматривать это вложение.

[nonconvex]

Галлюциногенность возникает как правило из-за плохого обучения, например когда источниками информации служат гороскопы а не медицинские справочники и учебники. Если хорошо обучить, то и результаты будет неплохие. Впрочем, поживём-увидим.

Опять мимо. Галюциногенность возникает на последних пяти процентах из ста, по причине экспоненциальной вычислительной сложности обучения. Обучающей выборкой служат не учебники, а данные реальных пациентов, которые очень сложно получить.

Обучать можно и по учебникам, и по данным пациентов. И применять ИИ в медицине можно совершенно для разных целей, в том числе и для таких для которых последние 5 процентов не важны.

Последние пять процентов - не обязательно сложные случаи. Это необычные случаи, за пределами обучающей выборки. Здесь ИИ обычно и слетает с катушек. Проблема медицины в том, что нет двух одинаковых людей. Кто-то и от таблетки аспирина может помереть.

[ShamgA]

Последние пять процентов - не обязательно сложные случаи. Это необычные случаи, за пределами обучающей выборки. Здесь ИИ обычно и слетает с катушек. Проблема медицины в том, что нет двух одинаковых людей. Кто-то и от таблетки аспирина может помереть.

Это все верно. Проблема только в том, что в среднестатистической больничке врачу некогда вдаваться в особенности пациентов. Доктор Хаус существует только в ТВ

[nonconvex]

Последние пять процентов - не обязательно сложные случаи. Это необычные случаи, за пределами обучающей выборки. Здесь ИИ обычно и слетает с катушек. Проблема медицины в том, что нет двух одинаковых людей. Кто-то и от таблетки аспирина может помереть.

Это все верно. Проблема только в том, что в среднестатистической больничке врачу некогда вдаваться в особенности пациентов. Доктор Хаус существует только в ТВ

Безусловно, но разница ИИ и ЕИ в данном случае в том, что ИИ при попадании в неожиданную для него ситуацию может накормить пациента галюциногенными грибами, или вообще чем угодно.

[cross-track]

разница ИИ и ЕИ в данном случае в том, что ИИ при попадании в неожиданную для него ситуацию может накормить пациента галюциногенными грибами, или вообще чем угодно.

ИИ не панацея, ИИ может ошибаться. Вопрос в другом - ИИ чаще ошибается по сравнению с ЕИ, или реже? Есть даже такой термин "врачебная халатность", который довольно широко используется в юридической и страховой практике. Может, и для ИИ будет что-то подобное?

[nonconvex]

разница ИИ и ЕИ в данном случае в том, что ИИ при попадании в неожиданную для него ситуацию может накормить пациента галюциногенными грибами, или вообще чем угодно.

ИИ не панацея, ИИ может ошибаться. Вопрос в другом - ИИ чаще ошибается по сравнению с ЕИ, или реже? Есть даже такой термин "врачебная халатность", который довольно широко используется в юридической и страховой практике. Может, и для ИИ будет что-то подобное?

Инженерная халатность, ага.

[cross-track]

ИИ не панацея, ИИ может ошибаться. Вопрос в другом - ИИ чаще ошибается по сравнению с ЕИ, или реже? Есть даже такой термин "врачебная халатность", который довольно широко используется в юридической и страховой практике. Может, и для ИИ будет что-то подобное?

Инженерная халатность, ага.

Скорее, Инженерный просчет.

[nonconvex]

ИИ не панацея, ИИ может ошибаться. Вопрос в другом - ИИ чаще ошибается по сравнению с ЕИ, или реже? Есть даже такой термин "врачебная халатность", который довольно широко используется в юридической и страховой практике. Может, и для ИИ будет что-то подобное?

Инженерная халатность, ага.

Скорее, Инженерный просчет.

Это и есть халатность. Недостаточно внимательное отношение к обязанностям.

[BlackMokona]

Безусловно, но разница ИИ и ЕИ в данном случае в том, что ИИ при попадании в неожиданную для него ситуацию может накормить пациента галюциногенными грибами, или вообще чем угодно.

А человек может в самой обычной ситуации, кормить пациента гемеопатией, да прочими фуфломицинами. Врачи на эти разводы попадаются не хуже их клиентов 

[Димитър]

ИИ при попадании в неожиданную для него ситуацию

Должен обратиться к врачу-человеку. И ничего другого. 
А о неожиданной ситуации сообщить програмистам, чтобы превратили ее в ожиданной.

[nonconvex]

ИИ при попадании в неожиданную для него ситуацию

Должен обратиться к врачу-человеку. И ничего другого.
А о неожиданной ситуации сообщить програмистам, чтобы превратили ее в ожиданной.

У него нет механизма проверки истинности.

[Антикосмит]

ИИ при попадании в неожиданную для него ситуацию

Должен обратиться к врачу-человеку. И ничего другого.
А о неожиданной ситуации сообщить програмистам, чтобы превратили ее в ожиданной.

У него нет механизма проверки истинности.

А добавить его так сложно? Всякие косвенные и перекрестные проверки.

[Dulevo]

Нету пока такого. И как это сделать - пока точно никто не знает.

>>> В нынешних системах ИИ пока отсутствуют следующие
четыре способности для достижения (сверх) человеческого интеллекта:

1) понимание физического мира,
2) постоянная память,
3) способность рассуждать 
4) способность планировать

Всякие задумки есть - и пытаются их внедрить - но пока особых продвижений нет. Посмотрим как будет в ChatGPT-5.

[Антикосмит]

Я догадываюсь как будет выглядеть GPT-88

Спойлер

Было сделано только четыре экземпляра IG-88, все одинаковые. Сразу же после активации, первый из IG-88 убил ученых, разработавших его и перенес свое сознание в трех остальных. Затем они бежали из лаборатории. Возможно, у дроидов не полностью сформировалась личность, что сделало их одержимыми охотой и убийствами. Они стали преемниками устаревшей модели дроидов. Помимо выполнения заказных убийств все 4 IG-88 разыскивали и убивали уцелевших ученых из числа разработчиков, чтобы никто не узнал о слабостях их конструкции.

[свернуть]

[Димитър]

1) понимание физического мира,
2) постоянная память,

1. Срочно подключить доступ к Википедию!
2. Жесткий диск забыли поставить !?

[Димитър]

Сразу же после активации, первый из IG-88 убил ученых, разработавших его

Это, потому что очень примитивный. Настоящего разума у него нет. А был бы разум, наплевал бы на них и пошел бы по своим делам.