Опасности и преимущества использования нейросетей и ИИ для человечества - факты и только факты

[nonconvex]

Одно дело убегать от волка, и совсем другое - от инфаркта.

Волки сейчас тоже атрофировались, в отличие от инфарктов)

Погуляйте на севере Сибири, или юге Якутии, заодно и ознакомитесь с местной фауной, а она соответственно, с вами.

А вы почитайте статистику про жертвы от волков и инфарктов.

Волки, а также прочие медведи и рыси - неграмотные, и регулярно поедают незадачливых статистов, даже в национальных парках, что уж там говорить о тайге.

[cross-track]

Одно дело убегать от волка, и совсем другое - от инфаркта.

Волки сейчас тоже атрофировались, в отличие от инфарктов)

Погуляйте на севере Сибири, или юге Якутии, заодно и ознакомитесь с местной фауной, а она соответственно, с вами.

А вы почитайте статистику про жертвы от волков и инфарктов.

Волки, а также прочие медведи и рыси - неграмотные, и регулярно поедают незадачливых статистов, даже в национальных парках, что уж там говорить о тайге.

Все же поддерживать физическую форму нужно для того, чтобы убежать от инфаркта, а не от волка. Потому что волк далеко, а инфаркт - за каждым углом!

[nonconvex]

Все же поддерживать физическую форму нужно для того, чтобы убежать от инфаркта, а не от волка. Потому что волк далеко, а инфаркт - за каждым углом!

Речь была об "атрофировавшихся" волках. Это они в зоопарке такие, а на природе проверять не советую.

[Inti]

Натуральная мышиная нейросеть, точнее её кусочек размером с маковое зёрнышко, примерно полмиллиарда связей, очень интересное исследование:

https://dailygalaxy.com/2025/04/mouse-brain-map-compared-to-galaxy/

[Iv-v]

Конфиденциальность мертва: Яндекс и ВК обучают ИИ на ваших личных данных?
 
Недавно Яндекс «подарил» мне месячную подпиську на АлисаПро — доступ к последней модели YandexGPT в рамках использования голосового ассистента в колонке Алиса.
Конечно же, как и любой человек наслаждающийся манией величия, я поинтересовался у Алисы — что она знает обо мне.
И... выпал в осадок

https://habr.com/ru/articles/900132/

[Антикосмит]

Вот это открытие! Любая крупная цифровая контора, работающая с личными данными - сборище лиц нетрадиционной ориентации. Таков закон жанра.

[Iv-v]

Значит, пора 121-ю возвращать.

[simple]

Вот это открытие! Любая крупная цифровая контора, работающая с личными данными - сборище лиц нетрадиционной ориентации. Таков закон жанра.

не так, базовое правило интернета - любая информация передаваемая по сети интернет является публично высказанная, был помнится скандал лет 10 назад, фотохостинг какойто както взял и сделал общедоступными закрытые  альбомы пользователей, а там клубничка, ну и на возмущение пользователям популярно им это объяснил

[Veganin]

https://3dnews.ru/1122948/sem-altman-khochet-chtoby-chelovek-doveril-chatgpt-pamyat-o-vsej-svoej-zhizni

Сэм Альтман хочет, чтобы человек доверил ChatGPT память о всей своей жизни
16.05.2025 [13:01], Павел Котов

Гендиректор OpenAI Сэм Альтман (Sam Altman) на недавнем мероприятии, посвящённом искусственному интеллекту, рассказал, каким видит будущее ChatGPT. На вопрос о том, как можно сделать платформу ещё более персонализированной, Альтман ответил, что хочет, чтобы модель документировала и помнила о жизни человека всё. В идеале это будет «очень маленькая рассуждающая модель с контекстом на триллион токенов, в который вносишь всю свою жизнь».

«Эта модель может рассуждать во всём вашем контексте и делать это эффективно. И каждый разговор, который вы когда-либо вели в своей жизни, каждая книга, которую когда-либо читали, всё, что когда-либо смотрели, находится там, плюс связано со всеми вашими данными из других источников. И ваша жизнь просто продолжает добавляться к этому контексту», — рассказал глава OpenAI.

У Альтмана есть веские основания считать такой сценарий развития ChatGPT естественным — молодёжь в вузах пользуется платформой как операционной системой, пояснил он. Они загружают файлы, подключают источники данных и вводят для их обработки «сложные запросы»; более того, они уже «на деле не принимают никаких жизненных решений, не спросив ChatGPT». «Сильно упростим: люди старшего возраста используют ChatGPT как замену Google. Люди в возрасте от 20 до 30 лет используют его как наставника в жизни», — заявил Сэм Альтман.
 
С одной стороны, система, которая решает некоторые жизненные задачи вместо человека, могла бы облегчить ему жизнь. С другой, нельзя сказать наперёд, насколько можно доверять свою жизнь крупной технологической компании: например, Google, которая долгое время позиционировалась как «корпорация добра», уже проиграла не один судебный процесс, в котором её признали виновной в антиконкурентных действиях.

Чат-боты с ИИ могут быть подвержены манипуляциям со стороны своих разработчиков и высказывать предвзятую точку зрения. Иногда ИИ выходит из-под контроля — недавно тот же ChatGPT начал проявлять в отношении пользователей чрезмерно подхалимское поведение, и его очередное обновление пришлось откатить. Наконец, до сих пор не решена проблема с галлюцинациями ИИ, то есть инцидентами, когда чат-бот с уверенностью даёт явно не соответствующие действительности ответы; более того, со временем эта особенность ИИ даже усугубляется.

Персональный шпион/надсмотрщик, иногда страдающий от галлюцинаций, от одной из корпораций "добра"  

[cross-track]

Персональный шпион/надсмотрщик, иногда страдающий от галлюцинаций, от одной из корпораций "добра"  

Хотят конкурировать с базами данных служб безопасности?

[Inti]

Шанхайский стартап Synyi AI открыл в Саудовской Аравии первую в мире клинику , где диагностикой пациентов занимается искусственный интеллект. Этот проект знаменует важный этап в развитии медицины: компьютерные системы начинают заменять врачей на первичном приёме. Что же будет дальше?

Пилотная программа стартовала в апреле в восточном регионе Аль-Ахса при поддержке местной медицинской группы Almoosa Health Group. Виртуальный доктор под именем "Доктор Хуа" самостоятельно проводит консультации, ставит диагнозы и назначает лечение, взаимодействуя с посетителями подобно обычному специалисту.

Весь процесс выглядит следующим образом: пациент описывает симптомы через планшетный компьютер, после чего алгоритм задаёт уточняющие вопросы. При необходимости ассистенты-люди помогают системе получить дополнительные данные — кардиограммы, рентгеновские снимки и другие диагностические изображения. По завершении консультации виртуальный доктор составляет план лечения, который затем проверяет и утверждает дежурный врач, не встречаясь с пациентом лично. Медицинский персонал также находится в клинике для экстренных случаев, с которыми машина справиться не может.

На этапе тестирования перед запуском пилотного проекта погрешность системы составила менее 0,3%. За время работы экспериментальной клиники несколько десятков пациентов уже воспользовались бесплатными консультациями. На данном этапе врач-человек присутствует при каждом приёме, поскольку проект находится в стадии испытаний. Собранные данные о работе алгоритма будут представлены саудовским властям для получения разрешения на коммерческое использование технологии. Руководство компании рассчитывает, что произойдет это в течение полутора лет.

На текущий момент "Доктор Хуа" специализируется на респираторных заболеваниях и способен диагностировать около 30 патологий, включая астму и фарингит. В планах разработчиков — расширить список до 50 болезней, охватывающих гастроэнтерологический профиль и кожные заболевания. В ближайшие месяцы Synyi AI откроет аналогичные медицинские центры в других больницах Саудовской Аравии.

Однако в профессиональном сообществе сохраняется скептическое отношение к возможности полноценной замены врачей искусственным интеллектом в обозримом будущем. Старший консультант сингапурского Национального университетского госпиталя Нгиам Ки Юань, например, отмечает, что даже самые совершенные системы пока не достигают уровня компетенции медика первичного звена.

Хотя Synyi AI — не единственная китайская компания, осваивающая ближневосточный рынок медицинских технологий. Shanghai Fosun Pharmaceutical Group заключила соглашение с саудовской Fakeeh Care Group о развитии клеточной и генной терапии, а также телемедицинской диагностики. Компания XtalPi Holdings, специализирующаяся на разработке лекарств с помощью искусственного интеллекта, создаёт роботизированную лабораторию в Объединённых Арабских Эмиратах.

В самом Китае умные технологии уже активно применяются в онлайн-консультациях, хотя пока выполняют преимущественно вспомогательные функции. Несколько местных компаний разрабатывают инструменты наподобие ChatGPT для самодиагностики, но ни один из них ещё не используется в коммерческих целях. Так, телемедицинский сервис Medlinker представил систему MedGPT, которая, по заявлениям разработчиков, способна распознавать заболевания с человеческой точностью.

Основанная в 2016 году Synyi AI получила финансирование от таких инвесторов, как Tencent, Hongshan Capital, GGV Capital, а также от местных органов власти. За время работы компания сотрудничала с более чем 800 больницами, клиниками и медицинскими колледжами Китая, помогая им управлять данными, ставить диагнозы и проводить исследования. Саудовская Аравия стала первым зарубежным рынком для стартапа.

Конечно, руководство планирует расширить применение технологии и в самом Китае, однако здесь компания сталкивается с особыми экономическими условиями. Государственное финансирование здравоохранения в стране делает медицинские консультации недорогими, поэтому сначала необходимо проверить, будет ли бизнес-модель жизнеспособной в таких условиях. В Саудовской Аравии и других странах с высокой стоимостью медицинских услуг искусственный интеллект может существенно снизить расходы пациентов.

Ну и видео по теме о реальном применении ИИ китайскими врачами
(на английском)

[nonconvex]

На этапе тестирования перед запуском пилотного проекта погрешность системы составила менее 0,3%. За время работы экспериментальной клиники несколько десятков пациентов уже воспользовались бесплатными консультациями. На данном этапе врач-человек присутствует при каждом приёме, поскольку проект находится в стадии испытаний. Собранные данные о работе алгоритма будут представлены саудовским властям для получения разрешения на коммерческое использование технологии. Руководство компании рассчитывает, что произойдет это в течение полутора лет.

Автопилот они уже "внедрили", получилось криво. С медициной будет тоже самое - ИИ + врач, в итоге будет дороже.

[Inti]

На этапе тестирования перед запуском пилотного проекта погрешность системы составила менее 0,3%. За время работы экспериментальной клиники несколько десятков пациентов уже воспользовались бесплатными консультациями. На данном этапе врач-человек присутствует при каждом приёме, поскольку проект находится в стадии испытаний. Собранные данные о работе алгоритма будут представлены саудовским властям для получения разрешения на коммерческое использование технологии. Руководство компании рассчитывает, что произойдет это в течение полутора лет.

Автопилот они уже "внедрили", получилось криво. С медициной будет тоже самое - ИИ + врач, в итоге будет дороже.

Если ИИ+врач будут обслуживать пациентов скорее и качественнее, в итоге будет дешевле.
Автопилоты в Китае очень даже неплохо работают, полно видосов по этой теме, в том числе и такси без водителей по Китаю уже катаются и возят пассажиров.

[nonconvex]

Если ИИ+врач будут обслуживать пациентов скорее и качественнее, в итоге будет дешевле.
Автопилоты в Китае очень даже неплохо работают, полно видосов по этой теме, в том числе и такси без водителей по Китаю уже катаются и возят пассажиров.

Ни скорее не будет, ни дешевле , потому что дипломированный врач по прежнему нужен. Про автопилот я вижу вы все забыли. Перечитайте тему, освежите контекст.

[Inti]

Сегодня были у канадского врача-педиатра, в начале приёма он попросил подписать бумажку что мы разрешаем применение ИИ. Применение оказалось пока что ограниченным, однако врач сказал что это облегчает его работу и помогает уделять больше внимания пациенту. Короче, ИИ подслушивал все наши разговоры, и в конце врач нажал кнопку и ИИ сгенерировал отчёт о приёме который доктора обычно печатают сами. Врач сказал что ИИ как правило генерирует более подробный и лучше структурированный отчёт, который конечно необходимо проверить - но это скорее и легче чем печатать всё самому. Я правда не уловил как был распечатан рецепт на антибиотик, то ли по прежней системе, то ли этот же ИИ его сгенерировал из того что сказал доктор.

[nonconvex]

Сегодня были у канадского врача-педиатра, в начале приёма он попросил подписать бумажку что мы разрешаем применение ИИ. Применение оказалось пока что ограниченным

Так оно и останется. ИИ - штука безусловно полезная, и я ей пользуюсь, но человека не заменит по фундаментальным вычислительным причинам.

[Inti]

Сегодня были у канадского врача-педиатра, в начале приёма он попросил подписать бумажку что мы разрешаем применение ИИ. Применение оказалось пока что ограниченным

Так оно и останется. ИИ - штука безусловно полезная, и я ей пользуюсь, но человека не заменит по фундаментальным вычислительным причинам.

Смотря какого человека. Раньше некоторые доктора наговаривали этот самый отчёт на диктофон и потом секретарша всё это печатала. Секретаршу получается заменили. 

[nonconvex]

Сегодня были у канадского врача-педиатра, в начале приёма он попросил подписать бумажку что мы разрешаем применение ИИ. Применение оказалось пока что ограниченным

Так оно и останется. ИИ - штука безусловно полезная, и я ей пользуюсь, но человека не заменит по фундаментальным вычислительным причинам.

Смотря какого человека. Раньше некоторые доктора наговаривали этот самый отчёт на диктофон и потом секретарша всё это печатала. Секретаршу получается заменили.

секретаршу - да, доктора - нет.

[Inti]

Сегодня были у канадского врача-педиатра, в начале приёма он попросил подписать бумажку что мы разрешаем применение ИИ. Применение оказалось пока что ограниченным

Так оно и останется. ИИ - штука безусловно полезная, и я ей пользуюсь, но человека не заменит по фундаментальным вычислительным причинам.

Смотря какого человека. Раньше некоторые доктора наговаривали этот самый отчёт на диктофон и потом секретарша всё это печатала. Секретаршу получается заменили.

секретаршу - да, доктора - нет.

Не всё сразу.

Кстати, подозреваю что ИИ может быть очень полезен для диагностики заболеваний которые развиваются очень постепенно. Ни один доктор не будет сравнивать и принимать во внимание анализы и прочие данные десятилетней давности, а для ИИ это не составит проблемы, главное дать ему доступ к данным. Сейчас доктор в основном обращает внимание на показатели которые являются явным отклонением от нормы, а ИИ мог бы проанализировать динамику изменения результатов тестов даже если они ПОКА в пределах "нормы" но уже понятно что когда-нибудь выйдут за границы.

[nonconvex]

Не всё сразу.

Уже проходили, с автопилотом.