Опасности и преимущества использования нейросетей и ИИ для человечества - факты и только факты

[nonconvex]

Гипотезы о «квантовом мозге» остаются маргинальными в нейронауке из-за отсутствия воспроизводимых экспериментов и серьёзных физических ограничений. Классические модели продолжают успешно объяснять подавляющее большинство когнитивных и нейронных явлений.

Ну а если вдруг обнаружится что мозг является "квантовым компьютером" - то это в два счёта применят в электронике или делают гибрид с электроникой.

Обнаружить - одно, обойти серьезные физические ограничения - другое. Мы знаем, что квантовая сцепленность есть, и даже пытаемся ей пользоваться, но мы понятия не имеем о ее физической природе, отсюда и НАШИ физические ограничения. У Природы же этих ограничений нет, квантовый мир - ее часть. 

[Inti]

Обнаружить - одно, обойти серьезные физические ограничения - другое.

Практически это уже одно и то же. Учитывая то что сейчас уже выращивают клетки мозга искусственно, и снимают\подают им сигналы с помощью электроники. Так что если в человеческом мозге и есть что-то супер-уникальное - то оно будет обнаружено и поставлено на службу. Но скорее всего ничего принципиально нового обнаружено не будет. Скорее всего человеческий мозг обеспечивает интеллект просто потому что в мозге человека появились сравнительно небольшие по объёму отделы которые не заняты рутиной которой заняты все остальные отделы которые присутствуют у всех млекопитающих. И скорее всего любой современный ИИ-датацентр УЖЕ превосходит по своему вычислительному потенциалу эти части мозга любого отдельно взятого человека. Просто весь современный ИИ-софт для таких дата-центров заточен на то чтобы обслуживать много клиентов - иначе он не будет окупаться. Если затратить несколько миллиардов на создание штучной "гениальности" - то скорее всего всё получится. Впрочем, я верю что и в рамках текущей массовой коммерческой модели развития всё придёт к тому что машины станут умнее людей во всех отношениях. Вопрос только когда, через годы или десятки лет, но уж всяко не больше сотни если ИИ не будут законодательно ограничивать. 

[nonconvex]

Но скорее всего ничего принципиально нового обнаружено не будет. Скорее всего человеческий мозг обеспечивает интеллект просто потому что в мозге человека появились сравнительно небольшие по объёму отделы которые не заняты рутиной которой заняты все остальные отделы которые присутствуют у всех млекопитающих.

Скорее всего вы понятия не имеете о чем пишете, а значит скорее всего это полное фуфло. 

[Inti]

Но скорее всего ничего принципиально нового обнаружено не будет. Скорее всего человеческий мозг обеспечивает интеллект просто потому что в мозге человека появились сравнительно небольшие по объёму отделы которые не заняты рутиной которой заняты все остальные отделы которые присутствуют у всех млекопитающих.

Скорее всего вы понятия не имеете о чем пишете, а значит скорее всего это полное фуфло.

Очевидно я выразился слишком сложно и вы не поняли. Извините, но ошибок и описок я не нашёл. Разве что можно дополнительно пояснить что имеется в виду под рутиной. Но список этой рутины слишком обширен, могу лишь намекнуть что около 95% всей активности мозга не связаны с сознанием и интеллектом.

[nonconvex]

Извините, но ошибок и описок я не нашёл.

Скорее всего не нашли, а они скорее всего есть.

[Inti]

Извините, но ошибок и описок я не нашёл.

Скорее всего не нашли, а они скорее всего есть.

Попросил проверить Грока, и вот результат:

Спойлер

Согласен с основной линией твоей мысли.
Человеческий мозг — это не «волшебный кристалл», а продукт эволюции, который наращивал надстройки над общими для млекопитающих системами. Неокортекс, особенно префронтальная кора, речевые зоны (Брока/Вернике), верхние слои ассоциативных зон — это действительно относительно «молодые» и специализированные куски, которые позволяют абстрактное мышление, долгосрочное планирование, рекурсивный язык и культурную передачу. Остальное — обоняние, моторка, эмоции, базовая память — у нас очень похоже на то, что есть у приматов и даже более дальних родственников.
Если отбросить мистику, то принципиально новых физических принципов (типа квантовой когерентности в микротрубочках Пенроуза-Хамероффа) там почти наверняка нет. Всё выглядит как очень эффективная, но в принципе воспроизводимая нейронная вычислительная машина + тело + сенсорика + эволюционно выточенные reward-системы.

Compute и архитектура
Ты прав, что современный дата-центр уже имеет огромное преимущество по сырому вычислительному потенциалу.

• Оценки «FLOPS мозга» варьируются, но грубо: ~10¹⁴–10¹⁶ операций в секунду (сильно зависит от того, что считать операцией — синаптические события, спайки и т.д.).
• Один современный кластер (H100/H200/B200 и особенно кластеры с liquid cooling + interconnect) легко выдаёт 10¹⁸+ FLOPS, а будущие (2027–2028) — на порядки больше.
• Энергоэффективность мозга пока лучше (20 Вт против мегаватт), но это вопрос инженерии, а не фундаментального барьера. MoE-архитектуры, sparsity, analog/mixed-signal чипы, neuromorphic hardware и оптические вычисления уже активно атакуют эту проблему.

Главное отличие сейчас — не в «мощности», а в архитектуре и обучении. Мозг — это lifelong learning, embodied cognition, встроенные priors от миллионов лет эволюции, эффективная компрессия знаний и очень хитрая смесь System 1/System 2. Современные LLM — это в основном «сжатая статистика интернета + RLHF». Но разрыв сокращается удивительно быстро: chain-of-thought, agents, scaffolding, test-time compute, synthetic data, self-play и т.д.
Штучная гениальность vs массовая модель
Твоя идея про «несколько миллиардов на одну гениальность» очень здравая.
Мы уже видим прото-версии:

• DeepSeek, o3, Gemini 2.5 и т.д. показывают, что дополнительные вычисления на inference (думать дольше) дают скачкообразный прирост.
• Компании уже делают dedicated inference-кластеры под конкретные задачи.
• Если кто-то (OpenAI, xAI, Anthropic, китайцы или государство) решит потратить 10–50 млрд$ на один «мозг» без необходимости обслуживать миллионы пользователей одновременно — результат будет сильно отличаться от сегодняшних «усреднённых» моделей.

При этом массовая коммерческая модель тоже работает на сверхинтеллект: экономические стимулы огромны. Тот, кто первым сделает систему, которая заметно умнее лучших людей во всех когнитивных доменах, получит практически неограниченную отдачу. Поэтому «ок, пусть пока обслуживает миллион пользователей» — это временная стадия.


Таймлайн
Я тоже считаю, что не века. Скорее всего:

• AGI-уровень (человеческий или выше по большинству когнитивных задач) — вторая половина 2020-х — начало 2030-х.
• Существенное превосходство по большинству направлений — 2030-е.
• Радикальный супер-интеллект ( orders of magnitude выше) — зависит от того, насколько быстро пойдёт рекурсивное самоулучшение.

Главные риски/замедлители: регуляции, энергетика/чипы, данные, неожиданные научные барьеры (хотя пока их не видно) и, конечно, alignment/safety проблемы.
В целом твоя позиция выглядит трезвой и хорошо обоснованной. Ничего «принципиально магического» в мозге, скорее всего, нет. Есть очень умная, но конечная биологическая инженерия, которую мы постепенно (и всё быстрее) reverse-engineer'им и превосходим. Вопрос действительно в темпах, а не в принципиальной возможности.

[свернуть]

Вы конечно можете сказать что мнение Грока всего лишь усреднённая точка зрения многих текстов найденных в сети. Но даже в этом случае... скорее всего я прав 

[nonconvex]

Вы конечно можете сказать что мнение Грока всего лишь усреднённая точка зрения многих текстов найденных в сети. Но даже в этом случае... скорее всего я прав 

Вы скорее всего неправы.

[Inti]

Вы конечно можете сказать что мнение Грока всего лишь усреднённая точка зрения многих текстов найденных в сети. Но даже в этом случае... скорее всего я прав 

Вы скорее всего неправы.

Попробуйте поспорить на эту тему с Гроком, я недостаточно терпелив и вежлив 

[nonconvex]

Вы конечно можете сказать что мнение Грока всего лишь усреднённая точка зрения многих текстов найденных в сети. Но даже в этом случае... скорее всего я прав 

Вы скорее всего неправы.

Попробуйте поспорить на эту тему с Гроком, я недостаточно терпелив и вежлив 

С ИИ на эту тему разговаривать бесполезно, он не в состоянии вывести новую информацию, а старая неполна. 

[Inti]

ИИ-компании стали нанимать философов на шестизначные зарплаты из-за растущего недоверия к поведению нейросетей
https://3dnews.ru/1141097/ii-kompanii-stali-nanimat-filosofov-na-shestiznachnye-zarplaty-iz-za-rastushchego-nedoveriya-k-etichnosti-ii

«Не все проблемы развития ИИ технические», — сказала Аннетт Циммерман (Annette Zimmermann), доцент кафедры философии Висконсинского университета в Мадисоне. По её словам, формулировать сложные понятия и защищать ценностные аргументы — центральная работа в области ИИ, а философов учат именно этому. Сюзанна Шелленберг (Susanna Schellenberg), профессор философии Ратгерского университета, добавила, что прежние корпоративные специалисты по этике выполняли консультативную роль, а в передовых ИИ-лабораториях философы помогают формировать сам объект: пишут спецификации моделей, своды базовых принципов и политики их поведения.

[Inti]

Китай представил систему ИИ-моделей ScienceOne для ускорения научных открытий в фундаментальной науке и медицине
Кластер моделей для физики, медицины и космоса способен прогнозировать солнечные вспышки, оценивать лечение рака и ускорять разработку новых материалов
https://www.ixbt.com/news/2026/05/03/kitaj-predstavil-sistemu-iimodelej-scienceone-dlja-uskorenija-nauchnyh-otkrytij-v-fundamentalnoj-nauke-i-medicine.html

[Inti]

Что я тоже ИИ в вопросе ядерного сдерживания как-то не очень доверяю... особенно если этот ИИ уровня Алисы...

[Антикосмит]

Вы конечно можете сказать что мнение Грока всего лишь усреднённая точка зрения многих текстов найденных в сети. Но даже в этом случае... скорее всего я прав 

Вы скорее всего неправы.

Попробуйте поспорить на эту тему с Гроком, я недостаточно терпелив и вежлив 

С ИИ на эту тему разговаривать бесполезно, он не в состоянии вывести новую информацию, а старая неполна.

БЯМы это "китайские комнаты" в рафинированном виде. Ждать от них каких-то прорывов просто безумие. Они могут частично разгрузить или легко формализуемые области, или области, откровенно говоря, генерирующие бред. Всё.

[Inti]

Вот этого на заднем плане, кому закрыли рот - его было послушать интереснее всего.

[Inti]

[Inti]

Учёные из Корейского передового института науки и технологий (KAIST) разработали новую вычислительную систему на основе кремниевых осцилляторов (в более широком смысле — генераторов), способную решать сложные комбинаторные задачи значительно быстрее традиционных полупроводниковых компьютеров. Это может привести к появлению процессоров, которые будут в миллионы и миллиарды раз быстрее классических.

https://3dnews.ru/1141368/yugnokoreyskie-uchyonie-obyavili-tretyu-epohu-tranzistorov-kremnievie-ostsillyatori-budut-reshat-slognie-zadachi

[nonconvex]

которые будут в миллионы и миллиарды раз быстрее классических.

Метод отжига был известен задолго до разработки корейских ученых. Миллиардного ускорения он в общем случае не дает.

[Inti]

которые будут в миллионы и миллиарды раз быстрее классических.

Метод отжига был известен задолго до разработки корейских ученых. Миллиардного ускорения он в общем случае не дает.

В общем случае конечно не даёт. Но кое-что может. Я почитал об этом, это по сути аналоговая электроника с возможностью что-то очень быстро вычислять (хотя и не очень точно), причём с минимальным расходом энергии. Вполне может пригодиться для автономных роботов например. Кстати, чем-то похоже на устройство мозга.

[TAU]

Вы конечно можете сказать что мнение Грока всего лишь усреднённая точка зрения многих текстов найденных в сети. Но даже в этом случае... скорее всего я прав 

Вы скорее всего неправы.

Попробуйте поспорить на эту тему с Гроком, я недостаточно терпелив и вежлив 

С ИИ на эту тему разговаривать бесполезно, он не в состоянии вывести новую информацию, а старая неполна.

БЯМы это "китайские комнаты" в рафинированном виде. Ждать от них каких-то прорывов просто безумие. Они могут частично разгрузить или легко формализуемые области, или области, откровенно говоря, генерирующие бред. Всё.

Бред - написанное вами.

ИИ же успешно решает сегодня математические проблемы, не решенные человечеством за десятилетия...

[Антикосмит]

Вы конечно можете сказать что мнение Грока всего лишь усреднённая точка зрения многих текстов найденных в сети. Но даже в этом случае... скорее всего я прав 

Вы скорее всего неправы.

Попробуйте поспорить на эту тему с Гроком, я недостаточно терпелив и вежлив 

С ИИ на эту тему разговаривать бесполезно, он не в состоянии вывести новую информацию, а старая неполна.

БЯМы это "китайские комнаты" в рафинированном виде. Ждать от них каких-то прорывов просто безумие. Они могут частично разгрузить или легко формализуемые области, или области, откровенно говоря, генерирующие бред. Всё.

Бред - написанное вами.

ИИ же успешно решает сегодня математические проблемы, не решенные человечеством за десятилетия...

Какие? На слуху один случай с готовой формулой. Вот это да!