Опасности и преимущества использования нейросетей и ИИ для человечества - факты и только факты

[nonconvex]

Родить можно, синтезировать нельзя, знаний недостаточно.

естественно, былобы достаточно давноб сделали, нельзя сейчас не значит невозможно.

В практическом смысле разницы нет. Если сможете - Маск будет у вас на посылках.

[Inti]

[Inti]

 ChatGPT-4 реально интересен стал, в этом видео примеры того как он общается голосом

Спойлер

[свернуть]

Можете установить апп Microsoft Copilot и пользоваться. Можно переключить на русский язык в настройках, и тогда он будет понимать вопросы и отвечать и по-русски и по-английски. 
Или в браузере - https://copilot.microsoft.com/

[Inti]

В этом видео мужик рассказывает о том что в Китае создан фотонный аналоговый чип для ИИ который на некоторых задачах обгоняет NVIDIA чип A100 в 3000 раз. 
К сожалению яндекс-перевод работает неправильно и переводит как в 3 раза. 

Спойлер

[свернуть]

Энергопотребление по сравнению с обычными чипами для ИИ практически нулевое. Для фабрикации подходит 100нм технология, т.е. не обязательно использовать новейшие процессы.

Не думаю что прям в следующем году фотонные чипы появятся в смартфонах, но когда появятся то как бы смартфоны не стали умнее 90% людей.

[nonconvex]

Не думаю что прям в следующем году фотонные чипы появятся в смартфонах, но когда появятся то как бы смартфоны не стали умнее 90% людей.

Умность не определяется скоростью перемножения  матриц.

[Inti]

Не думаю что прям в следующем году фотонные чипы появятся в смартфонах, но когда появятся то как бы смартфоны не стали умнее 90% людей.

Умность не определяется скоростью перемножения  матриц.

Большинство людей в своей жизни не создают и не придумывают ничего принципиально нового. Они просто используют знания созданные за последние несколько веков существования письменности, и максимум немножко комбинируют уже существующие знания и умения. Результат зависит 1) от объёма знаний 2) от способности их комбинировать

По первому пункту ИИ уже намного опережает любого человека. По второму пункту пока нет, не любого а только нижние процентов 10 самых тупых. Но! Я знал в своей жизни одного тупого но упорного человека который разработал свою память настолько что в большинстве случаев сходил за умного. Студенческие экзамены он сдавал на отлично просто потому что вопросы в билетах и ответы на них берутся их каких-то учебников. А этот парниша перечитал и запомнил ВСЕ учебники. Он просто не вылазил из библиотеки пока все остальные студенты упражнялись в остроумии, играли на гитарах, гуляли с девушками и т.д. В итоге в конце обучения он оказался отличником и его послали в аспирантуру в Москву. Но он был реально тупой в том смысле что для него было ОЧЕНЬ трудно комбинировать знания во что-то относительно новое. Он просто компенсировал этот дефект мозга объёмом заготовок, ну и научился избегать ситуаций когда надо было проявлять самостоятельное мышление. Уже на 5-м курсе те кто встречал его первый раз восхищались его умом. Хотя бывали и проколы. Но редко.
Так вот, сегодня ответ ИИ генерятся по тому же принципу - да, я тупой но очень много знаю. В итоге, для большинства практических задач - получается неплохой результат. Плюс эта дрянь учится ничего не забывая.

Я сегодня утром спросил голосом телефонный апп Copilot сколько лет и месяцев моему ребёнку если он родился тогда-то. Ответ был полностью бредовым. Спросил свой возраст - тоже бред, причём с подробностями как он был вычислен. Я нажал палец вниз и Копайлот спросил что не так, и я просто написал правильный ответ без подробностей. Сегодня вечером я задал ему через броузер те же вопросы в текстовом виде - и ответы были уже правильными. Подумал, может дело в том что утром задавал вопросы голосом? Попробовал опять телефонный апп с голосом - и ответы уже были правильные. И думаю что теперь эти ответы будут ВСЕГДА правильные, он просто научился и никогда этого не забудет. И так будет со всеми темами. Ответит бред, кто-то даст правильный ответ, он его запомнит, и даже сможет использовать для проверки способа получения ответа. Учитывая то что он получает каждый день тысячи таких подсказок - определить дурацкую сущность ИИ скоро будет крайне непросто. А лет через 10 - практически невозможно для подавляющего большинства людей.

Вспомнил. Один мой знакомый недавно спросил сколько ног у лошади. Ответ был: две задних, две передних, две левых, две правых, итого восемь. Сегодня ответ четыре. Ясен пень что имеем дело с кретином. Но, он способен запоминать правильные ответы. И знает этих ответов больше любого человека. В итоге сойдёт за умного в подавляющем большинстве случаев.

[Inti]

Искусственный интеллект сможет следить за нарушением правопорядка на улицах в семи регионах России. Российская компания NtechLab, занимающаяся видеоаналитикой на основе искусственного интеллекта, разработала сервис, который сможет самостоятельно поддерживать порядок и предупреждать горожан о мелких правонарушениях, рассказал ТАСС ее гендиректор Алексей Паламарчук.
https://tass.ru/ekonomika/20874217

[ShamgA]

... Ясен пень что имеем дело с кретином. Но, он способен запоминать правильные ответы. И знает этих ответов больше любого человека. В итоге сойдёт за умного в подавляющем большинстве случаев.

Вопрос: кто поправляет и даёт «правильные» ответы? Так-то ~30% (по опросам) не ответят что вокруг чего вращается Земля или Солнце. С такими учителями...

[nonconvex]

Не думаю что прям в следующем году фотонные чипы появятся в смартфонах, но когда появятся то как бы смартфоны не стали умнее 90% людей.

Умность не определяется скоростью перемножения  матриц.

Большинство людей в своей жизни не создают и не придумывают ничего принципиально нового. Они просто используют знания созданные за последние несколько веков существования письменности, и максимум немножко комбинируют уже существующие знания и умения.

Полная чепуха. ВСЕ люди, с момента своего рождения непрерывно придумывают что-то новое, в рамках своих собственных знаний. Именно этим они принципиально отличаются а) от дискриминантного ИИ, который ищет то, чему его обучили и б) генеративного, который подбирает подходящий ответ к началу фразы, т.е. комбинируя.

[Inti]

... Ясен пень что имеем дело с кретином. Но, он способен запоминать правильные ответы. И знает этих ответов больше любого человека. В итоге сойдёт за умного в подавляющем большинстве случаев.

Вопрос: кто поправляет и даёт «правильные» ответы? Так-то ~30% (по опросам) не ответят что вокруг чего вращается Земля или Солнце. С такими учителями...

Если человек в чём-то не разбирается - то чего ради он вообще будет что-то подсказывать ИИ? Большинство подсказок всяко будут правильными.

[Inti]

ВСЕ люди, с момента своего рождения непрерывно придумывают что-то новое, в рамках своих собственных знаний.

Позвольте с этим не согласиться. Даже Маугли, чтобы вести себя как обезьяна, был обучен обезьянами. Человек который вырастет в полном одиночестве, обученный лишь кушать и испражняться, вообще не вырастет нормальным. Все дети начинают с того что копируют взрослых, и большинство взрослых тоже плывут по жизни просто копируя окружающих и делая то что описывается в книгах и интернетах. Даже большинство учёных в общем-то никаких неожиданных открытий нынче не делает. Тех кто додумывается до чего-то прорывного крайне мало в процентном отношении ко всему населению, их называют гениями и изобретателями, но их реально очень мало. Спасает то что людей миллиарды, что-то новое двигают буквально единицы, а другие потом опять же копируют.
Сможет ли ИИ стать одним из великих оригинальных умов - пока что неизвестно. Но то что он сможет копировать лучше любого человека - уже сейчас понятно.

[ShamgA]

Если человек в чём-то не разбирается - то чего ради он вообще будет что-то подсказывать ИИ? Большинство подсказок всяко будут правильными.

Те кто меньше разбирается, как правило, самые активные обьясняльщики и раздавальщики советов. Кого останавливало от поучений полное незнание предмета?

[nonconvex]

Но то что он сможет копировать лучше любого человека - уже сейчас понятно.

Откуда понятно? Водителя он скопировать не может. Когда сможет?

[Inti]

Но то что он сможет копировать лучше любого человека - уже сейчас понятно.

Откуда понятно? Водителя он скопировать не может. Когда сможет?

Лет через 5-10-15 - точно сможет. Я так думаю. Хотя в среднем по безопасности вождения - автопилот Теслы уже наверное где-то на уровне человека.

[nonconvex]

Но то что он сможет копировать лучше любого человека - уже сейчас понятно.

Откуда понятно? Водителя он скопировать не может. Когда сможет?

Лет через 5-10-15 - точно сможет. Я так думаю.

Вот и Гугл так думал, лет 15-10-5 назад, и Маск.

С тех пор NP-полные задачи так и остались NP-полными, и будут такими до тех пор, пока человек не выйдет в N-мерное пространство, хотя бы в объеме квантового компьютера.

[cross-track]

Но то что он сможет копировать лучше любого человека - уже сейчас понятно.

Откуда понятно? Водителя он скопировать не может. Когда сможет?

Футбольная формула "Порядок бьет класс" хорошо объясняет нынешнее положение, когда аварийность с использованием автопилотов (даже частичное) намного ниже, чем вождение человеческое.

[Inti]

Но то что он сможет копировать лучше любого человека - уже сейчас понятно.

Откуда понятно? Водителя он скопировать не может. Когда сможет?

Лет через 5-10-15 - точно сможет. Я так думаю.

Вот и Гугл так думал, лет 15-10-5 назад, и Маск.

Я просто как-то не особо верю в нематериальную природу человеческого мозга. Мне кажется что наши мозги тоже в общем-то сложные био-химические-электрические машины, причём непосредственно за интеллект отвечает относительно небольшая часть мозга с конечным числом нейронов и связей между ними.

Рано или поздно будет создан искусственный мозг, в крайнем случае на основе модели человеческого, хотя то что сейчас происходит с ИИ даёт надежду и на другие варианты, более доступные для современных микроэлектронных технологий.

Также на подходе фотонная и аналоговая электроника (конкретно для ИИ) у которой может быть на порядки меньшее энергопотребление, что даст возможность паковать элементы в объёмы а не просто в один или несколько слоёв.

В общем, тупика развития пока не видно. Пока что видно что ИИ развивается примерно со скоростью новорожденного ребёнка. Дети тоже поначалу не понимают многие вещи, делают ошибки, устраивают аварии, говорят белиберду, им нельзя доверять вождение машины - но они постепенно учатся и умнеют. 

Ну а почему раньше не получалось с ИИ? Да хотя бы потому что он был в таком зародыше что не было видно коммерческой выгоды. Сейчас ИИ дорос до того что способен приносить реальные доходы, в него стали вкладывать миллиарды, идёт соревнование между США и китайцами, в общем-то понятно что все эти инвестиции в конце-концов дадут плоды. 

Уже не будет такого что типа "опять не получилось, все расходимся". Потому что ИИ уже работает для многих задач, он повышает производительность труда, Микрософт уже его продаёт вместе с Офисом, и получает с этого доход. Значит будет ускоренное развитие. Пока что тупика не видно, наоборот идёт заметное улучшение. Может через несколько лет упрутся в какую-нибудь стену. Но пока что идут вперёд. Будем смотреть.  

[sychbird]

Главное заблуждение по моему заключено в том что у всех людей мозги работают в целом одинаково в своей основе. 
А это далеко не так, ИМХО. Экстраординарные способности у некоторых представителей как в области памяти, так и в области вычислительных возможностей или иных особенностей чувства зрения, обоняния, слуха указывают, что мозговые функции могут реализовываться и некоторыми иными способами, чем у большинства. 
Супер-таланты вряд ли объясняются редкими аномалиями на хвостах среднестатистического нормального распределения.
По этому развитие ИИ надо вести в специализированных областях, а не вообще. Надо развивать "таланты" ИИ в узких областях. 

[Inti]

Надо развивать "таланты" ИИ в узких областях. 

Это тоже делается, просто специализированные экспертные системы не так сильно интересны народным массам    Ясен пень что скажем медицинский ИИ нужно тренировать на специализированных ресурсах а не на научной фантастике и политических новостях. Кстати, вот абсолютно уверен что ИИ в качестве помощника врачей будет ну просто потрясающе полезен - особенно для тех пациентов которых лечить никто особо и не хочет - т.е. для простых людей. Хотя бы потому что ИИ сможет уделить гораздо больше времени пациенту, задать гораздо больше вопросов и получить гораздо больше ответов. 
Да собственно в России уже внедряется - https://sbermed.ai/our-algorithms/top-3

[nonconvex]

Но то что он сможет копировать лучше любого человека - уже сейчас понятно.

Откуда понятно? Водителя он скопировать не может. Когда сможет?

Футбольная формула "Порядок бьет класс" хорошо объясняет нынешнее положение, когда аварийность с использованием автопилотов (даже частичное) намного ниже, чем вождение человеческое.

Аварийность с использованием ADAS (автопилота уровня 2) действительно ниже, из чего совершенно не следует что ADAS копирует человека.