Опасности и преимущества использования нейросетей и ИИ для человечества - факты и только факты

[Старый]

Робот запрещающий лошадь это был бы высший пилотаж. Круче только робот-кучер восседающий на кОзлах. 

[nonconvex]

Придумать можно всё что угодно, например трагедию робота запрягающего лошадь оглоблей через зад, но на практике современные станки уж как-нибудь помогут избежать таких страхов, не говоря уже о том что их сейчас делают закрытыми со всех сторон.

Оглобля через зад - ваше все. А станки бывают разные. Закрывают обычно всякую мелочь. 

[Inti]

Придумать можно всё что угодно, например трагедию робота запрягающего лошадь оглоблей через зад, но на практике современные станки уж как-нибудь помогут избежать таких страхов, не говоря уже о том что их сейчас делают закрытыми со всех сторон.

Оглобля через зад - ваше все. А станки бывают разные. Закрывают обычно всякую мелочь.

Моего лучшего студенческого друга как-то выперли из университета, и он героически пошёл на завод - откуда его тоже выперли потому что он сломал у какого-то большого станка... станину.... не руками конечно... уронил какую-то тяжёлую железяку с помощью крана   - обошёлся без злого робота вполне 

[Inti]

[nonconvex]

Моего лучшего студенческого друга как-то выперли из университета, и он героически пошёл на завод - откуда его тоже выперли потому что он сломал у какого-то большого станка... станину....

Сдуру можно и ... сломать. 
С кем поведешься, от того и наберешься. 

[Inti]

Моего лучшего студенческого друга как-то выперли из университета, и он героически пошёл на завод - откуда его тоже выперли потому что он сломал у какого-то большого станка... станину....

Сдуру можно и ... сломать.
С кем поведешься, от того и наберешься.

Ну, мы с ним не так уж и долго дружили потому что он репатриировался в Израиль. И там, будучи программистом и админом, он вроде бы ничего больше не ломал. Устраиваться рабочим на завод тому кого даже в армию не брали из-за сильной близорукости - была плохая идея.

[Inti]

Google Translate научился синхронно переводить живую речь на 70 языков в любых наушниках
https://3dnews.ru/1133856/google-translate-nauchilsya-sinhronno-perevodit-givuyu-rech-na-70-yazikov-v-lyubih-naushnikah

[Inti]

Главный научный сотрудник Anthropic Джаред Каплан делает серьезные прогнозы относительно будущего человечества с ИИ.

Выбор за нами, в его представлении. По словам Каплана—, на данный момент наша судьба в основном в наших руках, если только мы не решим передать пресловутую эстафету машинам.

Такая точка быстро приближается, говорит он в новое интервью с Хранитель. Каплан прогнозирует, что к 2030 году или уже к 2027 году человечеству придется решить, стоит ли идти на "крайний риск" и позволять моделям ИИ обучаться самостоятельно. Последовавший за этим "взрыв интеллекта" может поднять технологию на новую высоту, породив так называемый общий искусственный интеллект (AGI), который равен человеческому интеллекту или превосходит его и приносит человечеству пользу благодаря всевозможным научным и медицинским достижениям. Или он может позволить силе ИИ выйти из-под нашего контроля, оставив нас во власти его прихотей.

"Это звучит как какой-то пугающий процесс, - сказал он газете." "Ты не знаешь, где окажешься."

Каплан — один из многих видных деятелей в области искусственного интеллекта, предупреждающих о потенциально катастрофических последствиях этой области. Джеффри Хинтон, один из трех так называемых крестных отцов ИИ, как известно, заявил, что сожалеет о деле своей жизни, и часто предупреждал о том, как ИИ может перевернуть или даже разрушить общество. . OpenAI Сэм Альтман прогнозирует, что ИИ это сделает - уничтожит целые категории труда.

Руководитель Каплана, генеральный директор Дарио Амодеи, недавно предупредил ИИ может занять более половины всех рабочих мест начального уровня и обвинил своих конкурентов в "приукрашивании" того, насколько сильно ИИ разрушит общество.

Похоже, Каплан согласен с оценкой работы своего босса. По его словам в интервью, ИИ сможет выполнять "большую часть работы «белых воротничков»" через два-три года. И хотя он настроен оптимистично и считает, что мы сможем поддерживать соответствие ИИ интересам человека, его также беспокоит перспектива позволить мощному ИИ обучать другие ИИ, а это "чрезвычайно важное решение" нам придется принять в ближайшем будущем.

"Это то, что мы считаем, возможно, самым важным решением или самым страшным поступком... если в процессе никто не участвует, вы на самом деле не знаете," сказал он . "Во-первых, теряете ли вы над этим контроль? Вы вообще знаете, что делают ИИ?"

В определенной степени более крупные модели ИИ уже используются для обучения более мелких моделей ИИ в процессе, называемом дистилляцией, который позволяет меньшему ИИ по сути догнать своего более крупного учителя. Однако Каплана беспокоит так называемое рекурсивное самосовершенствование, при котором ИИ обучаются без вмешательства человека и существенно расширяют свои возможности.

Позволим ли мы этому случиться, сводится к некоторым тяжелым философским вопросам о технологиях.

"Главный вопрос: полезны ли ИИ для человечества?" сказал Каплан. "Полезны ли они? Будут ли они безвредны? Понимают ли они людей? Позволят ли они людям продолжать иметь свободу действий в своей жизни и в мире?"

[Inti]