Опасности и преимущества использования нейросетей и ИИ для человечества - факты и только факты

[Inti]

"Gangster rap classics, reborn in soul & blues." - на этом канале переделанные в стиле соул и блюз (с помощью ИИ) рэп-песни 

 

- человек так спеть вообще не сможет т.к. не хватит дыхания. Но если не обращать на эту мелочь внимания - то исполнение великолепное в этом стиле.

Нашёл этого "исполнителя" по наводке Рогана который недавно пригласил на разговор Маска. Они там много чего обсуждали - в том числе и сгенерированную ИИ музыку. Вот ссылка на этот разговор:

[Inti]

ЧатЖПТ:

Вот перевод вопросов и ответов Илона Маска на собрании акционеров. Я перевёл всё максимально близко к оригиналу, сохраняя его стиль — немного неформальный, но логичный и живой.
Вопрос:

Видите ли вы путь, при котором у робота Optimus может появиться сознание — например, если загрузить в него человеческое сознание?

Элон Маск:

Вы имеете в виду человеческое сознание? — Да?
 Ну, это не то, что можно сделать прямо сейчас, но если говорить о будущем — да, думаю, в какой-то момент это станет возможно.
Допустим, с помощью Neuralink можно будет сделать «снимок» человеческого разума — или хотя бы приближённую копию — и затем загрузить этот образ в тело робота Optimus. Думаю, такая технология появится, вероятно, менее чем через 20 лет.
Конечно, вы не будете в точности тем же самым человеком — немного изменитесь. Ведь вы будете существовать в теле робота, а «ментальный снимок» не будет абсолютно точным, лишь довольно близким к оригиналу.
С другой стороны, ведь и вы сами не тот же человек, что пять лет назад, правда? Многое изменилось.
Так что, да, думаю, если кто-то захочет «загрузить себя» в тело робота — это, вероятно, станет возможным.

Следующий вопрос:

Привет, Илон. Идея космического дата-центра мне очень нравится, я с ней полностью согласен. Но хотел бы узнать ваше мнение о космической солнечной энергетике — о передаче микроволновой энергии с орбиты на Землю, чтобы направлять её туда, где она нужна, без линий передачи и с более высокой плотностью энергии. Как вы к этому относитесь?

Элон Маск:

До появления таких систем, как Starship, космическая солнечная энергетика не имела смысла. Стоимость вывода груза на орбиту была настолько огромной, что о реальном применении говорить не приходилось.
Но теперь, со Starship, я вижу путь, при котором стоимость вывода одного тонно-километра в космос станет ниже, чем авиаперевозки.
Например, если взять грузовой самолёт вроде Boeing 747 и отправить его с грузом из Техаса в Сидней, я думаю, в будущем Starship сможет сделать тот же рейс дешевле — в расчёте на тонну.
А это открывает колоссальные возможности.
Наиболее очевидная из них, как мне кажется, — солнечные спутники с искусственным интеллектом, то есть перенос вычислений и ИИ в орбитальное пространство, а затем и в глубокий космос.
Там можно использовать во много миллиардов раз больше солнечной энергии, чем доступно на Земле.
Если говорить о цивилизации, которая хотела бы хотя бы немного продвинуться к второму уровню по шкале Кардашева (то есть использовать заметную часть энергии звезды), то без космической солнечной энергетики это просто невозможно.
Конечно, только небольшую часть этой энергии можно будет передавать обратно на Землю — иначе мы просто расплавим планету.
Ведь Земля получает ничтожную долю энергии Солнца. Мы — всего лишь крошечная пылинка. Если сравнить масштабами, Земля по отношению к Солнцу — как крошка хлеба.
Поэтому, если мы хотим, чтобы цивилизация хотя бы в малейшей степени была «заметной» по шкале Кардашева, — даже чтобы использовать миллионную долю процента солнечной энергии, — нам придётся добывать энергию в глубоком космосе.
И, конечно, небольшую часть можно будет передавать обратно на Землю — но только очень малую, чтобы не расплавить её.

[Inti]

Вопрос из зала:

Привет, Илон. Меня очень вдохновляет то, о чём вы говорите — о будущем устойчивого изобилия. Вы уже спасаете множество жизней с помощью FSD, но количество жизней, которые будут спасены и улучшены благодаря вашему видению будущего, действительно впечатляет.
Но сегодня вы упомянули, что в мире без дефицита роль денег может уменьшиться или вообще исчезнуть, ведь большая часть власти сегодня, включая вашу, связана с богатством.
Как вы думаете, достижение такого изобилия потребует ли того, чтобы влиятельные люди добровольно отказались от своей власти? И как можно преодолеть сопротивление тех, кто этой властью обладает, чтобы воплотить ваше видение в реальность?

Элон Маск:

Думаю, если смотреть в долгосрочной перспективе, искусственный интеллект всё равно будет «во главе» — если говорить откровенно, а не люди. 
Если искусственный интеллект будет обладать совокупным интеллектом, значительно превосходящим человеческий, трудно представить, что власть останется за людьми.
Поэтому самое важное — убедиться, что этот ИИ будет дружелюбным. Да.

[nonconvex]

Элон Маск:

Думаю, если смотреть в долгосрочной перспективе, искусственный интеллект всё равно будет «во главе» — если говорить откровенно, а не люди.

Ага, через сто лет, а триллион бакинских давайте прямо сейчас. Автономный автопилот (FSD) где?

[cross-track]

Элон Маск:

Думаю, если смотреть в долгосрочной перспективе, искусственный интеллект всё равно будет «во главе» — если говорить откровенно, а не люди.

Ага, через сто лет, а триллион бакинских давайте прямо сейчас. Автономный автопилот (FSD) где?

Какой автопилот?! Речь идет о 10 миллиардах Оптимусов, а вы про какой-то автопилот!

[nonconvex]

Элон Маск:

Думаю, если смотреть в долгосрочной перспективе, искусственный интеллект всё равно будет «во главе» — если говорить откровенно, а не люди.

Ага, через сто лет, а триллион бакинских давайте прямо сейчас. Автономный автопилот (FSD) где?

Какой автопилот?! Речь идет о 10 миллиардах Оптимусов, а вы про какой-то автопилот!

Какая разница, один говорящий ишак или 10 миллиардов говорящих ишаков, если через сто лет, а деньги сейчас?

[Inti]

Какая разница, один говорящий ишак или 10 миллиардов говорящих ишаков, если через сто лет, а деньги сейчас?

Вообще-то не сейчас, так кажись 12 условий которые должны быть под руководством Маска выполнены - и в течение 10 лет.

Автономный автопилот (FSD) где?

Уже в каждой новой Тесле. Регуляторы могут упираться сколько угодно - но статистика происшествий и смертей не позволит им это делать вечно. Тем более что уже есть Waimo которой УЖЕ выдали разрешение на автономную езду.

[nonconvex]

Какая разница, один говорящий ишак или 10 миллиардов говорящих ишаков, если через сто лет, а деньги сейчас?

Вообще-то не сейчас, так кажись 12 условий которые должны быть под руководством Маска выполнены - и в течение 10 лет.

Автономный автопилот (FSD) где?

Уже в каждой новой Тесле. 

Вам не надоело сочинять сказки? Сходите на трубу, там демонстрируют проезды автопилота на красный и прочие закидоны. 

[Inti]

Какая разница, один говорящий ишак или 10 миллиардов говорящих ишаков, если через сто лет, а деньги сейчас?

Вообще-то не сейчас, так кажись 12 условий которые должны быть под руководством Маска выполнены - и в течение 10 лет.

Автономный автопилот (FSD) где?

Уже в каждой новой Тесле.

Вам не надоело сочинять сказки? Сходите на трубу, там демонстрируют проезды автопилота на красный и прочие закидоны.

В интернете можно найти что угодно. Важнее другое - косяков у автопилота больше или меньше чем у среднего водителя. Сама Тесла уверяет что автопилот уже в примерно в 10 раз безопаснее среднего водителя. Даже если сделать всевозможные поправки и скидки - всё равно ведь получится что автопилот УЖЕ не хуже среднего водителя.

[nonconvex]

Сама Тесла уверяет что автопилот уже в примерно в 10 раз безопаснее среднего водителя.

Однозначно врут, или подтасовывают. Меня не интересует средний, меня интересует моя машина, чтобы она не ехала на красный и не таранила спецмашины. Не в среднем, а качественно, так же как это делаю я. Это вы инвесторам Теслы можете втирать, что "уже и скоро", я в их число не вхожу из принципиальных соображений.

[Inti]

Меня не интересует средний, меня интересует моя машина, чтобы она не ехала на красный и не таранила спецмашины. Не в среднем, а качественно, так же как это делаю я.

Этого специально не делает никто. Ну почти. У любого за рулём может случиться инсульт или сердечный приступ, у многих бывают ситуации когда отвлекает ребёнок или жена, или не выспался но на работу ехать надо и т.д.

[nonconvex]

Меня не интересует средний, меня интересует моя машина, чтобы она не ехала на красный и не таранила спецмашины. Не в среднем, а качественно, так же как это делаю я.

Этого специально не делает никто. Ну почти.

Вы до сих пор живы? Или почти? У вас кто нибудь руль перехватывал?

[Inti]

Меня не интересует средний, меня интересует моя машина, чтобы она не ехала на красный и не таранила спецмашины. Не в среднем, а качественно, так же как это делаю я.

Этого специально не делает никто. Ну почти.

Вы до сих пор живы? Или почти? У вас кто нибудь руль перехватывал?

Мы все живы именно что "до сих пор". И с возрастом способность безопасно водить несомненно падает. Лично я предпочёл бы автопилот вместо любого 80-летнего водителя, да впрочем и 70-летнего тоже.

У меня руль никто не перехватывал, а вот я у своего деда перехватывал, ещё будучи школьником. Дед потерял сознание с ногой на педали газа. Слава богу дорога была сельская между полей и никто не ехал навстречу, и дед через минуту очнулся. Я был слишком мал чтобы сообразить повернуть ключ, просто вцепился в руль и орал думая что дед уснул. Второй раз он потерял сознание через несколько лет, в этот раз прорвал забор-сетку пришкольного участка и перепахал там несколько грядок прежде чем машина остановилась. После этого продал свой Москвич от греха подальше.

Лично я по своей вине аварий не имею, и даже пару раз удавалось убегать от тех кто хотел угробить меня, спасала реакция и везение. Но возраст есть возраст, и я уже сейчас чувствую что реакция и соображаловка замедляются. Думаю что автопилот 200% безопаснее водителей старше 70-ти лет. А уж про адреналиновых молодых дурачков и говорить нечего.

[Inti]

Охренеть!   ИИ работает на лаптопе и телефоне без интернета. На телефоне медленно, но тоже работает. Распознаёт голос, и знает 14 языков между прочим. Бог его знает насколько умён этот ИИ, но даже то что он может быть переводчиком - обалденно. Я так понял что эта хрень ориентирована на параноиков и тех кто всегда готов к апокалипсису при котором интернет исчезнет - но зато останется огромный объём знаний на автономном гаджете.

[Водитель]

Охренеть!   ИИ работает на лаптопе и телефоне без интернета. На телефоне медленно, но тоже работает. Распознаёт голос, и знает 14 языков между прочим. Бог его знает насколько умён этот ИИ, но даже то что он может быть переводчиком - обалденно. Я так понял что эта хрень ориентирована на параноиков и тех кто всегда готов к апокалипсису при котором интернет исчезнет - но зато останется огромный объём знаний на автономном гаджете.

Мда, с информационной гигиеной у вас беда.. 

Какой то левый инфомусорный сайт из сеточки конспирологической инфоворс. Там ещё в соседней новости доказали, что ядерной бомбардировки Японии во вмв не было.

[Старый]

Охренеть!   ИИ работает на лаптопе и телефоне без интернета.

Шо, опять? 

[Александр Геннадьевич Шлядинский]

Меня не интересует средний, меня интересует моя машина, чтобы она не ехала на красный и не таранила спецмашины. Не в среднем, а качественно, так же как это делаю я.

Этого специально не делает никто. Ну почти.

Вы до сих пор живы? Или почти? У вас кто нибудь руль перехватывал?

Мы все живы именно что "до сих пор". И с возрастом способность безопасно водить несомненно падает. Лично я предпочёл бы автопилот вместо любого 80-летнего водителя, да впрочем и 70-летнего тоже.

У меня руль никто не перехватывал, а вот я у своего деда перехватывал, ещё будучи школьником. Дед потерял сознание с ногой на педали газа. Слава богу дорога была сельская между полей и никто не ехал навстречу, и дед через минуту очнулся. Я был слишком мал чтобы сообразить повернуть ключ, просто вцепился в руль и орал думая что дед уснул. Второй раз он потерял сознание через несколько лет, в этот раз прорвал забор-сетку пришкольного участка и перепахал там несколько грядок прежде чем машина остановилась. После этого продал свой Москвич от греха подальше.

Лично я по своей вине аварий не имею, и даже пару раз удавалось убегать от тех кто хотел угробить меня, спасала реакция и везение. Но возраст есть возраст, и я уже сейчас чувствую что реакция и соображаловка замедляются. Думаю что автопилот 200% безопаснее водителей старше 70-ти лет. А уж про адреналиновых молодых дурачков и говорить нечего.

Тут есть нюанс. Говорят есть правда, ложь, наглая ложь и статистика. Это к тому, что надо сравнивать сравнимые вещи. И вот тут надо сравнивать электронного водителя не со средним водителем, куда входят и 70-ти летние, и адреналиновые молодые дурачки, и пьяные, и т.д. В машине с автопилотом Вы пассажир, а автопилот - это профессиональный водитель, который должен довезти Вас из точки А в точку Б быстро, и в целости и сохранности. То есть сравнивать аварийность надо не со всеми, а исключительно с аварийностью такси и общественного транспорта, где на линию выпускают профессионала после проверки состояния его здоровья, и выполняющего все предписания по рабочему времени и что там еще... 
А адреналиновый дурачёк на автопилоте всяко ездить не будет. Ему необходим адреналин. Его сравнивать с автопилотом, вот это статистикой и называется...

[Veganin]

Там ещё в соседней новости доказали, что ядерной бомбардировки Японии во вмв не было.

Это Вы не читали еще, что у Ивана Грозного было термоядерное оружие. Меня дважды обвиняли в работе за 30 монет на сионистов и рептилоидов за вопрос "Какие ваши доказательства?". Но факты энтузиасты собирают интересные, факт, даже анализы почвы за свои деньги делают (у меня где-то копия одного анализа лежит). Но, вот, выводы из фактов - дикие. 

[Dulevo]

сравнивать аварийность надо не со всеми, а исключительно с аварийностью такси и общественного транспорта, где на линию выпускают профессионала после проверки состояния его здоровья

Недавно прошла волна сообщений об отлавливании в США нелегалов за рулем грузовиков с выданными государством правами и разрешениями. Отловленные не могли читать по английски.
Про купленные права вы тоже наверное слышали. Такси я так понимаю может зарегистрировать любой, были бы деньги на лицензию.

Ну а вообще - у такси аварийность примерно в два раза ниже чем у автомобилей в целом.
Но  у автопилота то - ниже в 10 раз.

[Александр Геннадьевич Шлядинский]

сравнивать аварийность надо не со всеми, а исключительно с аварийностью такси и общественного транспорта, где на линию выпускают профессионала после проверки состояния его здоровья

Недавно прошла волна сообщений об отлавливании в США нелегалов за рулем грузовиков с выданными государством правами и разрешениями. Отловленные не могли читать по английски.
Про купленные права вы тоже наверное слышали. Такси я так понимаю может зарегистрировать любой, были бы деньги на лицензию.

Ну а вообще - у такси аварийность примерно в два раза ниже чем у автомобилей в целом.
Но  у автопилота то - ниже в 10 раз.

Так Вы окончание приведенной Вами моей фразы читали? Я как раз не прошу аварийность бомбил и джамшутов учитывать. Сравнивать только с реальными профессионалами при соблюдении всех правил выезда на маршрут.
Если с ними в 10 раз ниже, то я ЗА