Компьютерная безопасность. Или опасность.

[nonconvex]

а также указывает на то что сабж по-видимому уже еще более непрост ; )

Ну да, конечно. Он просто имитирует поведение эмоционального субъекта, а вы там пытаетесь разум найти. Нет разума, есть тупая имитация. Другое дело, что он может выбирать наиболее оптимальное поведение, в соответствии с поощрением (reward signal), заложенным программистом, но и в этом случае он выбирает траекторию из заранее известного пучка.

[Сергей Хижняк]

Другое дело, что он может выбирать наиболее оптимальное поведение, в соответствии с поощрением (reward signal), заложенным программистом

Вы (да, лично Вы) поступаете ровно также. Только в Вашем случае программистом является естественный отбор, который и запрограммировал поощрения. Это я Вам как доктор биологических наук сообщаю.

но и в этом случае он выбирает траекторию из заранее известного пучка.

Насколько знаю, при игре в шахматы или Го искусственный интеллект вовсе не "выбирает траекторию из заранее известного пучка". Да и пучков этих многовато получается.

[Serge V Iz]

... Да и пучков этих многовато получается.

О. Во первых, здравствуйте.  А во вторых, признавайтесь, что там за чёртовы грибы грызут наши космические корабли? Может им того, гифы-то обкорнать? 

[Сергей Хижняк]

А чего привязались к самосознанию?
Это что? Отличительная черта интеллекта?

Полностью согласен - к интеллекту самосознание отношения не имеет. С эволюционно-биологической точки зрения самосознание (осознание себя как некоего особого объекта) требуется для того, чтобы выделять себя-любимого из массива окружающих объектов. И, соответственно, пихать кусок еды в рот себе-любимому, а не соседу.
Между прочим, у некоторых колониальных полипов у каждого из членов колонии самосознание отдельное. Они могут бороться между собой за добычу, хотя эта добыча всё равно попадёт в общий пищеварительный тракт.

К слову, знаменитый "зеркальный тест", на мой взгляд - не про самосознание, а про возможность ассоциировать отражение в зеркале с реальным объектом. Если самец цихлиды атакует своё отражение (а он реально атакует), это не значит, что у него нет самосознания. Просто у него, в отличие от шимпанзе, не хватает мозгов понять, что перед ним - его собственное отражение.

Ну и чтобы два раза не вставать. Тут где-то было упоминание "свободы воли". С нейробиологической точки зрения это просто сигнал, что решение принято родной нейросетью, а не кем-то внешним. На момент, когда мы "принимаем решение в соответствии со свободной волей", это решение уже принято и отправлено на исполнение. При сбое этой системы, насколько знаю, возникают две патологии.
1. Если сигнал "я принял решение" генерируется в ответ на любое событие - человек убеждён, что всё вокруг совершается по его личной воле. Бабахнул гром, сгенерировался сигнал "я принял решение", и вот человек уже точно знает, что гром бабахнул по его личной свободной воле.
2. Если сигнал "я принял решение" вообще не генерируется - человек убеждён, что он является марионеткой в чьих-то руках. То есть он совершает вполне адекватные действия, живёт нормальной жизнью, но ощущает себя управляемой внешними силами куклой. В некотором роде так оно и есть. Решение принимает нейросеть, просто она забывает оповестить об этом решении те нейроны, которые ассоциированы с представлением о собственной личности.

P.S.
Я тут использовал термин "нейросеть" применительно к мозгу. В скобках замечу, что биологический мозг не является нейросетью в компьютерном понимании, компьютерная нейросеть - просто наиболее приближенная аналогия биологического мозга (но аналогия очень грубая). Но это не означает, что компьютерная нейросеть не способна на интеллектуальное поведение, в том числе - и на более сложное, чем любой биологический мозг. Металлический самолёт либо летающий дрон не является прямым аналогом птицы либо стрекозы - однако он может летать ничуть не хуже, а то и гораздо лучше, чем птица либо стрекоза.

[Сергей Хижняк]

О. Во первых, здравствуйте.

Здравствуйте, и, заодно, до свидания. Я не собираюсь тут долго задерживаться. Тут глупые модераторы, которые энное время назад меня забанили за какой-то вполне адекватный пост. После этого я отсюда ушёл, поскольку нафиг мне форум с тупой цензурой? Цензуры и так хватает. К слову, ни разу не пожалел, что ушёл - высвободилась масса времени, а я как раз участвовал в трёх проектах (грант ККФН - как мат.обработчик, и два гранта Минсельхоза РФ - как микробиолог), работа нон-стоп без праздников и выходных. Так что хорошо, что меня в тот раз забанили, ККФН и Минсельхоз от этого только выиграли.
Сейчас забрёл довольно случайно (сегодня работать категорически лень, да и ничего срочного, чтобы "завтра к утру" нет), увидел околобиологическую тему, почитал немного, решил высказаться. Высказался, удовлетворился, откланиваюсь.

А во вторых, признавайтесь, что там за чёртовы грибы грызут наши космические корабли?

А фиг их знает. Не интересовался. У меня сейчас гораздо более интересный гриб в работе - возбудитель резиновой гнили картофеля, впервые не только в Красноярском крае, но и (насколько знаю по общению с иногородними коллегами) в Сибири вообще. Я первый обнаружил, сначала - в завозном картофеле (обратился местный центр Россельхознадзора, не смогли идентифицировать заболевание), а чуть позже - в местном, из Шушенского района (обратилось местное отделение Щёлково Агрохим, тоже не могли идентифицировать). Гриб - пальчики оближешь, красавец! И пахнет приятно, фруктами. Загуглил импортные публикации - таки да, производит фруктовые ароматы, есть даже предложение использовать его в биотехе с этой целью. Вот я с ним и играюсь. В ближайшее время хочу подселектировать этот гриб на картофеле и проверить, удастся повысить патогенность за относительно короткий срок или нет. У него очень короткое время генерации новых поколений, от поколения артроспор до нового поколения артроспор - примерно 18-20 часов при комнатной температуре. Для мицелиальных грибов это просто феноменальная скорость, мечта селекционера. Технику эксперимента уже продумал, завтра планирую начать. 

Ладно, всем - хороших выходных и всё такое.

[Serge V Iz]

О какой. Картошку я тоже люблю. Правда, фруктами пахну не всегда )

Хм. А может, он и на вкус делает из картофеля изысканный заморский фрукт дуриан?...

[nonconvex]

Другое дело, что он может выбирать наиболее оптимальное поведение, в соответствии с поощрением (reward signal), заложенным программистом

Вы (да, лично Вы) поступаете ровно также. Только в Вашем случае программистом является естественный отбор, который и запрограммировал поощрения. Это я Вам как доктор биологических наук сообщаю.

Откуда вам это известно?  Что докторам биологических наук известно о квантовых процессах в мозге человека? Расскажите, очень интересно.

[nonconvex]

Насколько знаю, при игре в шахматы или Го искусственный интеллект вовсе не "выбирает траекторию из заранее известного пучка". Да и пучков этих многовато получается.

Именно во время известного матча в Го и была ярко продемонстрирована эта известная проблема. Нейросеть обучалась на всех партиях сыгранных до нее. Каким то странным образом человек  играющий против компьютера, нашел неожиданное новое решение, и компьютер сбросил стратегию в ноль, он не знал что делать, примерно как автопилот Теслы не знает что делать когда видит на асфальте стоящего лыжника. Пока компьютер примитивно совершал безопасные ходы, человек создал преимущество и выиграл.

[Dulevo]

Хм...Ссылочку?

До сих пор читал, что как раз обученная нейросеть находила новые возможности в Го которые люди до сих пор не применяли.

[nonconvex]

Хм...Ссылочку?

До сих пор читал, что как раз обученная нейросеть находила новые возможности в Го которые люди до сих пор не применяли.

Ссылочку на что, на матч в Го, или на учебник с главой по reinforced learning?

[Старый]

работа нон-стоп без праздников и выходных.

Нафига такая жизнь? Денег то хоть много дают? 

[Старый]

и проверить, удастся повысить патогенность

А с какой целью? 

[Dulevo]

человек  играющий против компьютера, нашел неожиданное новое решение

Вот на это

[nonconvex]

человек  играющий против компьютера, нашел неожиданное новое решение

Вот на это

Гугл в помощь. Ищите по фразе

Lee Se-Dol hand of God play

[Lunatik-k]

FireFox агрессивно навязывает обновление на новую версию.
Если раньше была галочка чтобы заблокировать сообщение о предложении то теперь этой галочки нет.
Шпионская программа FireFox  стала чрезмерно агрессивной.

[Виктор Кондрашов]

FireFox агрессивно навязывает обновление на новую версию.
Если раньше была галочка чтобы заблокировать сообщение о предложении то теперь этой галочки нет.
Шпионская программа FireFox  стала чрезмерно агрессивной.

• А зачем вам шпионский firefox? Поставьте Яндекс браузер. 

[vlad7308]

Тут где-то было упоминание "свободы воли". С нейробиологической точки зрения это просто сигнал, что решение принято родной нейросетью, а не кем-то внешним.

Так это так с любой точки зрения

[АниКей]

[АниКей]

[ShamgA]

По моему, полная чушь с закосом под GoT
Тетки все на одно лицо, «Казань» такая на фоне православных куполов...