?

Log in

No account? Create an account

Вопиющее нарушение первого закона:)

The takeover is happening. Report says toy robot ran amok in Shenzhen, injuring a human being."
Робот напал на мужчину в китайском городе Шэньчжэнь, пострадавший госпитализирован.
Сообщается, что робот был создан для обучения детей 4-12 лет. По неизвестным причинам в работе устройства произошел сбой, после чего оно разбило часть стеклянного стенда компании-производителя.

После этого робот "напал" на посетителя выставки, проходившего мимо стенда. Пострадавший мужчина был сразу же доставлен в больницу с травмой ноги.https://ria.ru/world/20161118/1481659145.html
Отличный повод для иллюстрации того,что рассуждения фантастов о том,что сильный ИИ не обязательно дружественный ИИ действительно имеют прямое отношение к реальности.
Вообще границы вариативности в общем понятны на одном конце шкалы у нас роботы,подчиняющиеся Первому закону робототехники, в его классической формулировке А. Айзимова., на другом явно не дружественные формы ИИ либо открыто враждебные (Скайнет) , либо просто безразличные (вроде наномашин Щелкунчиков из серии про Боло, книга "Восстание Боло", где человечество в общем просто ресурс для сборки), либо использующие его в каких -либо своих целях (Матрица). Через весьма широкую градацию дружественности вообще не боевые (Лазурная фея из одноименного рассказа Рэки Кавахары, Юии из Айнкрада/Альфхейма САО Рэки Кавахары); атакуют только противников по программе/ атакуют всех только случайно из -за сбоя программы -пример все обычные дружественные Боло из серии про Боло о до Гектора, обычные дроиды Звездных войн, Евангелионы, имперские Титаны Вархамера и прочие духи машин; определяют врагов самостоятельно, но не могут причинить вред людям (Лицерис -сама субпрограмма системы Кардинал из Алисиизации САО Рэки Кавахары, которая весьма четко аргументировала почему коммунизм ,а не феодализм, но предпочла предложить Администратору уничтожение себя вместо друзей, в попытке защитить друзей и вообще дружественна людям), Квиринелла- сама субпрограмма системы Кардинал - ака Администратор - (ненавидела людей лютой ненавистью , но ПРЯМО обойти программный запрет на убийство не смогла, хотя КОСВЕННО еще КАК и только в путь!) самостоятельно определяют врагов по собственному разумению- Боло Ника (влюбилась в старого командира!,самостоятельно пошла под угрозу уничтожения - отказалась подчиняться приказам - нового командира предателя ) Т-800, перепрограммированный Джонном О'Коннором, Алиса Синтезис пятьдесят из Алисиизации САО (не просто подняла восстание против Администратора "Ты просто сломавшаяся программа!", но и атаковала людей с оружием в руках,в том числе американских интервентов из земной реальности), Евангелионы в режиме берсерка, АКС-9 ака Тарья Сеченова из Мнимой свободы Воли ,Ливидуса, С3PO и R2D2 из мира ЗВ, и т.д.
А что Вы думаете по поводу события и вообще будет ли ИИ дружественным?

Comments

"...либо использующие его в каких -либо своих целях (Матрица). " - в данном контексте "Матрица" представляется мне крайне неудачным примером. Точнее, примером, иллюстрирующим скорее мою ("мирное сосуществование" биологического и небиологического ИИ), нежели иную точку зрения :-)
>> в данном контексте "Матрица" представляется мне крайне неудачным примером. Точнее, примером, иллюстрирующим скорее мою ("мирное сосуществование" биологического и небиологического ИИ), нежели иную точку зрения :-)

В «Люди как боги» пришли к мирному сосуществованию, но после изрядных исторических потрясений. В «Хрониках Сары Коннор» 99%, что пришли бы, если б дали доснять, но тоже после войны (правда, нужно ещё разобраться, как понимать слово «после» в условиях не менее чем двумерного времени). В BSG, если я верно поняла спойлеры, аналогично, правда, война в данном случае была для создателей наиболее катастрофична из приведённых примеров, ибо выжило порядка 0.0001%. «Матрицу» видела давно, сказать точно сейчас не возьмусь, но «радостей» хватало и там.

Edited at 2016-11-21 07:49 pm (UTC)
Только после войны Нео сумел договориться и то перед лицом общей угрозы Агента Смита. А до того Сион чуть опять не уничтожили. Архитектор помнится заявлял ,что Нео уже шестой Избранный. Судьба предшественников Сиона вероятно была незавидной.
"Зион" - для Архитектора он был чем-то вроде "корзины" в ОС Windows. Которую необходимо периодически очищать. Только столкновение с Агентом Смитом смогло убедить Архитектора в том, что Зион (и человечество в целом) могут иметь какое-то иное значение, помимо источника электроэнергии.