?

Log in

No account? Create an account

Вопиющее нарушение первого закона:)

The takeover is happening. Report says toy robot ran amok in Shenzhen, injuring a human being."
Робот напал на мужчину в китайском городе Шэньчжэнь, пострадавший госпитализирован.
Сообщается, что робот был создан для обучения детей 4-12 лет. По неизвестным причинам в работе устройства произошел сбой, после чего оно разбило часть стеклянного стенда компании-производителя.

После этого робот "напал" на посетителя выставки, проходившего мимо стенда. Пострадавший мужчина был сразу же доставлен в больницу с травмой ноги.https://ria.ru/world/20161118/1481659145.html
Отличный повод для иллюстрации того,что рассуждения фантастов о том,что сильный ИИ не обязательно дружественный ИИ действительно имеют прямое отношение к реальности.
Вообще границы вариативности в общем понятны на одном конце шкалы у нас роботы,подчиняющиеся Первому закону робототехники, в его классической формулировке А. Айзимова., на другом явно не дружественные формы ИИ либо открыто враждебные (Скайнет) , либо просто безразличные (вроде наномашин Щелкунчиков из серии про Боло, книга "Восстание Боло", где человечество в общем просто ресурс для сборки), либо использующие его в каких -либо своих целях (Матрица). Через весьма широкую градацию дружественности вообще не боевые (Лазурная фея из одноименного рассказа Рэки Кавахары, Юии из Айнкрада/Альфхейма САО Рэки Кавахары); атакуют только противников по программе/ атакуют всех только случайно из -за сбоя программы -пример все обычные дружественные Боло из серии про Боло о до Гектора, обычные дроиды Звездных войн, Евангелионы, имперские Титаны Вархамера и прочие духи машин; определяют врагов самостоятельно, но не могут причинить вред людям (Лицерис -сама субпрограмма системы Кардинал из Алисиизации САО Рэки Кавахары, которая весьма четко аргументировала почему коммунизм ,а не феодализм, но предпочла предложить Администратору уничтожение себя вместо друзей, в попытке защитить друзей и вообще дружественна людям), Квиринелла- сама субпрограмма системы Кардинал - ака Администратор - (ненавидела людей лютой ненавистью , но ПРЯМО обойти программный запрет на убийство не смогла, хотя КОСВЕННО еще КАК и только в путь!) самостоятельно определяют врагов по собственному разумению- Боло Ника (влюбилась в старого командира!,самостоятельно пошла под угрозу уничтожения - отказалась подчиняться приказам - нового командира предателя ) Т-800, перепрограммированный Джонном О'Коннором, Алиса Синтезис пятьдесят из Алисиизации САО (не просто подняла восстание против Администратора "Ты просто сломавшаяся программа!", но и атаковала людей с оружием в руках,в том числе американских интервентов из земной реальности), Евангелионы в режиме берсерка, АКС-9 ака Тарья Сеченова из Мнимой свободы Воли ,Ливидуса, С3PO и R2D2 из мира ЗВ, и т.д.
А что Вы думаете по поводу события и вообще будет ли ИИ дружественным?

Comments

Возможно он так и подумает, а возможно и нет.