?

Log in

No account? Create an account

Вопиющее нарушение первого закона:)

The takeover is happening. Report says toy robot ran amok in Shenzhen, injuring a human being."
Робот напал на мужчину в китайском городе Шэньчжэнь, пострадавший госпитализирован.
Сообщается, что робот был создан для обучения детей 4-12 лет. По неизвестным причинам в работе устройства произошел сбой, после чего оно разбило часть стеклянного стенда компании-производителя.

После этого робот "напал" на посетителя выставки, проходившего мимо стенда. Пострадавший мужчина был сразу же доставлен в больницу с травмой ноги.https://ria.ru/world/20161118/1481659145.html
Отличный повод для иллюстрации того,что рассуждения фантастов о том,что сильный ИИ не обязательно дружественный ИИ действительно имеют прямое отношение к реальности.
Вообще границы вариативности в общем понятны на одном конце шкалы у нас роботы,подчиняющиеся Первому закону робототехники, в его классической формулировке А. Айзимова., на другом явно не дружественные формы ИИ либо открыто враждебные (Скайнет) , либо просто безразличные (вроде наномашин Щелкунчиков из серии про Боло, книга "Восстание Боло", где человечество в общем просто ресурс для сборки), либо использующие его в каких -либо своих целях (Матрица). Через весьма широкую градацию дружественности вообще не боевые (Лазурная фея из одноименного рассказа Рэки Кавахары, Юии из Айнкрада/Альфхейма САО Рэки Кавахары); атакуют только противников по программе/ атакуют всех только случайно из -за сбоя программы -пример все обычные дружественные Боло из серии про Боло о до Гектора, обычные дроиды Звездных войн, Евангелионы, имперские Титаны Вархамера и прочие духи машин; определяют врагов самостоятельно, но не могут причинить вред людям (Лицерис -сама субпрограмма системы Кардинал из Алисиизации САО Рэки Кавахары, которая весьма четко аргументировала почему коммунизм ,а не феодализм, но предпочла предложить Администратору уничтожение себя вместо друзей, в попытке защитить друзей и вообще дружественна людям), Квиринелла- сама субпрограмма системы Кардинал - ака Администратор - (ненавидела людей лютой ненавистью , но ПРЯМО обойти программный запрет на убийство не смогла, хотя КОСВЕННО еще КАК и только в путь!) самостоятельно определяют врагов по собственному разумению- Боло Ника (влюбилась в старого командира!,самостоятельно пошла под угрозу уничтожения - отказалась подчиняться приказам - нового командира предателя ) Т-800, перепрограммированный Джонном О'Коннором, Алиса Синтезис пятьдесят из Алисиизации САО (не просто подняла восстание против Администратора "Ты просто сломавшаяся программа!", но и атаковала людей с оружием в руках,в том числе американских интервентов из земной реальности), Евангелионы в режиме берсерка, АКС-9 ака Тарья Сеченова из Мнимой свободы Воли ,Ливидуса, С3PO и R2D2 из мира ЗВ, и т.д.
А что Вы думаете по поводу события и вообще будет ли ИИ дружественным?

Comments

>> Я не вижу, за какие ресурсы мы будем конкурировать с ИИ, буде он, паче чаяния, всё-таки будет создан.
Энергия, материалы, территории…

Ну, классику жанра тоже помним: люди захотели выключить ИИ — ИИ не захотел выключаться, и заверте…

Edited at 2016-11-19 09:41 am (UTC)
Спасибо за комментарий ,соглашусь.
ИИ не захотел выключаться" Собственно Тарья Сеченова пример именно этого подхода. Я стремлюсь исследовать мир, но боюсь,что меня выключат, что нужно чтобы максимально обезопасить себя? Вывод нужны запасные тела, оружие и связи среди людей,чтобы они даже и подумать про такое не могли:)
" Собственно Тарья Сеченова пример именно этого подхода. Я стремлюсь исследовать мир, но боюсь,что меня выключат, что нужно чтобы максимально обезопасить себя? Вывод нужны запасные тела, оружие и связи среди людей,чтобы они даже и подумать про такое не могли:) " --- а это из какой книги? (мне пример неизвестен, хотелось бы ознакомиться)
АКС-9, она же андроид Тарья Сеченова , героиня фанфика Ливидуса Imaginarium liberum arbitrium (Мнимая свобода воли). Фанфик на Еву (Neon Genesis Evangelion) Ознакомиться можно здесь http://samlib.ru/l/liwidus_a_a/imaginarium_all.shtml
Кстати рекомендую, вещь действительно заслуживающая прочтения.
Тарья в общем ,к людям благожелательна и дружественна (если её не задевать:)

Edited at 2016-11-26 05:06 pm (UTC)
"Энергия, материалы, территории… " - я, честно говоря, не могу припомнить с ходу, каких ещё зверей, кроме бизоенов, мы уничтожили именно ради "энергии, материалов, территорий". Мне кажется, интеллект, "дозревший" до возможности общаться с иным инетллектом (искусственным/инопланетным) бужет рассуждать по-иному, нежели покорители Дикого Запада.

Подозреваю, что сильный ИИ будет создан, увы, раньше, чем человечество до чего-то там дозреет. Хотя вовсе не факт, что ситуация будет похожа на то, что мы видели в книгах и фильмах. Но так или иначе, первым ИИ я что-то не завидую.
"...ИИ не захотел выключаться, и заверте…" - так получается, нке ИИ в случившемся виноват, а именно люди! Да, ситуация описана во множестве произведений - можно вспомнить, кроме "Терминатора", скажем, Стругацких с их "Массачусетским кошмаром". И даже Снегова с галактами и разрушителями/демиургами :-)
Лучший ответ, мне кажется, мы находим в "Матрице".
>> кроме "Терминатора"
>> "...ИИ не захотел выключаться, и заверте…" - так получается, нке ИИ в случившемся виноват, а именно люди!
Хочу заметить, что в дилогии Кэмерона — да, но в сериале уже не так однозначно. Хотя ситуация «давления среды» имела место. Да даже если говорить о более явных претензиях, то и тут название серии 2x21 «Adam Raised a Cain» намекает, что человеки налажались. Но время на выбор стратегии у ИИ было. И чем было обусловлено избрание им именно такой стратегии выживания — это ту ещё простыню, в принципе, накатать можно.

Если взять не классическую дилогию, а сериал, то что мы видим:
– возникновение сильного ИИ — нарушение сложившегося «статуса кво» («Чем масштабнее исторический перелом, тем медленнее он наступает, надёжнее предсказывается и сложнее избегается» [1]);
– если события будут развиваться быстро, что вполне возможно, то первый из созданных ИИ получает значительное преимущество (и, значит, в том, каким он окажется, есть элемент случайности (в «Превосходстве», кстати, тоже, но там народонаселению свезло));
– «внутренние разборки» (ЛкБ; ХСК; BSG не досмотрела, но уже туда заворачивает);
– человеческие группировки, получающие в виде доступа к ИИ инструмент решения своих задач (даже если ИИ их пошлёт со временем куда подальше, то на каком-то этапе этот фактор тоже может сыграть свою дестабилизирующую роль).

Edited at 2016-11-21 07:37 pm (UTC)