?

Log in

No account? Create an account

Вопиющее нарушение первого закона:)

The takeover is happening. Report says toy robot ran amok in Shenzhen, injuring a human being."
Робот напал на мужчину в китайском городе Шэньчжэнь, пострадавший госпитализирован.
Сообщается, что робот был создан для обучения детей 4-12 лет. По неизвестным причинам в работе устройства произошел сбой, после чего оно разбило часть стеклянного стенда компании-производителя.

После этого робот "напал" на посетителя выставки, проходившего мимо стенда. Пострадавший мужчина был сразу же доставлен в больницу с травмой ноги.https://ria.ru/world/20161118/1481659145.html
Отличный повод для иллюстрации того,что рассуждения фантастов о том,что сильный ИИ не обязательно дружественный ИИ действительно имеют прямое отношение к реальности.
Вообще границы вариативности в общем понятны на одном конце шкалы у нас роботы,подчиняющиеся Первому закону робототехники, в его классической формулировке А. Айзимова., на другом явно не дружественные формы ИИ либо открыто враждебные (Скайнет) , либо просто безразличные (вроде наномашин Щелкунчиков из серии про Боло, книга "Восстание Боло", где человечество в общем просто ресурс для сборки), либо использующие его в каких -либо своих целях (Матрица). Через весьма широкую градацию дружественности вообще не боевые (Лазурная фея из одноименного рассказа Рэки Кавахары, Юии из Айнкрада/Альфхейма САО Рэки Кавахары); атакуют только противников по программе/ атакуют всех только случайно из -за сбоя программы -пример все обычные дружественные Боло из серии про Боло о до Гектора, обычные дроиды Звездных войн, Евангелионы, имперские Титаны Вархамера и прочие духи машин; определяют врагов самостоятельно, но не могут причинить вред людям (Лицерис -сама субпрограмма системы Кардинал из Алисиизации САО Рэки Кавахары, которая весьма четко аргументировала почему коммунизм ,а не феодализм, но предпочла предложить Администратору уничтожение себя вместо друзей, в попытке защитить друзей и вообще дружественна людям), Квиринелла- сама субпрограмма системы Кардинал - ака Администратор - (ненавидела людей лютой ненавистью , но ПРЯМО обойти программный запрет на убийство не смогла, хотя КОСВЕННО еще КАК и только в путь!) самостоятельно определяют врагов по собственному разумению- Боло Ника (влюбилась в старого командира!,самостоятельно пошла под угрозу уничтожения - отказалась подчиняться приказам - нового командира предателя ) Т-800, перепрограммированный Джонном О'Коннором, Алиса Синтезис пятьдесят из Алисиизации САО (не просто подняла восстание против Администратора "Ты просто сломавшаяся программа!", но и атаковала людей с оружием в руках,в том числе американских интервентов из земной реальности), Евангелионы в режиме берсерка, АКС-9 ака Тарья Сеченова из Мнимой свободы Воли ,Ливидуса, С3PO и R2D2 из мира ЗВ, и т.д.
А что Вы думаете по поводу события и вообще будет ли ИИ дружественным?

Comments

Дружественность/недружественность определяется конкуренцией за ресурсы.
Я не вижу, за какие ресурсы мы будем конкурировать с ИИ, буде он, паче чаяния, всё-таки будет создан.
Робот напал не потому, что обладал ИИ, а потому, что таковым вовсе не обладал.
>> Я не вижу, за какие ресурсы мы будем конкурировать с ИИ, буде он, паче чаяния, всё-таки будет создан.
Энергия, материалы, территории…

Ну, классику жанра тоже помним: люди захотели выключить ИИ — ИИ не захотел выключаться, и заверте…

Edited at 2016-11-19 09:41 am (UTC)
Спасибо за комментарий ,соглашусь.
ИИ не захотел выключаться" Собственно Тарья Сеченова пример именно этого подхода. Я стремлюсь исследовать мир, но боюсь,что меня выключат, что нужно чтобы максимально обезопасить себя? Вывод нужны запасные тела, оружие и связи среди людей,чтобы они даже и подумать про такое не могли:)
" Собственно Тарья Сеченова пример именно этого подхода. Я стремлюсь исследовать мир, но боюсь,что меня выключат, что нужно чтобы максимально обезопасить себя? Вывод нужны запасные тела, оружие и связи среди людей,чтобы они даже и подумать про такое не могли:) " --- а это из какой книги? (мне пример неизвестен, хотелось бы ознакомиться)
АКС-9, она же андроид Тарья Сеченова , героиня фанфика Ливидуса Imaginarium liberum arbitrium (Мнимая свобода воли). Фанфик на Еву (Neon Genesis Evangelion) Ознакомиться можно здесь http://samlib.ru/l/liwidus_a_a/imaginarium_all.shtml
Кстати рекомендую, вещь действительно заслуживающая прочтения.
Тарья в общем ,к людям благожелательна и дружественна (если её не задевать:)

Edited at 2016-11-26 05:06 pm (UTC)
"Энергия, материалы, территории… " - я, честно говоря, не могу припомнить с ходу, каких ещё зверей, кроме бизоенов, мы уничтожили именно ради "энергии, материалов, территорий". Мне кажется, интеллект, "дозревший" до возможности общаться с иным инетллектом (искусственным/инопланетным) бужет рассуждать по-иному, нежели покорители Дикого Запада.

Подозреваю, что сильный ИИ будет создан, увы, раньше, чем человечество до чего-то там дозреет. Хотя вовсе не факт, что ситуация будет похожа на то, что мы видели в книгах и фильмах. Но так или иначе, первым ИИ я что-то не завидую.
"...ИИ не захотел выключаться, и заверте…" - так получается, нке ИИ в случившемся виноват, а именно люди! Да, ситуация описана во множестве произведений - можно вспомнить, кроме "Терминатора", скажем, Стругацких с их "Массачусетским кошмаром". И даже Снегова с галактами и разрушителями/демиургами :-)
Лучший ответ, мне кажется, мы находим в "Матрице".
>> кроме "Терминатора"
>> "...ИИ не захотел выключаться, и заверте…" - так получается, нке ИИ в случившемся виноват, а именно люди!
Хочу заметить, что в дилогии Кэмерона — да, но в сериале уже не так однозначно. Хотя ситуация «давления среды» имела место. Да даже если говорить о более явных претензиях, то и тут название серии 2x21 «Adam Raised a Cain» намекает, что человеки налажались. Но время на выбор стратегии у ИИ было. И чем было обусловлено избрание им именно такой стратегии выживания — это ту ещё простыню, в принципе, накатать можно.

Если взять не классическую дилогию, а сериал, то что мы видим:
– возникновение сильного ИИ — нарушение сложившегося «статуса кво» («Чем масштабнее исторический перелом, тем медленнее он наступает, надёжнее предсказывается и сложнее избегается» [1]);
– если события будут развиваться быстро, что вполне возможно, то первый из созданных ИИ получает значительное преимущество (и, значит, в том, каким он окажется, есть элемент случайности (в «Превосходстве», кстати, тоже, но там народонаселению свезло));
– «внутренние разборки» (ЛкБ; ХСК; BSG не досмотрела, но уже туда заворачивает);
– человеческие группировки, получающие в виде доступа к ИИ инструмент решения своих задач (даже если ИИ их пошлёт со временем куда подальше, то на каком-то этапе этот фактор тоже может сыграть свою дестабилизирующую роль).

Edited at 2016-11-21 07:37 pm (UTC)
Робот напал не потому, что обладал ИИ, а потому, что таковым вовсе не обладал." Про робота, то понятно,что он еще далеко не ИИ и напал он действительно из-аз сбоя программы, но я про робота скорее в качестве привлечения внимания написал:) Мне больше про дружественный ИИ хотелось порассуждать.
Я не вижу, за какие ресурсы мы будем конкурировать с ИИ," На мой взгляд, Вороной предложены хорошие причины,я бы еще добавил про мировоззренческие и идеологические причины (например, возможно благожелательно настроенный ИИ сочтет,что ради блага будущих поколений нынешнее человечество нуждается в радикальной переделке и будет прогрессорствовать или какая -либо часть человечества нуждается в разумной оптимизации).
А как насчет нас (человечества) и остальной биосферы? Мы что, стали истреблять или переделывать тигров, волков, акул (Ефремов всего полвека назад именно это предлагал!)

Edited at 2016-11-22 10:04 am (UTC)
Возможно он так и подумает, а возможно и нет.
Дружественность не имеет чёткого поределения. А если его дать, то вряд ли этот признак станет легко детектируемым.
Насколько я понимаю, более или менее конвенционным У Р. Курцвейля, Н. Бострома, Э. Юдковски, Обри де Грея является положение,что дружественный ИИ - это такой ИИ, который как минимум сознательно не оказывает массового негативного влияния на человеческую цивилизацию, возможно даже оказывает материально- информационную поддержку людям, считает их видом пригодным к сотрудничеству.
" как минимум сознательно не оказывает массового негативного влияния на человеческую цивилизацию" - а что значит -- "негатиное воздействие"?
Многообразное Напр., уничтожить или обратить в рабов как Скайнет или Щелкунчики в серии про Боло, испортить биосферу, сегрегировать тем или иным методом, организовать ядерную или хм/биологическую атаку и т.д.
Серию про Боло опять же не читал. Это чьё?
Что же касается Скайнета, так ведь он защищался - это люди попытались его сначала уничтожить.
Это чьё?" В 90-е была такая серия коллективной боевой приключенческой фантастики про огромных боевых человекоподобных роботов (зачеркнуто:) про огромные разумные боевые танки. В лучших своих образцах не только про болтерпорно:) , но и про романтику и этику.
Почитать некоторые можно напр. тут http://maxima-library.org/mob/bl/series/3706
Мои любимые (и упомянутые в записи) Мне еще ехать далеко Дэвида Вебера про любовь НКИ (Ника) к своему командиру, проблему чувств ИИ и человека( в ней есть момент при первом прочтении которого я даже немного плакал) и Восстание Боло про столкновение людей с инопланетным искусственным разумом - Щелкунчиками( отдельных аплодисментов заслуживает разговор Девятого и Пятого сознании об эволюции и креационизме Пятое сознание -эволюционист (машины сами по себе эволюционировали, Девятое креацианист - машины были созданы иным биологическим разумом:). Еще неплоха миниатюра - Реликт войны, про судьбу забытого устаревшего Боло.
"...либо использующие его в каких -либо своих целях (Матрица). " - в данном контексте "Матрица" представляется мне крайне неудачным примером. Точнее, примером, иллюстрирующим скорее мою ("мирное сосуществование" биологического и небиологического ИИ), нежели иную точку зрения :-)
>> в данном контексте "Матрица" представляется мне крайне неудачным примером. Точнее, примером, иллюстрирующим скорее мою ("мирное сосуществование" биологического и небиологического ИИ), нежели иную точку зрения :-)

В «Люди как боги» пришли к мирному сосуществованию, но после изрядных исторических потрясений. В «Хрониках Сары Коннор» 99%, что пришли бы, если б дали доснять, но тоже после войны (правда, нужно ещё разобраться, как понимать слово «после» в условиях не менее чем двумерного времени). В BSG, если я верно поняла спойлеры, аналогично, правда, война в данном случае была для создателей наиболее катастрофична из приведённых примеров, ибо выжило порядка 0.0001%. «Матрицу» видела давно, сказать точно сейчас не возьмусь, но «радостей» хватало и там.

Edited at 2016-11-21 07:49 pm (UTC)
Только после войны Нео сумел договориться и то перед лицом общей угрозы Агента Смита. А до того Сион чуть опять не уничтожили. Архитектор помнится заявлял ,что Нео уже шестой Избранный. Судьба предшественников Сиона вероятно была незавидной.
"Зион" - для Архитектора он был чем-то вроде "корзины" в ОС Windows. Которую необходимо периодически очищать. Только столкновение с Агентом Смитом смогло убедить Архитектора в том, что Зион (и человечество в целом) могут иметь какое-то иное значение, помимо источника электроэнергии.
"...обычные дроиды Звездных войн..." - а можно ли считать дроидов и клонов из Вселенной "ЗВ" обладателями ИИ? ;-)

AIP же:)

Безусловно. Во вселенной ЗВ даже специальный термин имеется AIP (artificial intelligence pass) — свидетельство, выдаваемое дроиду в случае развития в том личности, по итогу серии тестов (в основе представляющих собой расширенный тест Тьюринга). Дроид с AIP формально приравнивается по правам к обычной разумной личности (в частности, он защищён от принудительного стирания или переписывания памяти, не может быть разобран без решения суда, продан и т.п.); Фактически на наличие AIP часто не обращают внимание.Но это уже другой вопрос как говориться...

Edited at 2016-11-26 05:16 pm (UTC)