Неожиданно на такой вот встрече

В пресс-конференции stopkillerrobots.org участвуют:
— Алена Попова-юрист, руководитель Аналитического центра «Этика и технологии» (Центр создан при поддержке НСМИИ РАН РФ);
— Андрей Алексеев, доктор философских наук, ведущий научный сотрудник кафедры философии и методологии науки философского факультета МГУ имени М.В. Ломоносова, координатор научных программ НСМИИ РАН;
— Вадим Козюлин, директор проекта по новым технологиям и международной безопасности, ПИР-Центр;
— Андрей Юров, международный правозащитник, социальный философ, эксперт МХГ, постоянный эксперт СПЧ, член правления Международной гражданской инициативы для ОБСЕ;
— Алимжан Ахметов, директор Центра международной безопасности и политики (Казахстан).

Россия входит в число стран, выступающих против запрета убивающих роботов, наряду с такими странами, как США, Китай, Австралия, Южная Корея, Израиль, Великобритания. Эти страны ведут работы в области разработок такого оборудования.

Алимжан Ахметов рассказывает об истории вопроса. В 2010 году впервые в ООН возник вопрос о применении робототехники и соблюдении гуманитарных норм.
В ноябре 2012 года Human Rights Watch опубликовали первый доклад на эту тему.
В 2013 году специальный докладчик ООН К.Хайнс дал определение боевых автономных роботов.
В докладе было рекомендовано государствам ООН уделить внимание этому вопросу.
С 2014-2016 года были неформальные обсуждения экспертами вопроса АСОЛД (автономные системы летального действия), затем статус стал официальным.

В 2018 году ГПЭ утвердила три варианта развития событий: 1. запрет самостоятельного действия автономизированного оборудования
2. Политическая декларация (Франция, Германия)
3. Ничего делать не нужно (США, Россия, Южная Корея, Израиль...)

АСОЛД: полностью автономные системы - безэкипажные технические средства, не являющиеся боеприпасами и предназначенные для выполнения боевых и обеспечивающих задач без какого-либо участия оператора.

28 стран выступают за превентивный запрос АСОЛД. Китай, правда, против только применения, но не против разработки и производства.

Вадим Козюлин, эксперт в области вооружений, представляет ПИР-центр, занимающийся контролем над вооружениями.

Позиция США и России - автономные вооружения могут быть гуманнее, нежели многие другие виды вооружений.

Достаточно сложно дать определение автономности. Есть автономные режимы ПВО, есть мины - они по-сути являются автономными системами. Есть ракеты "выстрелил и забыл".

Нет сомнений, что все будет автоматизировано, как в нашей повседневности, так и в армии. Мы скорее всего стоим на первой ступени активной гонки вооружений. Вероятнее всего, достаточно скоро решения на атаки будут принимать системы ИИ, поскольку человек уже не сможет с необходимой быстротой принять решения.

Алена Попова: Google не участвует в проектах Пентагона. Это хорошее начинание для IT-компаний.

Андрей Юров. Пока у нас есть возможность заранее договориться, давайте пока что задержимся с разработкой автономных вооружений. Чтобы договориться о том, что можно разрабатывать, а что нет.

Алена Попова: Есть примеры остановок разработки тех или иных видов вооружений. Например, страны договорились о запрете разработки и использования ослепляющих лазеров.

Вадим Козюлин. Пока что считается, что автономных роботов еще нет (чтобы не наступать на больные мозоли ряда стран). На самом деле ряд таких систем создан, пока что они нацелены в основном на военную технику, не на человека, ту или иную расу.

Говорить об инвестициях сложно. Расходы на разработку автономных вооружений не выделяются из общих десятков миллиардов долларов, выделяемых на разработку вооружений.

Можно предусмотреть обязательства по "черным ящикам" на автономных и автономизированных военных роботах. Возможно роботы будут лучше, чем человек соблюдать гражданские права.

Алена Попова. Важно действовать сейчас, поскольку чем более страны втягиваются в разработку автономных вооружений, тем менее договороспособными они становятся.

Андрей Юров. В ближайшие годы, максимум, десятилетия, человечеству придется или быстро повзрослеть, или исчезнуть. Договориться должны люди.

На этом завершили встречу.

ГОСТ Р 60.6.3.1-2019 "Роботы и робототехнические устройства. Методы испытаний сервисных мобильных роботов для работы в экстремальных условиях. Термины и определения"
- утвержден приказом Росстандарта от 6 июня 2019 года N 284-ст.

Стандарт устанавливает термины и определения понятий в области стандартных методов испытаний роботов для работы в экстремальных условиях, включая наземные, водные и воздушные среды применения.