TechFusion.ruРоботыНужен ли роботам юридический статус

Нужен ли роботам юридический статус

Должны ли роботы быть застрахованными и платить налоги? Можно ли «убить» робота в случае, если он представляет опасность? Европа озаботилась правами и обязанностями «умных» машин

Европейских законодателей заинтересовал вопрос юридического статуса роботов. 12 января комитет Европейского парламента по правовым вопросам 17 голосами против двух воздержавшихся одобрил предложения, содержащиеся в докладе парламентария Мади Дельво (Mady Delvaux). В документе обозначены основные правовые проблемы развития робототехники и сформулирована концепция их решения.

Авторы инициативы выступили с предложением к Европейской Комиссии составить проект законодательного документа, который будет регулировать правовые вопросы разработки и использования робототехники и искусственного интеллекта в перспективе следующих 10-15 лет. При разработке документа предлагается опираться на рекомендации комитета по правовым вопросам. Голосование по этой теме в парламенте намечено на февраль текущего года.

Суть предложений

Объясняя актуальность проблемы, парламентарии ссылаются на стремительное проникновение роботов и «искусственного интеллекта» (в этом случае речь идет, по всей видимости, о самообучающихся системах) в различные сферы жизни. В частности, в сфере автономного автотранспорта с 2010 по 2014 год продажи росли на 17% в год, а в 2014 году показатель роста составил 29%. Количество патентных заявок на робототехнические изобретения за последнее десятилетие утроилось, отмечается в документе.

«Робототехника все больше проникает в различные сферы нашей повседневной деятельности, — заявила автор документа Мади Дельво. — Если мы хотим вписаться в эту действительность, то должны сделать все, чтобы роботы оставались на службе людей, для чего нам необходимо безотлагательно сформировать надежную [общеевропейскую] правовую базу».

Важнейшим вопросом предлагаемой концепции является соотношение самостоятельности и ответственности робота и его создателей и операторов. Прежде всего эти вопросы касаются «умных» машин с высокой степенью автономности.

  • На этапе разработки необходимо закладывать принципы конфиденциальности, чтобы частная информация была надежно защищена и использовалась только надлежащим образом. Всегда должен быть предусмотрен очевидный механизм нейтрализации (красная кнопка) — на случай возникновения угрозы
  • Действия робота должны соответствовать местным, национальным и международным этическим и правовым принципам
  • Этапы принятия решений роботом должны быть воспроизводимыми и легко отслеживаемыми

(из рекомендаций разработчикам)

Предлагаемое определение таких роботов в документе основывается на нескольких критериях: автономный (умный) робот обретает самостоятельность действий через использование датчиков и/или обмен данными с окружающей средой (interconnectivity), передает и анализирует данные; является самообучающейся системой (опционально); адаптивно меняет свои поступки и действия под окружающие условия и т.д.

Пока роботы не могут или не «научены» осознавать себя, законы робототехники, сформулированные Айзеком Азимовым, нужно рассматривать как адресованные разработчикам, производителям и операторам роботов, поскольку эти законы не могут быть преобразованы в машинный код, подчеркивают авторы инициативы.

Субъект или объект?

Чем более автономными становятся роботы, тем труднее их рассматривать как простые «орудия труда» в руках других действующих субъектов (производителей, собственников, пользователей). Получается, что имеющихся норм ответственности недостаточно — необходимы новые правила, при разработке которых, прежде всего, должен быть решен вопрос: как машина может отвечать за свои действия либо бездействие?

Возникает дилемма о наличии либо отсутствии у робота в перспективе правового статуса. Каким он должен быть относительно существующих категорий физического и юридического лица, животного и вещи? Есть ли необходимость ввести новую категорию «электронного лица» с особыми характеристиками и с соответствующими юридическими следствиями для прав и обязанностей, в том числе ответственности за ущерб?

Составители документа полагают, что каким бы ни было решение применительно к ответственности роботов в случаях, не связанных с имущественным ущербом, законодательство никоим образом не должно ограничивать типы и объемы компенсаций для пострадавшей стороны сугубо на том основании, что причинителем вреда был не человек.

  • Пользователи должны понимать, что у любого робота могут быть ограничения в восприятии, когнитивных функциях и срабатывании
  • Пользователи должны учитывать право на конфиденциальность окружающих
  • Не допускается использовать робота каким бы то ни было способом, нарушающим этические или правовые принципы и правила
  • Не разрешается модифицировать робота для эксплуатации его в качестве оружия

(из рекомендаций пользователям) 

В документе предполагается, что после установления ответственности сторон, распределение ее по кругу лиц должно быть соразмерно степени данных роботу указаний и его автономных решений. То есть, чем выше планка самостоятельности и самообучаемости робота, тем меньшую ответственность несут другие стороны. Чем дольше происходило «обучение» робота, тем большая ответственность ложится на «учителя». При этом нарабатываемые навыки робота следует отличать от тех, которые зависят исключительно от его способностей к самообучению.

Обязательное страхование

Одним из возможных решений в распределении ответственности за ущерб может стать обязательная программа страхования, подобная уже применяемой «автогражданке». Принципиальное ее отличие будет заключаться в том, что обязанность приобретения страховки будет возлагаться на производителя, выпускающего автономные машины. При этом предстоит решить, будут ли страховые взносы единовременными (при поступлении робота на рынок) или регулярными (в течение всего срока службы «застрахованного»).

Параллельно предлагается рассмотреть вопрос создания фонда отчислений на покрытие убытков в ситуациях, которые не предусмотрены страховкой. Конкретные механизмы, вероятно, нужно будет разработать страховой отрасли.

Для производителей, программистов-разработчиков, владельцев и пользователей роботов плюсом такого подхода стало бы ограничение их ответственности — любые убытки могут покрываться ресурсами фонда. Предлагается также рассмотреть возможность присвоения специального номера, по которому для каждой конкретной «умной» машины можно будет отслеживать всю информацию о размерах, поступлениях и плательщиках соответствующих страховых взносов и предельном покрытии возможного ущерба.

Аргументы против

Некоторые эксперты считают, что разработка подобных законов преждевременна — они могут сказаться на отрасли отрицательно. Так, управляющий директор Ассоциации немецких машиностроителей (VDMA) Патрик Шварцкопф, считает, что предпосылки к подобному законопроекту могут появиться только через 50 лет, а не в ближайшие 10. По его мнению, чрезмерное регулирование замедлит развитие робототехники.

У самой идеи существования правового статуса у машины есть масса противников. Ни сегодня, ни в течение еще очень долгого времени присвоение какой бы то ни было правовой роли роботу не представляется возможным, убеждены скептики.

В материалах анализа предлагаемых инициатив, проведенного экспертами департамента по правам граждан и конституционным вопросам Европейского парламента, содержится подробный разбор отдельных установок концепции.

«Мы считаем неправильным и неуместным не только признание существования «электронного лица», но и создание подобной правосубъектности. В этом случае возникает риск не только наделить правами и ответственностью фактически инструмент, но и разрушить границы между человеком и машиной, размыть черту, отделяющую живое от неживого, одушевленное от неодушевленного», — отмечают комментаторы, добавляя, что предложенный подход ставит под вопрос гуманистические основы Европы.

Придание субъектности неживому и не наделенному сознанием созданию будет серьезной ошибкой, которая поставит человека на один уровень с машиной, уверены противники законопроекта.

А что в России?

В России вопросы «прав и обязанностей» роботов пока не обсуждаются на уровне органов государственной власти. В робототехническом же сообществе диалог есть — экспертное обсуждение влияния искусственного интеллекта на общество проходило, в частности, на конференции Skolkovo.AI в ноябре прошлого года.

Робототехника и искусственный интеллект упоминаются в списке главных глобальных угроз Всемирного экономического форума три раза из пяти — в разделах экономика, геополитика и технологии. «Игнорирование обсуждения этой угрозы по меньшей мере опасно», — подчеркивает руководитель Робототехнического центра «Сколково» Альберт Ефимов.

При этом, по мнению эксперта, обсуждение, затеянное Европарламентом, намного опережает время. «Роботы не могут получить никаких прав, потому что робот — тщательно детерминированная машина. Даже если искусственный интеллект работает на основе статистических методов, то все равно, эти методы придуманы человеком. Никакой свободы воли, необходимой для осуществления права, у робота нет и быть не может», — уверен Альберт Ефимов.

В середине декабря собственную концепцию закона о робототехнике, определяющую, в том числе, юридический статус роботов, представил основатель Grishin Robotics Дмитрий Гришин, напомнил в беседе с TechFusion.ru президент Национальной Ассоциации участников рынка робототехники Виталий Недельский. В частности, предлагалось создание реестра роботов — по аналогии с единым государственным реестром юридических лиц. «Такие обсуждения важны, поскольку привлекают внимание к робототехнике и смежным технологиям. Постепенно внимание к теме растет, в том числе, со стороны власти», — отмечает эксперт.

Особенность России на сегодня состоит в низком проникновении роботов в промышленности и других секторах, говорит Виталий Недельский. При этом «Потребность в роботизации высока, в силу большой территории, сурового климата и относительно небольшого населения на эту площадь. В части компетенций в России есть сильные инженеры и программисты, поэтому предпосылки разрабатывать свои решения и адаптировать чужие — есть».

Будет ли Россия следовать за международным законодательством в области робототехники, или, как это часто бывает, пойдет своим путем? На этот вопрос сложно ответить определенно. «Надеюсь, что любое законотворчество будет способствовать созданию новых технологий и рабочих мест, а не их ограничению», — заключил Альберт Ефимов.

Материал подготовили: Наталья Бокарева, Марина Эфендиева