Статья посвящена гражданско-правовой ответственности за причинение вреда действиями автономных роботов. Развитие искусственного интеллекта, широкое применение автономных аппаратов приводят к появлению проблем технического и этического характера, в том числе актуальной становится проблема правового регулирования отношений робот - человек и робот - робот. В работе предложены общетеоретические положения, относящиеся к классификации обязательств из причинения вреда действиями роботов, рассмотрены специальные случаи ответ- ственности за причинение вреда отдельными видами роботов.
LEGAL ASPECT OF CIVIL LIABILITY FOR DAMAGES IN TORT AS A RESULT OF QUASI PARTY ROBOT PERFORMANCE.pdf Благодаря развитию робототехники, Роботы становятся все более сложными, автономными и способными принимать решения самосто- ятельно. Это в первую очередь связано с понятием глубоких нейрон- ных сетей, быстро обучающихся алгоритмов на них. Нейронные сети были известны ученым давно, но только в последнее время исследо- ватели находят возможности усовершенствовать «сетевые алгорит- мы», обучать и тренировать их. Широкое развитие получило компьютерное зрение, возможности таких искусственно-интеллектуальных систем искусственного зрения приближаются к человеческим, но со значительными техническими оговорками и в ограниченных сферах применения. 64 Правовые аспекты гражданско-правовой ответственности Власти штата Калифорния (США) легализовали использование ав- томобилей с функцией автопилота. Первые самоуправляемые автомо- били от Google ездят по дорогам Калифорнии и уже попадают в ДТП, в том числе зарегистрировано ДТП с пострадавшими [1]. В США к принятию готовится федеральный закон, признающий систему искус- ственного интеллекта, встроенную в беспилотные автомобили Google водителем [2]. Общественный транспорт будущем будет роботизирован и для управления им не потребуется водитель. Один из самоуправляемых автобусов передвигается по дорогам Швейцарии [3]. Его маршрут составляет 2,5 км. В Голландии прошло испытание самоуправляемо- го автобуса, который планируется запустить для движения по марш- руту 6 км [4]. В Греции самоуправляемый автобус передвигается 3 часа в день [5]. В Китае проходят испытания самоуправляемого междугороднего автобуса. Планируется, что маршрут автобуса бу- дет составлять более 30 км [6]. Китайская Baidu и BMW заявили о намерении создать прототип самоуправляемого автомобиля через 3 года [7]. В России на 2016-2018 гг. запланировано испытание самоуправля- емых КАМАЗов на трассе М11. В случае успешного испытания, са- моуправляемые КАМАЗы отправят по маршруту Хельсинки - Пекин. Подводные автономные роботы широко используются в России, например, чтобы доставать предметы с затонувших кораблей, а также для проведения подводных спасательных операций и добычи полез- ных ископаемых. Не все роботы представляют особый интерес и смогут в будущем получить права и защиту наравне с человеком, так как являются просто программируемыми механизмами. В связи с этим, роботов можно разделить на две группы в зависимости от обладания искусственным интеллектом: автономные роботы (обладают искусственным интеллектом, далее по тексту введем понятие «Робот»); машины-механизмы (не обладают искусственным интеллектом, далее по тексту - «машины-механизмы» или «робот»). Как известно, право реагирует на процессы, происходящие в обществе, со значительным опозданием, в то время когда уже накапливается значительное число прецедентов. На данном этапе прецедентов немного, но они уже известны. 65 Е.Н. Ирискина, К.О. Беляков Приведем некоторые примеры, о которых было упомянуто в СМИ. 29 июня 2015 г. робот убил человека на заводе «Фольксваген» в г. Бау- наталь (Германия). В мае 2014 г. в г. Ганновер на 44-летнее лицо рухну- ла стальная балка, которую отпустил робот. В 1997 г. почтовый робот совершил наезд на ногу женщины и затем закрыл дверь шкафа, оставив ее запертой внутри, информация о сумме компенсации осталась закры- той. Приведенные выше примеры показывают опасность, которую несет в себе развитие робототехники и искусственного интеллекта. В сложившейся ситуации актуально предлагать законодателю ва- рианты решения будущих ситуаций. Очень сложным вопросом явля- ется вопрос ответственности. Кто должен нести ответственность за действия Роботов. Что будут делать люди в случае причинения ущерба Роботом человеку или Роботом другому Роботу. Кто будет нести ответственность, когда избежать причинения вреда было не- возможно. Если мы будем говорить о США, то очевидно, что граждане США пойдут к юристам. Если мы будем говорить о Российской Федерации, то очевидно, что, руководствуясь действующим гражданским законодательством, граждане РФ пойдут в суд с исками к продавцам или производителям. В работах исследователей, занимающихся ответами на подобные вопросы, можно выделить два основных направления. Часть исследо- вателей предлагает возложить всю ответственность за любое причи- нение действиями Роботов на страховые компании. Другая часть ис- следователей предлагает обратиться к Римскому частному праву и провести всевозможные аналогии между правовым положением рабов и Роботов: Робот, как и раб, не имеет прав и обязанностей; Робот, как и раб, может принимать решения, имеющие правовые последствия, в том числе для собственника; рабы были наделены имуществом (пеку- лий), следовательно, необходимо наделять Роботов имуществом; ра- бы и Роботы способны причинять вред [8. С. 102]. В рамках данной статьи предлагается ответить на поставленные вопросы путем разбора возможных вариантов и построения системы классификации деликтных обязательств в зависимости от степени опасности, исходя из особенностей взаимоотношений Роботов и лю- дей. На данный момент в законодательстве и литературе не существу- ет классификации системы деликтных обязательств, отражающей су- щественные черты обязательств из причинения вреда Роботами. 66 Правовые аспекты гражданско-правовой ответственности Деликтные обязательства являются одним из старейших видов обязательств в гражданском праве и относятся к числу наиболее сложных. При росте ситуаций, связанных с участием Роботов, по- явится необходимость введения нового квазисубъекта гражданского правоотношения - Робота. Необходимость введения в Гражданский кодекс изменений связана с тем, что нужно урегулировать вопросы ответственности для избежания таких ситуаций, когда потерпевшая сторона может оказаться в крайне невыгодном положении. И вне за- висимости от наличия или отсутствия договорных отношений вред, причиненный действиями Роботов, должен подлежать возмещению по соответствующим правилам и нормам. Для урегулирования вопроса ответственности, связанного с действи- ями Роботов, необходимо дополнить существующую систему специаль- ных деликтов, устанавливающих особые составы правонарушения, кото- рые применяются в случаях, прямо предусмотренных законом. В действующем ГК РФ предусмотрены специальные деликты, но специальной ответственности за вред, причиненный действиями Ро- ботов, не выделено. Деликт может быть отнесен к группе обязательств по возмещению вреда, характеризующихся особенностями средств причинения вреда (робот - как источник повышенной опас- ности). Однако целостного решения проблема все еще не получила. По общему правилу причинитель вреда сам отвечает за причиненный вред. Но уже в действующем законодательстве выделяются отдель- ные случаи, в которых за вред, причиненный действиями одного ли- ца, отвечают другое лицо, непосредственный причинитель вреда и лицо, ответственное за его действия [9. С. 85]. В нашем случае непосредственный причинитель вреда - Робот. В случае роботов, которые относятся к машинам-механизмам, можно применять действующее законодательство. В ГК РФ есть ст. 1095, которая регулирует вред, причиненный недостатками товаров, в слу- чае приобретения товара не для использования в предприниматель- ской деятельности, а только для потребителей. При этом право выбо- ра, к кому предъявлять требования о возмещении вреда - к продавцу или к изготовителю - принадлежит потерпевшему в течение срока службы. Причинение вреда по истечении срока службы или 10- летнего срока со дня производства товара означает, что обязательство по возмещению вреда не возникает и вред не подлежит возмещению 67 Е.Н. Ирискина, К.О. Беляков при условии, что срок службы установлен и потребитель предупрежден о последствиях использования товара после срока службы. Автономный Робот не может быть отнесен к источнику повышен- ной опасности или товару с недостатками. Для ответа на вопрос об ответственности необходим детальный анализ и возможны различные варианты. Необходимым условием наступления деликтной ответ- ственности является наличие деликтоспособности, однако за Роботов на данном этапе развития гражданского законодательства должны отвечать определенные категории лиц. Установление категории лиц в каждом конкретном случае является важным, так как от этого зависит возможность возмещения вреда. Среди вариантов лиц, ответственных за причинение вреда, можно выделить следующих, не являющихся непосредственными причини- телями вреда. 1. Изобретатель (создатель как физическое лицо). 2. Программист (инженер, работник юридического лица), либо компания разработчик программного обеспечения (как юридическое лицо). Если лицо, ответственное за действия Робота, - программист, то юридическое лицо в порядке регресса могут возложить ответствен- ность на программиста. В качестве программиста может выступать рабочая группа, лаборатория, которая занималась программировани- ем какой-то важной части, сбой в которой привел к причинению ущерба, либо оператор, который запрограммировал Робота на опре- деленное действие, допустив ошибку. 3. Завод-изготовитель (как юридическое лицо). Если признать за- воды-изготовители безоговорочно ответственными за причинение любого вреда, то они будут платить по всем искам и возмещать ущерб всем, кому он был причинен. В этом случае у изготовителей не оста- нется денег на развитие технологии и исправлении уже существую- щих ошибок. 4. Пользователь / собственник (как юридическое либо физическое лицо). Это, например, человек, сидящий внутри самоуправляемого автомобиля, если Робота запрограммировал сам пользователь либо внес изменения, не соответствующие документации. В качестве ана- логии закона можем привести пример. В США согласно Sec 230 of the Communications decency Act (Акт о пристойности в телекоммуника- циях) разработчик сайта не отвечает за то, что размещено на сайте другим лицом. Таким образом, завод-изготовитель не должен отве- 68 Правовые аспекты гражданско-правовой ответственности чать за действия Пользователя по перепрограммированию / самостоятельному программированию Робота. 5. Третье лицо. Это лицо, которое завладело Роботом неправомер- но и перепрограммировало его на причинение вреда либо на действия в его интересах. Например, дрон вышел из-под контроля одного человека и был «перехвачен» злоумышленником. Лицо заставило Робота каким-то способом действовать в чужом интересе без поручения соб- ственника либо лица, ответственного за действия Робота. Обязан- ность возместить вред возможна, если собственник заключил договор с лицом, присматривающим за Роботом. В настоящее время вопрос ответственности решается на примере самоуправляемого автомобиля. Так, в Калифорнии качестве вариантов ре- шения споров, связанных с самоуправляемыми автомобилями, пришли к решению признать водителя лицом, несущим ответственность. При оценке ситуации и выявлении субъекта, ответственного за причинение вреда, суду нужно будет в первую очередь выяснить и исключить следующие варианты: 1. Когда Пользователь (Владелец) виноват в том, что Робот обучился и совершил правонарушение либо причинил вред. Это может быть умышленное обучение либо проявление небрежности в отноше- ниях с Роботом. 2. Имел место умысел потерпевшего. 3. Имело место согласие потерпевшего. 4. Когда третье лицо неправомерно завладело Роботом, либо внесло изменения в его программу, в результате чего было совершено правонарушение или причинен вред. 5. Имело место повреждение Робота третьим лицом. 6. Действие непреодолимой силы. После исключения вышеупомянутых случаев суд вправе класси- фицировать ситуацию по объекту деликтного обязательства, размеру причиненного ущерба, отрасли, в которой имело место действие для дальнейшего разбирательства по делу. С целью уменьшения издержек суда на разбирательство по делу и обобщению типичных ситуаций, которые будут иметь место в ближайшем будущем. Введем в понятийную базу категории по объекту деликтного обязательства. Категория A. К категории A относятся обязательства по возмещению вреда, причиненного жизни и здоровью человека и гражданина. 69 Е.Н. Ирискина, К.О. Беляков Категория B. К категории B относятся обязательства по возмещению вреда, причиненного Роботом. Категория C. К категории С относят обязательства по возмеще- нию вреда, причиненного имуществу и иным материальным ценно- стям. Введем в понятийную базу категории по степени уровня ущерба: Первая категория. К первой категории действий относятся административные правонарушения, повлекшие причинение материального ущерба в размере не более 100 тыс. руб., либо действия, повлекшие причинение материального ущерба в размере не более 100 тыс. руб. Вторая категория. Ко второй категории действий относятся адми- нистративные правонарушения, повлекшие причинение материального ущерба в размере более 100 тыс. руб., но не превышающем 1 млн руб. Либо действия, в результате которых был причинен ущерб в размере, превышающем 100 тыс. руб., но не превышающем 1 млн руб. Третья категория. К третьей категории действий относятся административные правонарушения, повлекшие причинение материального ущерба в размере более 1 млн руб., либо действия, в результате которых был причинен ущерб в размере, превышающем 1 млн руб. Введем в понятийную базу категории по лицам, ответственным за причинение вреда. Категория I. К категории I относится изобретатель. Категория II. К категории II относится программист. Категория III. К категории III относится завод-изготовитель. Категория IV. К категории IV относится пользователь/собственник. В зависимости от отрасли, в которой совершено действие и причинен вред, предлагается выделить категории по отраслям. В случае если дей- ствие совершено Роботом в условиях, не подпадающих под коды, то ему присваиваем «0». За такие категории примем существующий общерос- сийский классификатор видов экономической деятельности. В предло- женном классификаторе общее число различных вариантов будет равно 144*(M+1), где M - суммарное число кодов ОКВЭД. Любое действие Робота, повлекшее причинение вреда, можно классифицировать и выделить лицо, ответственное за причинение вреда. Рассмотрим применение классификатора на примере. Роботпылесос самообучился и смог перелезть через препятствия на кухне, 70 Правовые аспекты гражданско-правовой ответственности включить электроплиту и сжечь имущество собственников Робота [10]. По объекту деликтного обязательства дело относится к катего- рии С. По степени ущерба дело относится ко второй категории. Про- исшествие имело место в жилом доме собственника, следовательно, по отрасли относится к категории 0. Следовательно, классификация описанного прецедента - С 2 0. Исходя из этих параметров, лицом, ответственным за причинение вреда, признается завод-изготовитель. Для процессуальной экономии предлагается привлекать работников заводов-изготовителей к ответ- ственности напрямую, не применяя механизм предъявления регресс- ных требований. Итоговая классификация прецедента - С 2 III 0. Рассмотрим следующий кейс. Самоуправляемый автомобиль стал участником ДТП в Калифорнии. Автомобиль двигался по крайнему правому ряду и подъезжал к перекрестку, но, увидев помеху, стал пе- рестраиваться в левый ряд перед автобусом. Система машины рассчи- тала, что автобус должен пропустить ее, однако он этого не сделал. В результате ДТП у автомобиля повреждены левое крыло, левое ко- лесо и один из боковых датчиков водителя. На момент аварии в авто- мобиле находился человек, который ничего не сделал, так как считал, что автобус пропустит машину. В результате аварии пострадавших нет. В компании Google заявили, что во время аварии автобус двигал- ся со скоростью 24 км/ч, а автомобиль - 3,5 км/ч. Если эти данные верны, тогда самоходный автомобиль допустил ошибку, которую ча- сто совершают люди: недооценил реакцию другого водителя [1]. Ито- говая классификация прецедента - C 2 60.хх.хх III. Рассмотрим еще один пример, который потенциально возможен. Подводный Робот и человек-аквалангист работают на нефтедобывающей платформе в одном из заливов. Робот нанес человеку увечье. По объекту деликтного обязательства дело относится к категории А. По степени ущерба дело относится к первой категории. Происше- ствие имело место в нефтяной отрасли, поэтому, классификация по ОКВЭД - 11. Следовательно, классификация описанного прецеден- та - А 1 11. Исходя из этих параметров, лицом, ответственным за причинение вреда, признается собственник. Итоговая классификация прецедента - А 1 IV 11. Таким образом, в работе предложены общетеоретические положения, относящиеся к классификации обязательств из причинения, возникающих из взаимоотношений Робот-человек. Введение данного 71 Е.Н. Ирискина, К.О. Беляков классификатора способно уменьшить процессуальные издержки при разбирательстве дел, связанных с причинением вреда Роботами, до момента введения в гражданское право Робота как субъекта граждан- ских правоотношений. Благодарности Авторы выражают глубокую благодарность директору ЗАО «Эле- кард Девайсез» В.А. Ширшину за неоценимую помощь при работе над статьей.
Paranoid android: Cleaning gadget 'switches itself on' and moves onto kitchen hotplate in 'suicide bid' [Электронный ресурс]. URL: http://www.dailymail.co.uk/ news/article-2503733/Paranoid-android-Cleaning-gadget-switches-moves-kitchen- hotplate-suicide-bid.html.
Шевченко А.С., Шевченко Г.Н. Деликтные обязательства в российском гражданском праве : учеб. пособие. М. : Статут, 2013. 133 с.
Китайская Baidu и BMW решили создать самоуправляемый автобус за три года [Электронный ресурс]. URL: https://vc.ru/n/auto-autobus.
Pagallo U. The Law of Robots: Crimes, Contracts, and Torts. Springer, 2013.228 p.
China Rolls Out the 'World's First Driverless Bus' [Электронный ресурс]. URL: http://www.citylab.com/tech/2015/10/china-rolls-out-the-worlds-first-driverless- bus/408826/.
Driverless Buses in Trikala - European Initiative CityMobil2 [Электронный ре- сурс]. URL: https://greecealive.wordpress.com/2015/07/30/driverless-buses-in-trikala- european-initiative-citymobil2/.
EasyMile's driverless bus rolls-out in Singapore and California [Электронный ресурс]. URL: http://www.gizmag.com/easymile-ez10-driverless-bus/39891/.
В Нидерландах впервые испытан самоуправляемый автобус [Электронный ресурс]. URL: http://mir24.tv/news/Science/13830695.
Искусственный интеллект в беспилотных автомобилях Google признали водителем пострадавшими [Электронный ресурс]. URL: http://www.interfax.ru/ business/494074.
Самоуправляемый автомобиль Google попал в первое ДТП с пострадавшими [Электронный ресурс]. URL: https://vc.ru/n/google-accident.