ПРАВОВЫЕ АСПЕКТЫ ГРАЖДАНСКО-ПРАВОВОЙ ОТВЕТСТВЕННОСТИ ЗА ПРИЧИНЕНИЕ ВРЕДА ДЕЙСТВИЯМИ РОБОТА КАК КВАЗИСУБЪЕКТА ГРАЖДАНСКО-ПРАВОВЫХ ОТНОШЕНИЙ | Гуманитарная информатика. 2016. № 10. DOI: 10.17223/23046082/10/7

ПРАВОВЫЕ АСПЕКТЫ ГРАЖДАНСКО-ПРАВОВОЙ ОТВЕТСТВЕННОСТИ ЗА ПРИЧИНЕНИЕ ВРЕДА ДЕЙСТВИЯМИ РОБОТА КАК КВАЗИСУБЪЕКТА ГРАЖДАНСКО-ПРАВОВЫХ ОТНОШЕНИЙ

Статья посвящена гражданско-правовой ответственности за причинение вреда действиями автономных роботов. Развитие искусственного интеллекта, широкое применение автономных аппаратов приводят к появлению проблем технического и этического характера, в том числе актуальной становится проблема правового регулирования отношений робот - человек и робот - робот. В работе предложены общетеоретические положения, относящиеся к классификации обязательств из причинения вреда действиями роботов, рассмотрены специальные случаи ответ- ственности за причинение вреда отдельными видами роботов.

LEGAL ASPECT OF CIVIL LIABILITY FOR DAMAGES IN TORT AS A RESULT OF QUASI PARTY ROBOT PERFORMANCE.pdf Благодаря развитию робототехники, Роботы становятся все более сложными, автономными и способными принимать решения самосто- ятельно. Это в первую очередь связано с понятием глубоких нейрон- ных сетей, быстро обучающихся алгоритмов на них. Нейронные сети были известны ученым давно, но только в последнее время исследо- ватели находят возможности усовершенствовать «сетевые алгорит- мы», обучать и тренировать их. Широкое развитие получило компьютерное зрение, возможности таких искусственно-интеллектуальных систем искусственного зрения приближаются к человеческим, но со значительными техническими оговорками и в ограниченных сферах применения. 64 Правовые аспекты гражданско-правовой ответственности Власти штата Калифорния (США) легализовали использование ав- томобилей с функцией автопилота. Первые самоуправляемые автомо- били от Google ездят по дорогам Калифорнии и уже попадают в ДТП, в том числе зарегистрировано ДТП с пострадавшими [1]. В США к принятию готовится федеральный закон, признающий систему искус- ственного интеллекта, встроенную в беспилотные автомобили Google водителем [2]. Общественный транспорт будущем будет роботизирован и для управления им не потребуется водитель. Один из самоуправляемых автобусов передвигается по дорогам Швейцарии [3]. Его маршрут составляет 2,5 км. В Голландии прошло испытание самоуправляемо- го автобуса, который планируется запустить для движения по марш- руту 6 км [4]. В Греции самоуправляемый автобус передвигается 3 часа в день [5]. В Китае проходят испытания самоуправляемого междугороднего автобуса. Планируется, что маршрут автобуса бу- дет составлять более 30 км [6]. Китайская Baidu и BMW заявили о намерении создать прототип самоуправляемого автомобиля через 3 года [7]. В России на 2016-2018 гг. запланировано испытание самоуправля- емых КАМАЗов на трассе М11. В случае успешного испытания, са- моуправляемые КАМАЗы отправят по маршруту Хельсинки - Пекин. Подводные автономные роботы широко используются в России, например, чтобы доставать предметы с затонувших кораблей, а также для проведения подводных спасательных операций и добычи полез- ных ископаемых. Не все роботы представляют особый интерес и смогут в будущем получить права и защиту наравне с человеком, так как являются просто программируемыми механизмами. В связи с этим, роботов можно разделить на две группы в зависимости от обладания искусственным интеллектом:  автономные роботы (обладают искусственным интеллектом, далее по тексту введем понятие «Робот»);  машины-механизмы (не обладают искусственным интеллектом, далее по тексту - «машины-механизмы» или «робот»). Как известно, право реагирует на процессы, происходящие в обществе, со значительным опозданием, в то время когда уже накапливается значительное число прецедентов. На данном этапе прецедентов немного, но они уже известны. 65 Е.Н. Ирискина, К.О. Беляков Приведем некоторые примеры, о которых было упомянуто в СМИ. 29 июня 2015 г. робот убил человека на заводе «Фольксваген» в г. Бау- наталь (Германия). В мае 2014 г. в г. Ганновер на 44-летнее лицо рухну- ла стальная балка, которую отпустил робот. В 1997 г. почтовый робот совершил наезд на ногу женщины и затем закрыл дверь шкафа, оставив ее запертой внутри, информация о сумме компенсации осталась закры- той. Приведенные выше примеры показывают опасность, которую несет в себе развитие робототехники и искусственного интеллекта. В сложившейся ситуации актуально предлагать законодателю ва- рианты решения будущих ситуаций. Очень сложным вопросом явля- ется вопрос ответственности. Кто должен нести ответственность за действия Роботов. Что будут делать люди в случае причинения ущерба Роботом человеку или Роботом другому Роботу. Кто будет нести ответственность, когда избежать причинения вреда было не- возможно. Если мы будем говорить о США, то очевидно, что граждане США пойдут к юристам. Если мы будем говорить о Российской Федерации, то очевидно, что, руководствуясь действующим гражданским законодательством, граждане РФ пойдут в суд с исками к продавцам или производителям. В работах исследователей, занимающихся ответами на подобные вопросы, можно выделить два основных направления. Часть исследо- вателей предлагает возложить всю ответственность за любое причи- нение действиями Роботов на страховые компании. Другая часть ис- следователей предлагает обратиться к Римскому частному праву и провести всевозможные аналогии между правовым положением рабов и Роботов: Робот, как и раб, не имеет прав и обязанностей; Робот, как и раб, может принимать решения, имеющие правовые последствия, в том числе для собственника; рабы были наделены имуществом (пеку- лий), следовательно, необходимо наделять Роботов имуществом; ра- бы и Роботы способны причинять вред [8. С. 102]. В рамках данной статьи предлагается ответить на поставленные вопросы путем разбора возможных вариантов и построения системы классификации деликтных обязательств в зависимости от степени опасности, исходя из особенностей взаимоотношений Роботов и лю- дей. На данный момент в законодательстве и литературе не существу- ет классификации системы деликтных обязательств, отражающей су- щественные черты обязательств из причинения вреда Роботами. 66 Правовые аспекты гражданско-правовой ответственности Деликтные обязательства являются одним из старейших видов обязательств в гражданском праве и относятся к числу наиболее сложных. При росте ситуаций, связанных с участием Роботов, по- явится необходимость введения нового квазисубъекта гражданского правоотношения - Робота. Необходимость введения в Гражданский кодекс изменений связана с тем, что нужно урегулировать вопросы ответственности для избежания таких ситуаций, когда потерпевшая сторона может оказаться в крайне невыгодном положении. И вне за- висимости от наличия или отсутствия договорных отношений вред, причиненный действиями Роботов, должен подлежать возмещению по соответствующим правилам и нормам. Для урегулирования вопроса ответственности, связанного с действи- ями Роботов, необходимо дополнить существующую систему специаль- ных деликтов, устанавливающих особые составы правонарушения, кото- рые применяются в случаях, прямо предусмотренных законом. В действующем ГК РФ предусмотрены специальные деликты, но специальной ответственности за вред, причиненный действиями Ро- ботов, не выделено. Деликт может быть отнесен к группе обязательств по возмещению вреда, характеризующихся особенностями средств причинения вреда (робот - как источник повышенной опас- ности). Однако целостного решения проблема все еще не получила. По общему правилу причинитель вреда сам отвечает за причиненный вред. Но уже в действующем законодательстве выделяются отдель- ные случаи, в которых за вред, причиненный действиями одного ли- ца, отвечают другое лицо, непосредственный причинитель вреда и лицо, ответственное за его действия [9. С. 85]. В нашем случае непосредственный причинитель вреда - Робот. В случае роботов, которые относятся к машинам-механизмам, можно применять действующее законодательство. В ГК РФ есть ст. 1095, которая регулирует вред, причиненный недостатками товаров, в слу- чае приобретения товара не для использования в предприниматель- ской деятельности, а только для потребителей. При этом право выбо- ра, к кому предъявлять требования о возмещении вреда - к продавцу или к изготовителю - принадлежит потерпевшему в течение срока службы. Причинение вреда по истечении срока службы или 10- летнего срока со дня производства товара означает, что обязательство по возмещению вреда не возникает и вред не подлежит возмещению 67 Е.Н. Ирискина, К.О. Беляков при условии, что срок службы установлен и потребитель предупрежден о последствиях использования товара после срока службы. Автономный Робот не может быть отнесен к источнику повышен- ной опасности или товару с недостатками. Для ответа на вопрос об ответственности необходим детальный анализ и возможны различные варианты. Необходимым условием наступления деликтной ответ- ственности является наличие деликтоспособности, однако за Роботов на данном этапе развития гражданского законодательства должны отвечать определенные категории лиц. Установление категории лиц в каждом конкретном случае является важным, так как от этого зависит возможность возмещения вреда. Среди вариантов лиц, ответственных за причинение вреда, можно выделить следующих, не являющихся непосредственными причини- телями вреда. 1. Изобретатель (создатель как физическое лицо). 2. Программист (инженер, работник юридического лица), либо компания разработчик программного обеспечения (как юридическое лицо). Если лицо, ответственное за действия Робота, - программист, то юридическое лицо в порядке регресса могут возложить ответствен- ность на программиста. В качестве программиста может выступать рабочая группа, лаборатория, которая занималась программировани- ем какой-то важной части, сбой в которой привел к причинению ущерба, либо оператор, который запрограммировал Робота на опре- деленное действие, допустив ошибку. 3. Завод-изготовитель (как юридическое лицо). Если признать за- воды-изготовители безоговорочно ответственными за причинение любого вреда, то они будут платить по всем искам и возмещать ущерб всем, кому он был причинен. В этом случае у изготовителей не оста- нется денег на развитие технологии и исправлении уже существую- щих ошибок. 4. Пользователь / собственник (как юридическое либо физическое лицо). Это, например, человек, сидящий внутри самоуправляемого автомобиля, если Робота запрограммировал сам пользователь либо внес изменения, не соответствующие документации. В качестве ана- логии закона можем привести пример. В США согласно Sec 230 of the Communications decency Act (Акт о пристойности в телекоммуника- циях) разработчик сайта не отвечает за то, что размещено на сайте другим лицом. Таким образом, завод-изготовитель не должен отве- 68 Правовые аспекты гражданско-правовой ответственности чать за действия Пользователя по перепрограммированию / самостоятельному программированию Робота. 5. Третье лицо. Это лицо, которое завладело Роботом неправомер- но и перепрограммировало его на причинение вреда либо на действия в его интересах. Например, дрон вышел из-под контроля одного человека и был «перехвачен» злоумышленником. Лицо заставило Робота каким-то способом действовать в чужом интересе без поручения соб- ственника либо лица, ответственного за действия Робота. Обязан- ность возместить вред возможна, если собственник заключил договор с лицом, присматривающим за Роботом. В настоящее время вопрос ответственности решается на примере самоуправляемого автомобиля. Так, в Калифорнии качестве вариантов ре- шения споров, связанных с самоуправляемыми автомобилями, пришли к решению признать водителя лицом, несущим ответственность. При оценке ситуации и выявлении субъекта, ответственного за причинение вреда, суду нужно будет в первую очередь выяснить и исключить следующие варианты: 1. Когда Пользователь (Владелец) виноват в том, что Робот обучился и совершил правонарушение либо причинил вред. Это может быть умышленное обучение либо проявление небрежности в отноше- ниях с Роботом. 2. Имел место умысел потерпевшего. 3. Имело место согласие потерпевшего. 4. Когда третье лицо неправомерно завладело Роботом, либо внесло изменения в его программу, в результате чего было совершено правонарушение или причинен вред. 5. Имело место повреждение Робота третьим лицом. 6. Действие непреодолимой силы. После исключения вышеупомянутых случаев суд вправе класси- фицировать ситуацию по объекту деликтного обязательства, размеру причиненного ущерба, отрасли, в которой имело место действие для дальнейшего разбирательства по делу. С целью уменьшения издержек суда на разбирательство по делу и обобщению типичных ситуаций, которые будут иметь место в ближайшем будущем. Введем в понятийную базу категории по объекту деликтного обязательства. Категория A. К категории A относятся обязательства по возмещению вреда, причиненного жизни и здоровью человека и гражданина. 69 Е.Н. Ирискина, К.О. Беляков Категория B. К категории B относятся обязательства по возмещению вреда, причиненного Роботом. Категория C. К категории С относят обязательства по возмеще- нию вреда, причиненного имуществу и иным материальным ценно- стям. Введем в понятийную базу категории по степени уровня ущерба: Первая категория. К первой категории действий относятся административные правонарушения, повлекшие причинение материального ущерба в размере не более 100 тыс. руб., либо действия, повлекшие причинение материального ущерба в размере не более 100 тыс. руб. Вторая категория. Ко второй категории действий относятся адми- нистративные правонарушения, повлекшие причинение материального ущерба в размере более 100 тыс. руб., но не превышающем 1 млн руб. Либо действия, в результате которых был причинен ущерб в размере, превышающем 100 тыс. руб., но не превышающем 1 млн руб. Третья категория. К третьей категории действий относятся административные правонарушения, повлекшие причинение материального ущерба в размере более 1 млн руб., либо действия, в результате которых был причинен ущерб в размере, превышающем 1 млн руб. Введем в понятийную базу категории по лицам, ответственным за причинение вреда. Категория I. К категории I относится изобретатель. Категория II. К категории II относится программист. Категория III. К категории III относится завод-изготовитель. Категория IV. К категории IV относится пользователь/собственник. В зависимости от отрасли, в которой совершено действие и причинен вред, предлагается выделить категории по отраслям. В случае если дей- ствие совершено Роботом в условиях, не подпадающих под коды, то ему присваиваем «0». За такие категории примем существующий общерос- сийский классификатор видов экономической деятельности. В предло- женном классификаторе общее число различных вариантов будет равно 144*(M+1), где M - суммарное число кодов ОКВЭД. Любое действие Робота, повлекшее причинение вреда, можно классифицировать и выделить лицо, ответственное за причинение вреда. Рассмотрим применение классификатора на примере. Роботпылесос самообучился и смог перелезть через препятствия на кухне, 70 Правовые аспекты гражданско-правовой ответственности включить электроплиту и сжечь имущество собственников Робота [10]. По объекту деликтного обязательства дело относится к катего- рии С. По степени ущерба дело относится ко второй категории. Про- исшествие имело место в жилом доме собственника, следовательно, по отрасли относится к категории 0. Следовательно, классификация описанного прецедента - С 2 0. Исходя из этих параметров, лицом, ответственным за причинение вреда, признается завод-изготовитель. Для процессуальной экономии предлагается привлекать работников заводов-изготовителей к ответ- ственности напрямую, не применяя механизм предъявления регресс- ных требований. Итоговая классификация прецедента - С 2 III 0. Рассмотрим следующий кейс. Самоуправляемый автомобиль стал участником ДТП в Калифорнии. Автомобиль двигался по крайнему правому ряду и подъезжал к перекрестку, но, увидев помеху, стал пе- рестраиваться в левый ряд перед автобусом. Система машины рассчи- тала, что автобус должен пропустить ее, однако он этого не сделал. В результате ДТП у автомобиля повреждены левое крыло, левое ко- лесо и один из боковых датчиков водителя. На момент аварии в авто- мобиле находился человек, который ничего не сделал, так как считал, что автобус пропустит машину. В результате аварии пострадавших нет. В компании Google заявили, что во время аварии автобус двигал- ся со скоростью 24 км/ч, а автомобиль - 3,5 км/ч. Если эти данные верны, тогда самоходный автомобиль допустил ошибку, которую ча- сто совершают люди: недооценил реакцию другого водителя [1]. Ито- говая классификация прецедента - C 2 60.хх.хх III. Рассмотрим еще один пример, который потенциально возможен. Подводный Робот и человек-аквалангист работают на нефтедобывающей платформе в одном из заливов. Робот нанес человеку увечье. По объекту деликтного обязательства дело относится к категории А. По степени ущерба дело относится к первой категории. Происше- ствие имело место в нефтяной отрасли, поэтому, классификация по ОКВЭД - 11. Следовательно, классификация описанного прецеден- та - А 1 11. Исходя из этих параметров, лицом, ответственным за причинение вреда, признается собственник. Итоговая классификация прецедента - А 1 IV 11. Таким образом, в работе предложены общетеоретические положения, относящиеся к классификации обязательств из причинения, возникающих из взаимоотношений Робот-человек. Введение данного 71 Е.Н. Ирискина, К.О. Беляков классификатора способно уменьшить процессуальные издержки при разбирательстве дел, связанных с причинением вреда Роботами, до момента введения в гражданское право Робота как субъекта граждан- ских правоотношений. Благодарности Авторы выражают глубокую благодарность директору ЗАО «Эле- кард Девайсез» В.А. Ширшину за неоценимую помощь при работе над статьей.

Ключевые слова

autonomous robot, artificial intelligent robot, artificial intelligence, liability for third party, Civil liability, автономные роботы, интеллектуальные роботы, искусственный интеллект, ответственность за третьих лиц, гражданско-правовая ответственность

Авторы

ФИООрганизацияДополнительноE-mail
Ирискина Е.Н.Закрытое акционерное общество «Элекард Девайсез»
Беляков К.О.Национальный исследовательский Томский государственный университет
Всего: 2

Ссылки

Paranoid android: Cleaning gadget 'switches itself on' and moves onto kitchen hotplate in 'suicide bid' [Электронный ресурс]. URL: http://www.dailymail.co.uk/ news/article-2503733/Paranoid-android-Cleaning-gadget-switches-moves-kitchen- hotplate-suicide-bid.html.
Шевченко А.С., Шевченко Г.Н. Деликтные обязательства в российском гражданском праве : учеб. пособие. М. : Статут, 2013. 133 с.
Китайская Baidu и BMW решили создать самоуправляемый автобус за три года [Электронный ресурс]. URL: https://vc.ru/n/auto-autobus.
Pagallo U. The Law of Robots: Crimes, Contracts, and Torts. Springer, 2013.228 p.
China Rolls Out the 'World's First Driverless Bus' [Электронный ресурс]. URL: http://www.citylab.com/tech/2015/10/china-rolls-out-the-worlds-first-driverless- bus/408826/.
Driverless Buses in Trikala - European Initiative CityMobil2 [Электронный ре- сурс]. URL: https://greecealive.wordpress.com/2015/07/30/driverless-buses-in-trikala- european-initiative-citymobil2/.
EasyMile's driverless bus rolls-out in Singapore and California [Электронный ресурс]. URL: http://www.gizmag.com/easymile-ez10-driverless-bus/39891/.
В Нидерландах впервые испытан самоуправляемый автобус [Электронный ресурс]. URL: http://mir24.tv/news/Science/13830695.
Искусственный интеллект в беспилотных автомобилях Google признали водителем пострадавшими [Электронный ресурс]. URL: http://www.interfax.ru/ business/494074.
Самоуправляемый автомобиль Google попал в первое ДТП с пострадавшими [Электронный ресурс]. URL: https://vc.ru/n/google-accident.
 ПРАВОВЫЕ АСПЕКТЫ ГРАЖДАНСКО-ПРАВОВОЙ ОТВЕТСТВЕННОСТИ ЗА ПРИЧИНЕНИЕ ВРЕДА ДЕЙСТВИЯМИ РОБОТА КАК КВАЗИСУБЪЕКТА ГРАЖДАНСКО-ПРАВОВЫХ ОТНОШЕНИЙ | Гуманитарная информатика. 2016. № 10. DOI: 10.17223/23046082/10/7

ПРАВОВЫЕ АСПЕКТЫ ГРАЖДАНСКО-ПРАВОВОЙ ОТВЕТСТВЕННОСТИ ЗА ПРИЧИНЕНИЕ ВРЕДА ДЕЙСТВИЯМИ РОБОТА КАК КВАЗИСУБЪЕКТА ГРАЖДАНСКО-ПРАВОВЫХ ОТНОШЕНИЙ | Гуманитарная информатика. 2016. № 10. DOI: 10.17223/23046082/10/7