Тенденции правового регулирования объектов и технологий, связанных с искусственным интеллектом

О.Н. Толочко

Научно-технический прогресс ставит перед законодателем и правоприменительными структурами новые вопросы, которые необходимо обсуждать и решать в юридической науке. Так, остается неурегулированным ряд правовых проблем, связанных с развитием искусственного интеллекта. И хотя это достижение науки и техники существует уже почти семьдесят лет, отечественная правовая доктрина, к сожалению, не уделяет ему должного внимания. Соответственно, законодательство остается не вполне готовым к регулированию взаимоотношений человека и машины, способной имитировать мыслительный процесс.

Под искусственным интеллектом принято понимать систему средств, позволяющих воспроизводить определенные функции человеческого мышления [1, с. 442]. В Республике Беларусь создание, обучение нейронных сетей и иных алгоритмов в специализированных разделах искусственного интеллекта, а также реализация результатов данной деятельности стимулируются посредством льготного правового и налогового режима, предоставленного Парку высоких технологий. Такая деятельность, согласно п. 3 Положения о ПВТ от 22.09.2005 (в ред. Декрета № 8 от 21.12.2017), дает основание к регистрации лица в качестве резидента ПВТ со всеми вытекающими преференциями. Формирование условий для развития искусственного интеллекта наряду с другими атрибутами цифровой экономики определено в Беларуси как одна из государственных задач [2]. Вместе с тем, правовое регулирование технологий искусственного интеллекта пока не вполне отвечает уровню современной науки и техники.

Государственная программа развития цифровой экономики и информационного общества на 2016–2020 г., утв. Постановлением Совета Министров Республики Беларусь 23.03.2016 № 235, не содержит указаний ни на мероприятия по развитию искусственного интеллекта, ни на совершенствование правового регулирования в этой сфере. Законопроекты, регулирующие в той или иной мере рассматриваемые отношения, также пока не планируются.[1] Не затрагиваются проблемы правового регулирования технологий искусственного интеллекта и в Декрете Президента Республики Беларусь 21.12.2017 № 8 «О развитии цифровой экономики».

Вместе с тем, актуальность этих проблем нельзя недооценивать. Разработка методов и средств правового регулирования в сфере применения искусственного интеллекта включена в разряд приоритетных задач во многих государствах.

В КНР в 2017 г. был принят План развития технологий и искусственного интеллекта нового поколения, в соответствии с которым к 2030 году китайские технологии искусственного интеллекта должны стать ведущими в мире, а сам Китай, по мысли разработчиков, превратится в крупнейший инновационный центр. К 2020 г. предполагается принять первые законы, регулирующие различные аспекты создания и применения искусственного интеллекта [3].

Во Франции в 2018 г. была принята национальная стратегия в сфере искусственного интеллекта, в соответствии с которой планируется в течение 5 лет инвестировать около 1,5 млрд евро в инновации и исследования технологий искусственного интеллекта по четырем направлениям: здравоохранение, транспорт, окружающая среда и оборона, безопасность. Законодательное регулирование предполагается сфокусировать на прозрачности алгоритмов, используемых в социально значимых областях, а также на ответственности лиц, создающих соответствующие продукты и технологии [4].

Разработка тематических нормативных актов ведется в Российской Федерации. Пунктом 1.8.1 раздела «Дорожная карта» Программы «Цифровая экономика Российской Федерации», утв. Распоряжением Правительства РФ от 28.07.2017 № 1632-р, на 2019 г. запланировано внедрение «регулирования правовых вопросов, связанных с использованием робототехники, инструментов искусственного интеллекта» [5]. К этой работе привлекаются различные специалисты и организации, такие как, например, Исследовательский центр проблем регулирования робототехники и искусственного интеллекта «Робоправо», который, как сообщается, уже подготовил и внес в Комитет Госдумы по экономической политике, промышленности, инновационному развитию и предпринимательству Модельную конвенцию по робототехнике и искусственному интеллекту [6].Проект представляет 42 правила, относящихся к безопасности, созданию и использованию роботов, к регулированию процесса разработки, включая ограничения на применение военных роботов.

Проблемы правового регулирования отношений, связанных с развитием искусственного интеллекта, нашли отражение в резолюции Европарламента с рекомендациями по нормам гражданского права о робототехнике [7], а влияние технологий искусственного интеллекта на права человека послужило основанием к принятию в 2017 году рекомендации Парламентской Ассамблеи Совета Европы «Технологическая конвергенция, искусственный интеллект и права человека» [8].

Однако, несмотря на возрастающее внимание юридической общественности, в целом правовое регулирование новых отношений, связанных с развитием искусственного интеллекта, остается во всем мире «слепой зоной». Республика Беларусь, которая ставит амбициозные цели по развитию инноваций, тоже может внести вклад в решение этой задачи.

Анализ правовой, философской и экономической литературы по проблемам искусственного интеллекта показывает, что четкого понимания направлений совершенствования законодательства о технологиях искусственного интеллекта на данный момент нет. Очевидно, что проблема носит межотраслевой характер, и решить ее в рамках одного документа (такого как, например, упомянутая «Модельная конвенция по робототехнике и искусственному интеллекту»), вряд ли возможно. Потребуется работа в рамках целого ряда правовых отраслей.

Как представляется, юридические проблемы, связанные с технологиями искусственного интеллекта, можно условно сгруппировать по следующим позициям.

Первое направление – это вопросы правового регулирования процесса создания новых технологий искусственного интеллекта.

Эта часть проблем связана с законодательством об инновациях и инновационной деятельности. Закон Республики Беларусь об инновационной политике и инновационной деятельности 10.07.2012 № 425-З призван стимулировать все сферы, отнесенные к инновационной деятельности. Он не касается напрямую вопросов искусственного интеллекта, однако от качества правового регулирования инновационной сферы зависят и результаты в области технологий искусственного интеллекта. Закон связывает развитие инновационной деятельности с реализацией Государственной программы инновационного развития, других программ, инновационных проектов, с выпуском инновационных товаров и, в конечном счете, с государственной поддержкой, которая предоставляется в соответствии со специальной процедурой.

Вместе с тем, получение значимых результатов в инновационной сфере не всегда связано с государственной поддержкой отдельных проектов. Здесь скорее речь должна идти о формировании инновационной среды, т.е. такого состояния социума, которое поощряло бы всякое проявление инициативы и творчества. На этот факт, в частности, обращали внимание разработчики первой Стратегической программы для создания, охраны и использования объектов интеллектуальной собственности, принятой в свое время в Японии [9, c. 39].

По данным ВОИС, 26 из 30 ведущих заявителей на получение патентов в области искусственного интеллекта – частные компании, и лишь 4 представляют собой университеты или государственные научно-исследовательские организации [10, гл. 4]. Что касается последних, то крупнейшей из научных организаций является Китайская академия наук (17 место с 2,5 тысячами семейств патентов-аналогов). Линейный вывод из этих фактов состоит в том, что в прорывных технологических сферах ставку лучше делать на частный сектор, а государственные ресурсы направлять на общее развитие академической науки. «Нелинейный» вывод заключается в необходимости поиска новых форм стимулирования инновационной деятельности. По крайней мере, в рассматриваемом секторе заметных результатов пока мало: заявки на патенты в области искусственного интеллекта в Беларуси на данный момент фактически не подаются [11], хотя в мире количество изобретений в этой области за последние 5 лет удвоилось и составило более 340 тысяч [10, гл. 3].

Вторым направлением совершенствования законодательства являются вопросы правовой охраны технологий искусственного интеллекта как объектов интеллектуальной собственности.

Данное направление следует разделить на две разные сферы: (1) правовая охрана объектов и технологий искусственного интеллекта и (2) права на новые объекты, созданные при помощи искусственного интеллекта.

Правовая охрана рассматриваемых технологий осуществляется посредством патентования. Наиболее часто патентуемыми технологиями искусственного интеллекта, по данным ВОИС, в настоящее время являются:

– машинное обучение, прежде всего, нейронные сети, облегчающие машинный перевод, а также логистические технологии перевозки пассажиров, оптимизирующие маршруты перевозки (за последние 5 лет прирост 111%);

– технологии распознавания речи (количество патентных заявок за последние 5 лет увеличилось в 20 раз);

– технологии распознавания изображений (компьютерное зрение);

– технологии управления различными манипуляторами, автономными транспортными средствами;

– применение искусственного интеллекта в роботохирургии и персонализированной медицине;

– телекоммуникационные технологии, технологии в сфере персональных устройств, включая технологию виртуального помощника, камеру, распознающую черты лица для портретной фотосъемки, и др. [10].

Однако патентование технологий искусственного интеллекта не решает проблему прав на результаты, получаемые при помощи таких технологий, – например, на созданные искусственным интеллектом музыкальные, художественные или литературные произведения. Вместе с тем, один из вопросов состоит в определении субъекта прав на такой продукт.

Ответ на этот вопрос, очевидно, связан с общефилософским вопросом о принципиальной способности машины к творчеству.

Исключительные права, согласно действующим в настоящее время нормам международного и национального права интеллектуальной собственности, предоставляются только на результаты творческой деятельности, которая до последнего времени признавалась только за человеком [12].

Компьютерное творчество пока остается в праве нераскрытой проблемой. Создаваемые компьютерами изображения, музыкальные произведения и тексты часто неотличимы от произведений, созданных людьми. Однако вопрос о возможности защиты созданного компьютером продукта авторским правом не решен. Если одно лицо создало алгоритм искусственного интеллекта, а другое лицо им воспользовалось для создания нового результата, то кто является его автором – создатель машины, ее пользователь, либо обоих можно считать соавторами? Можно ли, учитывая автономность работы машины и тот факт, что она принимает решения независимо от создателя, считать ее автором произведения? Например, в компьютерных играх используются алгоритмы моментального генерирования контента, которые в режиме реального времени создают на экране пользователя и в памяти компьютера персонажей и тексты, сформированные в том числе и вместе с игроками.

Развитие лингвистических технологий искусственного интеллекта значительно улучшило качество литературных и технических переводов. Однако литературный перевод является объектом правовой охраны. Должна ли предоставляться правовая охрана результату компьютерного перевода, особенно в тех случаях, когда такой перевод был отредактирован, хотя и в незначительной части, человеком?

Системы с искусственным интеллектом пока не стали отдельной категорией в праве интеллектуальной собственности. Однако проблема, связанная с ролью человека в таком (творческом?) процессе, уже существует.

В вопросе о способности искусственного интеллекта к творчеству мнения авторов расходятся. Некоторые исследователи полагают, что четкой границы между мыслительной деятельностью человека и аналогичными процессами, происходящими в искусственном интеллекте, нет. Степень сложности решаемых задач, степень спонтанности, «душа» и другие атрибуты творчества не могут служить достоверными критериями: искусственный интеллект способен решать гораздо более сложные задачи, чем это делает человек; степень неожиданности предлагаемого решения также может быть не в пользу человека; эмоциональная составляющая в продукте, созданном человеком и машиной, не всегда определима для стороннего наблюдателя. Кроме того, как пишут литовские исследователи П. Черка, Ю. Гриджиене и Г. Сирбиките, если искусственный интеллект будущего оправдает ожидания, т.е. окажется мыслящим человекоподобным роботом, обладающим чувствами и эмоциями, то чтобы очертить роли роботов в обществе, потребуется пересмотреть существующую правовую систему и адаптировать ее согласно изменяющимся потребностям [13]. Нормативное правовое закрепление автономного статуса искусственного интеллекта, полагает О.А. Ястребов, может повлечь и обязательно повлечет актуализацию вопроса о его позиционировании в качестве особой формы личности («электронное лицо» или иной концепт) и, соответственно, о его правах, в том числе фундаментальных неотъемлемых [14; 15].

При таком решении вопроса – предоставлении искусственному интеллекту элементов правосубъектности – логичным становится и предоставление ему авторских прав на созданный им продукт [16].

Третьим вариантом решения проблемы может быть отказ от предоставления исключительных прав на объекты, созданные посредством искусственного интеллекта, т.е. их свободное использование в режиме общественного достояния. Однако такое решение способно не лучшим образом сказаться на правах авторов – физических лиц.

В любом случае очевидно, что вопрос необходимо исследовать, обсуждать и решать.

В целом, как отмечает Генеральный директор ВОИС Ф. Гарри, внедрение и использование технологий искусственного интеллекта будет иметь последствия как для законодательства и политики в сфере интеллектуальной собственности, так и для администрирования систем интеллектуальной собственности по всему миру [18].

Третьим направлением трансформации права, обусловленной развитием технологий искусственного интеллекта, является проблема юридической ответственности за решения и действия, предпринимаемые такими системами.

Так, ряд правовых проблем связан с применением технологий, самообучающихся на основании полученной из внешнего мира информации, – например, технологий искусственного интеллекта в беспилотном транспорте. Такие системы могут действовать независимо от воли их создателей, т.е. принимать самостоятельные решения исходя из собственного анализа текущей обстановки. Например, самодвижущееся транспортное средство в острой ситуации на дороге (если, к примеру, на пути движения внезапно появится человек), может принять решение в пользу пассажира или в пользу пешехода. Остается открытым также вопрос ответственности за причиненный в результате вред.

В российской литературе высказывалась точка зрения, согласно которой гражданская ответственность в таких ситуациях может строиться на принципах, аналогичных правовому режиму животных: ответственность за вред, причиненный роботом, лежит на его владельце, так же как ответственность за вред, причиненный животным [19, c. 167]. Другим предложением было распространение на системы искусственного интеллекта норм о юридических лицах. Поскольку юридическое лицо тоже является искусственно сконструированным субъектом, то и роботов можно наделить соответствующими правами [19, c. 164]. Предлагалось также применять к искусственному интеллекту правила об ответственности за вред, причиненный источником повышенной опасности [20]. Однако ни одна из этих конструкций не способна решить проблему. Жесткое регулирование ответственности, как в случае с режимом животных или режимом источника повышенной опасности, отмечается в литературе, может сдерживать развитие технологий. К тому же далеко не все требующие регулирования технологии искусственного интеллекта можно отнести к источникам повышенной опасности. Что касается режима юридических лиц, то он так или иначе предполагает человеческую волю в принятии решений, и всегда можно найти физическое лицо, ответственное в итоге за принятое решение. Автономная же система искусственного интеллекта способна действовать независимо от воли её создателя [20].

Актуальным является вопрос о правомерности самих алгоритмов, на которых основана соответствующая технология искусственного интеллекта. Например, алгоритм присвоения кредитного рейтинга, который может ограничивать доступ лица к финансовым ресурсам, или алгоритмы оценки определенных качеств, способные закрывать возможности реализации тех или иных прав, например, на трудоустройство или доступ к информации.

В 2016 г. в Висконсине (США) на основе машинного алгоритма, оценивающего степень возможности рецидива преступления, судья приговорил гражданина к длительному сроку заключения. Подсудимый оспорил применение данного алгоритма, поскольку критерии, по которым машина оценивала возможность рецидива, не были представлены в суде, – разработчик ссылался на коммерческую тайну. Тем не менее, приговор был оставлен в силе [21].

Для Беларуси проблема является актуальной, среди прочего, в связи с формированием баз данных, содержащих различного рода информацию о трудовой деятельности, об административной и уголовной ответственности, о задолженности по гражданско-правовым обязательствам, о состоянии здоровья лиц и др. Не станет ли использование этих баз данных препятствием к реализации конституционных прав граждан? Например, посредством применения алгоритмов, по которым технология искусственного интеллекта сможет принимать решения о целесообразности приема на работу, о размере оплаты за те или иные услуги, о зачислении на обучение, о предоставлении помощи или субсидий и т.д.? Всё это теоретически способно сделать человека заложником искусственного интеллекта в лучших традициях жанра фантастики.

Подводя итог, следует констатировать необходимость обсуждения правовых проблем, обусловленных появлением в нашей жизни технологий искусственного интеллекта. Приведенные выше вопросы – лишь верхушка айсберга. Исключительно важно привлекать к решению этих проблем широкие слои общества, от технических специалистов, сознающих возможности использования таких технологий, до студентов юридических факультетов, которые, не исключено, способны предложить нестандартные ответы для задач, не поддающихся решению в рамках традиционной юридической парадигмы.

1. Новейший философский словарь. – Мн.: Интерпресссервис; Книжный Дом, 2001. – 1280 с.
2. Послание белорусскому народу и Национальному собранию 21 апреля 2017 года // Официальный Интернет-портал Президента Республики Беларусь. – Режим доступа: http://president.gov.by/ru/news_ru/view/ezhegodnoe-poslanie-k-belorusskomu-narodu-i-natsionalnomu-sobraniju-16059/ . – Дата доступа: 28.02.2019.
3. China’s Got a Huge Artificial Intelligence Plan // Bloomberg [Electronic resource]. – Mode of access: https://www.bloomberg.com/news/articles/2017-07-21/china-artificial-intelligence-plan-seeks-59-billion-industry. – Date of access: 28.02.2019.
4. The President of the French Republic presented his vision and strategy to make France a leader in artificial intelligence (AI) at the Coll?ge de France on 29 March 2018. // AI for Humanity [Electronic resource]. – Mode of access: https://www.aiforhumanity.fr/en/ . – Date of access: 28.02.2019.
5. Об утверждении программы «Цифровая экономика Российской Федерации»: распоряжение Правительства РФ от 28.07.2017 № 1632-р. – Режим доступа: http://government.ru/docs/28653/ .  – Дата доступа: 28.02.2019.
6. В Госдуме узаконят отношения роботов и людей // РБК [Электронный ресурс]. – Режим доступа: https://www.rbc.ru/technology_and_media/20/11/2017/5a0ef3ac9a79474efac57ea3. – Дата доступа: 28.02.2019.
7. European Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL)) // European Parliament [Electronic resource]. – Mode of access: http://www.europarl.europa.eu/sides/getDoc.do?pubRef=-//EP//TEXT+TA+P8-TA-2017-0051+0+DOC+XML+V0//EN . – Date of access: 28.02.2019.
8. Recommendation № 2102 (2017) of Parliamentary Assembly of the Council of Europe «Technological convergence, artificial intelligence and human rights», 28 April 2017 // Parliamentary Assembly [Electronic resource]. – Mode of access: http://assembly.coe.int/nw/xml/XRef/Xref-XML2HTML-en.asp?fileid=23726&lang=en. – Date of access: 28.02.2019.
9. Солдатова Н.В., Леонтьев Б.Б. Государственная стратегия интеллектуальной собственности: опыт Японии // Правовая информатика. – 2013. – № 3. – С. 36–47.
10. Тенденции развития технологий – искусственный интеллект: исследование ВОИС (2019). // Всемирная организация интеллектуальной собственности [Электронный ресурс]. – Режим доступа: https://www.wipo.int/edocs/pubdocs/en/wipo_pub_1055.pdf. – Дата доступа: 28.02.2019.
11. Перечень перспективных изобретений // Национальный центр интеллектуальной собственности [Электронный ресурс]. – Режим доступа: http://belgospatent.by/database/index.php?pref=inv&lng=ru&page=2&perspect=1. – Дата доступа: 28.02.109.
12. Рыжов В.В., Сайфулин В.Г. К вопросу о способности искусственного интеллекта к научному творчеству // Вестник Волгоградского государственного университета. Серия 7. Философия. – 2011. – № 1 (13). – С. 138-141.
13. Сerka P., Grigiene J., Sirbikyte G. Liability for damages caused by artificial intelligence. Computer Law & Security Review. 2015. – № 31. – Р. 376–389.
14. Ястребов О.А. Искусственный интеллект в правовом пространстве: концептуальные и теоретические подходы // Правосубъектность: общетеоретический, отраслевой и международно-правовой анализ: сборник материалов к XII Ежегодным научным чтениям памяти профессора С.Н. Братуся / под ред. В.Ф. Яковлева, Т.Я. Хабриевой, В.К. Андреева и др. – М.: Институт законодательства и сравнительного правоведения при Правительстве РФ; Статут, 2017. – С. 271–283.
15. Ястребов О.А. Дискуссия о предпосылках для присвоения роботам правового статуса «электронных лиц» // Вопросы правоведения. – 2017. – № 1. – С. 189–203. 
16. Морхат П. Создание юнитом искусственного интеллекта изобретения: проблемы патентования // Интеллектуальная собственность в Беларуси. – 2018. – № 3. – С. 28–31.
17. Савицкая К. К вопросу о возможности авторско-правовой охраны произведений, созданных компьютерной программой // Интеллектуальная собственность в Беларуси. – 2017. – № 2. – С. 35–39.
18. Искусственный интеллект и интеллектуальная собственность: интервью с Фрэнсисом Гарри // Всемирная организация интеллектуальной собственности [Электронный ресурс]. – Режим доступа: https://www.wipo.int/wipo_magazine/en/2018/05/article_0001.html. – Дата доступа: 28.02.2019.
19. Архипов В.В., Наумов В.Б. О некоторых вопросах теоретических оснований развития законодательства о робототехнике: аспекты воли и правосубъектности // Закон. – 2017. – № 5. – С. 163–169.
20. Карлюк М. Этические и правовые проблемы искусственного интеллекта // Российский совет по международным делам [Электронный ресурс]. – Режим доступа: http://russiancouncil.ru/analytics-and-comments/analytics/eticheskie-i-pravovye-voprosy-iskusstvennogo-intellekta/. – Дата доступа: 28.02.2019.
21. In Wisconsin, a Backlash Against Using Data to Foretell Defendants’ Futures // The New-York Times [Electronic resource]. – Mode of access: https://www.nytimes.com/2016/06/23/us/backlash-in-wisconsin-against-using-data-to-foretell-defendants-futures.html. – Date of access: 28.02.2019.

[1] См., например, План подготовки законопроектов на 2019 г., утв. Указом Президента Республики Беларусь 04.01.2019 № 4.

The article is devoted to topical issues of legal regulation of relations in the field of innovation related to the creation, legal protection and use of artificial intelligence technologies. The author notes that these problems have not yet been solved either in legislation or in legal science. The Republic of Belarus, which aims are to create an IT-country, can contribute to the solution of issues of legal regulation of objects and technologies related to artificial intelligence. According to the author, the improvement of the legislation should be carried out in three directions: stimulation of the process of creating innovative technologies of artificial intelligence; legal protection of artificial intelligence technologies and products created with their help as objects of intellectual property; responsibility for decisions and actions taken with the use of artificial intelligence technologies.

Artificial intelligence, innovation, intellectual property, legal responsibility, legal personality.

O.N. Tolochko
TENDENCIES OF LEGAL REGULATION OF OBJECTS AND TECHNOLOGIES ASSOCIATED WITH ARTIFICIAL INTELLIGENCE

Толочко, О.Н. Тенденции правового регулирования объектов и технологий, связанных с искусственным интеллектом / О.Н. Толочко // Юстиция Беларуси. – 2019. – № 3. – С. 35–39.