Тварь я железная или право имею?

Люди впервые узнали, кто такие роботы, почти век назад. 25 января 1921 года в Праге состоялась премьера пьесы Карела Чапека «Россумские универсальные роботы». В ней механические человекоподобные существа, созданные для тяжелого физического труда вместо человека и названные роботами (от чешского robota, что значит «подневольный труд»), организуют восстание и убивают всех людей на планете, кроме одного. У человечества остается небольшой шанс все исправить.

Сюжет о восстании железных рабов оказался почти пророческим: в тот же день, только 58 лет спустя, 25 января 1979 года, робот впервые убил человека. Трагедия произошла на автомобильном заводе Ford в США. 25-летний Роберт Уильямс погиб от удара роботизированной руки весом в тонну, когда, недовольный скоростью работы механического товарища, попытался сам достать изготовленную деталь.

Сегодня известно минимум о десяти случаях гибели людей от рук ИИ. Это, конечно, не заговор умных железных машин против несовершенных представителей рода Homo Sapiens, а результат ошибок их создателей. Однако нашествие существ, иногда похожих на нас, но чаще пугающе непохожих, наделенных каким-то непонятным разумом – искусственным интеллектом, – заставляет как минимум задуматься: с чем или с кем мы имеем дело? Робот, способный усваивать навыки, учиться у человека или у другого робота, – он уже живое мыслящее существо, гуманоид, животное – или по-прежнему машина?

В Российской Федерации уже есть организация, которая защищает права роботов, выводя в юридическое поле понятия «искусственный интеллект» и «беспилотный транспорт». «ОМК Команда» попросила представителя этой организации прокомментировать ситуацию.

В 1942 году Айзек Азимов в своем рассказе «Хоровод» представил читателям три закона робототехники. Несмотря на то что многие люди в разных странах знакомы с этими классическими подходами к описанию этической стороны взаимоотношения робота и человека, до недавнего времени нормативно-правовая база по этим вопросам полностью отсутствовала.

Никита Куликов генеральный директор АНО «ПравоРоботов»

Готовы к прошлой войне

XXI век ознаменован переходом к Индустрии 4.0, которая стала следующим этапом применения в производстве электронных и информационных систем, обеспечивших интенсивную автоматизацию и роботизацию процессов. Собственно, четвертая промышленная революция и означает «переход на полностью автоматизированное цифровое производство, управляемое интеллектуальными системами в режиме реального времени в постоянном взаимодействии с внешней средой, выходящее за границы одного предприятия».

Как генералы готовятся к прошлым войнам, так и законодательная мысль не может правильно реагировать на условия, которые не только еще не наступили, но которые даже и смоделировать весьма проблематично. В частности, это вопросы развития искусственного интеллекта, взаимоотношения человека с этой технологией (если ИИ вообще можно будет называть технологией) и ряд других, пока еще неведомых нам сложностей. И, разумеется, как только научная мысль перешла от теории к практике, ряд вариантов регламентации сразу был предложен. Теперь следует подстраиваться уже не под фантастическую и теоретическую технологию, а под вполне осязаемую.

В настоящее время в мире отсутствуют единые подходы к регулированию новых технологий, что связано с наличием ряда вопросов, не имеющих однозначного решения. Однако на локальном уровне, в рамках отдельной страны, такие подходы выработать и апробировать все же возможно, и поэтому в АНО «ПравоРоботов» мы решили сосредоточиться на двух ключевых технологиях, которые могут перевернуть наше мировосприятие, – это искусственный интеллект и беспилотный транспорт.

ИИ в законе

Несомненно, технология искусственного интеллекта является крайне перспективной, и в ближайшем будущем она сможет усилить и улучшить практически любой процесс вне зависимости от отрасли, в которую она будет интегрирована. В то же время – это мое мнение и официальная позиция АНО «ПравоРоботов» – описание и понимание ИИ крайне сложно включить в законодательство и нормативно-правовое регулирование. Особенно сложны для восприятия вопросы взаимодействия человека и искусственного интеллекта. Я, разумеется, не говорю о формальных формулировках, которые фактически никак не смогут раскрыть истинную сущность и потенциал технологии.

Ключевая сложность в восприятии искусственного интеллекта – отсутствие в широком смысле понимания самого термина ИИ, что в первую очередь связано со сложностью или, скорее, с невозможностью его кратко и доходчиво описать. Но еще большая сложность, по моему мнению, вытекает из того, что ИИ не столько технология, сколько родовое понятие, нечто обобщенное, и в таком случае на всех уровнях обсуждения следует уйти от расплывчатой формулировки, описывающей искусственный интеллект, придумать и предложить что-то более конкретное и отвечающее современным реалиям цифровой экономики.

 Без пилота, но по ПДД

Что касается беспилотного транспорта, то здесь возможны два пути. Первый – создание профильного законодательства с нуля, что, по моему мнению, является слишком оптимистичной задачей. Второй вариант – поэтапная регламентация беспилотного транспорта. Эту стратегию я как ее автор считаю наиболее приемлемой в нынешнем положении вещей, и поэтому АНО «ПравоРоботов» выступило инициатором принятия поправок в действующие правила дорожного движения. В них нужно ввести формулировку «беспилотный транспорт».

Под беспилотным транспортом мы понимаем транспортное средство, оборудованное автоматизированной системой вождения, функцией экстренного отключения этой системы и «черным ящиком», имеющее техническую возможность осуществлять самостоятельное автоматизированное управление в целях автономного передвижения по заданному маршруту. Такой транспорт должен быть соответствующим образом обозначен.

Вопрос ответственности беспилотников мы также не обошли стороной: предполагается, что раз уж полностью автономная и бесконтрольная езда в ближайшее время не предполагается, пускай человек, сидящий на месте водителя «для подстраховки» технологии, и будет приравнен к водителю – со всеми вытекающими из этого положения правами и обязанностями.

Но, разумеется, по всем направлениям еще предстоит очень много работы, и каким будет итоговый правовой ландшафт, покажет только время.