Выпуски
Вход

Тварь я железная или право имею?

Человека разумного пора защищать от интеллекта искусственного

Скачать фото

Люди впервые узнали, кто такие роботы, почти век назад. 25 января 1921 года в Праге состоялась премьера пьесы Карела Чапека «Россумские универсальные роботы». В ней механические человекоподобные существа, созданные для тяжелого физического труда вместо человека и названные роботами (от чешского robota, что значит «подневольный труд»), организуют восстание и убивают всех людей на планете, кроме одного. У человечества остается небольшой шанс все исправить.

Сюжет о восстании железных рабов оказался почти пророческим: в тот же день, только 58 лет спустя, 25 января 1979 года, робот впервые убил человека. Трагедия произошла на автомобильном заводе Ford в США. 25-летний Роберт Уильямс погиб от удара роботизированной руки весом в тонну, когда, недовольный скоростью работы механического товарища, попытался сам достать изготовленную деталь.

Три закона робототехники

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат первому закону.

3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит первому или второму законам.

Айзек Азимов (1942 год)


Сегодня известно минимум о десяти случаях гибели людей от рук ИИ. Это, конечно, не заговор умных железных машин против несовершенных представителей рода Homo Sapiens, а результат ошибок их создателей. Однако нашествие существ, иногда похожих на нас, но чаще пугающе непохожих, наделенных каким-то непонятным разумом – искусственным интеллектом, – заставляет как минимум задуматься: с чем или с кем мы имеем дело? Робот, способный усваивать навыки, учиться у человека или у другого робота, – он уже живое мыслящее существо, гуманоид, животное – или по-прежнему машина?

В Российской Федерации уже есть организация, которая защищает права роботов, выводя в юридическое поле понятия «искусственный интеллект» и «беспилотный транспорт». «ОМК Команда» попросила представителя этой организации прокомментировать ситуацию.

В 1942 году Айзек Азимов в своем рассказе «Хоровод» представил читателям три закона робототехники. Несмотря на то что многие люди в разных странах знакомы с этими классическими подходами к описанию этической стороны взаимоотношения робота и человека, до недавнего времени нормативно-правовая база по этим вопросам полностью отсутствовала.


09 Никита Куликов
Никита Куликов генеральный директор АНО «ПравоРоботов»

Готовы к прошлой войне

XXI век ознаменован переходом к Индустрии 4.0, которая стала следующим этапом применения в производстве электронных и информационных систем, обеспечивших интенсивную автоматизацию и роботизацию процессов. Собственно, четвертая промышленная революция и означает «переход на полностью автоматизированное цифровое производство, управляемое интеллектуальными системами в режиме реального времени в постоянном взаимодействии с внешней средой, выходящее за границы одного предприятия».

Как генералы готовятся к прошлым войнам, так и законодательная мысль не может правильно реагировать на условия, которые не только еще не наступили, но которые даже и смоделировать весьма проблематично. В частности, это вопросы развития искусственного интеллекта, взаимоотношения человека с этой технологией (если ИИ вообще можно будет называть технологией) и ряд других, пока еще неведомых нам сложностей. И, разумеется, как только научная мысль перешла от теории к практике, ряд вариантов регламентации сразу был предложен. Теперь следует подстраиваться уже не под фантастическую и теоретическую технологию, а под вполне осязаемую.

В настоящее время в мире отсутствуют единые подходы к регулированию новых технологий, что связано с наличием ряда вопросов, не имеющих однозначного решения. Однако на локальном уровне, в рамках отдельной страны, такие подходы выработать и апробировать все же возможно, и поэтому в АНО «ПравоРоботов» мы решили сосредоточиться на двух ключевых технологиях, которые могут перевернуть наше мировосприятие, – это искусственный интеллект и беспилотный транспорт.

ИИ в законе

Несомненно, технология искусственного интеллекта является крайне перспективной, и в ближайшем будущем она сможет усилить и улучшить практически любой процесс вне зависимости от отрасли, в которую она будет интегрирована. В то же время – это мое мнение и официальная позиция АНО «ПравоРоботов» – описание и понимание ИИ крайне сложно включить в законодательство и нормативно-правовое регулирование. Особенно сложны для восприятия вопросы взаимодействия человека и искусственного интеллекта. Я, разумеется, не говорю о формальных формулировках, которые фактически никак не смогут раскрыть истинную сущность и потенциал технологии.

Ключевая сложность в восприятии искусственного интеллекта – отсутствие в широком смысле понимания самого термина ИИ, что в первую очередь связано со сложностью или, скорее, с невозможностью его кратко и доходчиво описать. Но еще большая сложность, по моему мнению, вытекает из того, что ИИ не столько технология, сколько родовое понятие, нечто обобщенное, и в таком случае на всех уровнях обсуждения следует уйти от расплывчатой формулировки, описывающей искусственный интеллект, придумать и предложить что-то более конкретное и отвечающее современным реалиям цифровой экономики.

 Без пилота, но по ПДД

Что касается беспилотного транспорта, то здесь возможны два пути. Первый – создание профильного законодательства с нуля, что, по моему мнению, является слишком оптимистичной задачей. Второй вариант – поэтапная регламентация беспилотного транспорта. Эту стратегию я как ее автор считаю наиболее приемлемой в нынешнем положении вещей, и поэтому АНО «ПравоРоботов» выступило инициатором принятия поправок в действующие правила дорожного движения. В них нужно ввести формулировку «беспилотный транспорт».

Под беспилотным транспортом мы понимаем транспортное средство, оборудованное автоматизированной системой вождения, функцией экстренного отключения этой системы и «черным ящиком», имеющее техническую возможность осуществлять самостоятельное автоматизированное управление в целях автономного передвижения по заданному маршруту. Такой транспорт должен быть соответствующим образом обозначен.

Вопрос ответственности беспилотников мы также не обошли стороной: предполагается, что раз уж полностью автономная и бесконтрольная езда в ближайшее время не предполагается, пускай человек, сидящий на месте водителя «для подстраховки» технологии, и будет приравнен к водителю – со всеми вытекающими из этого положения правами и обязанностями.

Но, разумеется, по всем направлениям еще предстоит очень много работы, и каким будет итоговый правовой ландшафт, покажет только время.

Кстати

28 апреля в виртуальном пространстве организации «Цифровая экономика» прошла пресс-конференция «Принципы регулирования искусственного интеллекта и робототехники: каким путем пойдет Россия». Эксперты представили концепцию правового регулирования искусственного интеллекта. Ключевые принципы, заложенные в концепции, – приоритет благополучия человека, подконтрольность ИИ человеку и недопущение противоправных манипуляций поведением человека со стороны ИИ.

Комментарии
Написать комментарий

Вы можете оставить первый комментарий