Я уже много лет изучаю весь спектр вопросов/возможностей коммерческого внедрения робототехники и выступал на ряде конференций о том, как нам лучше всего смотреть на регулирование робототехники. В процессе я обнаружил, что мои рекомендации наиболее точно соответствуют EPSRC Принципы робототехники, хотя я уделяю дополнительное внимание потенциальным решениям. И я называю это 5 законами робототехники, потому что очень трудно избежать азимовских законов робототехники в общественном восприятии того, что нужно делать.

Первым наиболее очевидным моментом в этих «5 законах робототехники» должно быть то, что я не предлагаю реальных законов, как и Азимов с его знаменитыми 3 законами (технически 4 из них). Азимов предложил что-то, что было жестко зашито или жестко закодировано в существование роботов, и, конечно же, это не работало идеально, что дало ему материал для его книг. Интересно, что Азимов считал, как и многие другие в то время (кто-нибудь символический ИИ?), что станет возможным определить эффективные, но глобальные правила поведения для роботов. А я нет.

Мои 5 законов робототехники:

1. Роботы не должны убивать.
2. Роботы должны подчиняться закону.
3. Роботы должны быть хорошими продуктами.
4. Роботы должны быть правдивыми.
5. Роботы должны быть узнаваемы.

Что именно означают эти законы?

Во-первых, люди не должны по закону иметь право использовать роботов в качестве оружия, хотя могут быть законные исключения для использования силами обороны или службами быстрого реагирования. Некоторые люди полностью выступают против автономных систем смертоносного оружия (LAWS) в любой форме, в то время как другие считают, что роботизированное оружие в конечном итоге находится под командованием человека и подотчетно закону. В настоящее время в Калифорнии предлагается законопроект о введении штрафов для лиц, создающих или модифицирующих боевые роботы, дроны или автономные системы, за исключением «законного» использования.

Во-вторых, роботы должны быть построены так, чтобы они соответствовали существующим законам, в том числе законам о конфиденциальности. Это подразумевает некоторую форму ответственности компаний за соответствие требованиям в различных юрисдикциях, и, хотя технически это очень сложно, успешные компании будут действовать на опережение, потому что в противном случае компании будут иметь много судебных дел и страховых исков, которые будут радовать юристов, но плохо скажутся на репутации. все робототехнические компании.

В-третьих, хотя мы постоянно разрабатываем и адаптируем стандарты по мере развития наших технологий, основной принцип заключается в том, что роботы — это продукты, предназначенные для выполнения задач за людей. Таким образом, роботы должны быть безопасными, надежными и делать то, что они заявляют, так, как они заявляют, что работают. Искажение возможностей любого продукта повсеместно осуждается.

В-четвертых, и это достаточно уникальная способность роботов, роботы не должны лгать. У роботов есть иллюзия эмоций и свободы воли, а люди очень восприимчивы к «цифровым подталкиваниям» или манипуляциям со стороны искусственных агентов. Примеры включают роботов или аватаров, утверждающих, что они ваши друзья, но могут быть такими же тонкими, как роботы, говорящие человеческим голосом, как если бы реальный человек слушал и говорил. Или не объясняя, что разговор, который вы ведете с роботом, может иметь много слушателей в другое время и в другом месте. Роботы являются потенциально удивительно эффективными рекламными средствами, чего мы еще не ожидали.

Наконец, и это расширяет принципы подотчетности, прозрачности и правдивости, должна быть возможность узнать, кто является владельцем и/или оператором любого робота, с которым мы взаимодействуем, даже если мы просто делим с ними тротуар. Почти каждое другое транспортное средство должно соответствовать какому-либо закону о регистрации или процедуре, позволяющей идентифицировать право собственности.

Что мы можем сделать, чтобы действовать в соответствии с этими законами?

1. Реестр роботов (номерные знаки, доступ к базе владельцев/операторов)
2. Алгоритмическая прозрачность (через карты моделей и эталонные тесты)
3. Независимые советы по этике (как в биотехнологической промышленности)
4. Роботы-омбудсмены (для связи между общественностью, политиками и индустрией робототехники)
5. Награждение хороших роботов (награды за дизайн и тематические исследования)

Есть много организаций, выпускающих руководства, принципы и предлагаемые законы. Я рассмотрел большинство из них и посмотрел на исследования. Большинство из них являются просто этическим выкручиванием рук и ничего не достигают, потому что они не учитывают реальные условия в отношении того, каковы цели, кто будет нести ответственность и как добиться прогресса в достижении целей. я писал об этой проблеме перед выступлением на саммите разработчиков ARM в 2020 году (видео прилагается ниже).

Компания Silicon Valley Robotics объявила первых победителей нашей первой премии в области робототехники в 2020 году. Награды SVR Industry Awards присуждаются за ответственный дизайн, а также за технологические инновации и коммерческий успех. Также готовятся некоторые этические инициативы или инициативы по сертификации, но, как и разработка новых стандартов, для их надлежащего выполнения может потребоваться много времени, тогда как награды, одобрения и тематические исследования могут быть доступны немедленно, чтобы стимулировать обсуждение того, что представляет собой хорошие роботы. и какие социальные проблемы должна решить робототехника.

Федеральная торговая комиссия недавно опубликовала «Тест на приманку: ИИ и разработка потребительского доверия» описание

Для тех, кто не знаком со знаменитыми тремя законами робототехники Айзека Азимова, они таковы:

Первый закон: робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

Второй закон: робот должен подчиняться приказам, отдаваемым ему людьми, за исключением случаев, когда такие приказы противоречат Первому закону.

Третий закон: Робот должен защищать свое существование до тех пор, пока такая защита не противоречит Первому или Второму закону.

Позже Азимов добавил Четвертый (называемый Нулевым законом, как в 0, 1, 2, 3).

Нулевой закон: робот не может причинить вред человечеству или своим бездействием позволить человечеству причинить вред.

Робин Р. Мерфи и Дэвид Д. Вудс обновили законы Азимова, чтобы они были более похожи на законы, которые я предложил выше, и предоставили хороший анализ того, что означают законы Азимова и почему они изменили их, чтобы иметь дело с современной робототехникой. Помимо Азимова Три закона ответственной робототехники (2009)

Некоторые другие выборки из сотен принципов, руководств и обзоров этического ландшафта, которые я рекомендую, взяты у одного из первых авторов EPSRC, Джоанны Брайсон.

Значение принципов робототехники EPSRC (2016 г.)

И обновление 2016/2017 от оригинальной команды EPSRC:

Маргарет Боден, Джоанна Брайсон, Дарвин Колдуэлл, Керстин Даутенхан, Лилиан Эдвардс, Сара Кембер, Пол Ньюман, Вивьен Пэрри, Джефф Пегман, Том Родден, Том Соррелл, Мик Уоллис, Блэй Уитби и Алан Уинфилд (2017) Принципы робототехники: регулирование роботов в реальном мире, Наука связи, 29:2, 124-129, DOI: 10.1080/09540091.2016.1271400

Еще один опрос, который стоит прочитать, находится на сайте Stanford Plato: https://plato.stanford.edu/entries/ethics-ai/