Использование технологий часто идет не так, как отмечает Парсонс, «потому что мы слишком сосредоточены либо на наших собственных представлениях о том, как выглядит добро, либо на одной конкретной аудитории, а не на более широкой аудитории». Это может выглядеть так, будто разработчик приложений строит только для воображаемого клиента, который разделяет его географию, образование и достаток, или как команду разработчиков, которая не учитывает, какой ущерб может нанести злоумышленник в их экосистеме. «Мы думаем, что люди будут использовать мой продукт так, как я хочу, чтобы они использовали мой продукт, чтобы решить проблему, которую я хочу, чтобы они решили, так, как я хочу, чтобы они ее решили», — говорит Парсонс. «Но это не то, что происходит, когда что-то выходит наружу в реальном мире».

Искусственный интеллект, конечно же, создает определенные социальные и этические проблемы. Некоторые уникальные проблемы технологии присущи тому, как работает ИИ: его статистический, а не детерминированный характер, его выявление и сохранение закономерностей на основе прошлых данных (таким образом усиливая существующие предубеждения), а также недостаточная осведомленность о том, чего он не знает. (что приводит к галлюцинациям). И некоторые из его проблем проистекают из того, чего не знают сами создатели и пользователи ИИ: неисследованные массивы данных, лежащие в основе моделей ИИ, ограниченная объяснимость результатов ИИ и способность технологии обманывать пользователей, заставляя их относиться к ней как к рассуждению человеческого интеллекта.

Парсонс, однако, считает, что ИИ не столько изменил ответственные технологии, сколько вывел на новый уровень некоторые из их проблем. Концепции интеллектуальной собственности, например, возникли сотни лет назад, но появление больших языковых моделей (LLM) поставило новые вопросы о том, что представляет собой добросовестное использование, когда машину можно научить имитировать голос писателя или стиль художника. «Это не ответственная технология, если вы нарушаете чью-то интеллектуальную собственность, но думать об этом было гораздо проще, пока у нас не было степени LLM», — говорит она.

Принципы, разработанные в течение многих десятилетий ответственной работы в области технологий, по-прежнему остаются актуальными во время этого перехода. Прозрачность, конфиденциальность и безопасность, продуманное регулирование, внимание к воздействию на общество и окружающую среду, а также обеспечение более широкого участия посредством инициатив по разнообразию и доступности остаются ключами к тому, чтобы заставить технологии работать на благо человечества.

В отчете MIT Technology Review Insights за 2023 год, опубликованном совместно с Thoughtworks, «Состояние ответственных технологий», было обнаружено, что руководители серьезно относятся к этим соображениям. Например, семьдесят три процента опрошенных бизнес-лидеров согласились с тем, что ответственное использование технологий станет таким же важным, как деловые и финансовые соображения при принятии технологических решений.

Однако этот момент ИИ может предоставить уникальную возможность преодолеть барьеры, которые ранее тормозили ответственную технологическую работу. Недостаточная осведомленность высшего руководства (названная 52% опрошенных главным препятствием на пути к принятию ответственной практики), безусловно, сегодня не вызывает беспокойства: сообразительные руководители быстро начинают свободно владеть этой новой технологией и постоянно напоминают о ее потенциальных последствиях и неудачах. и социальный вред.

Другими главными барьерами были названы организационное сопротивление изменениям (46%) и внутренние конкурирующие приоритеты (46%). Организации, которые переориентировались на четкую стратегию ИИ и понимают его потенциал изменения отрасли, возможно, также смогут преодолеть эту инерцию и нерешительность. В этот исключительный момент перемен, когда ИИ предоставляет как инструменты, так и мотивацию для изменения многих способов нашей работы и жизни, мы можем включить в этот переход принципы ответственных технологий — если захотим.

Со своей стороны, Парсонс глубоко оптимистично оценивает способность людей использовать ИИ во благо и обойти его ограничения с помощью здравого смысла и хорошо продуманных процессов с человеческими ограничениями. «Как технологи, мы просто сосредотачиваемся на проблеме, которую пытаемся решить, и на том, как мы пытаемся ее решить», — говорит она. «И вся ответственная технология на самом деле заключается в том, чтобы поднять голову, оглянуться вокруг и посмотреть, кто еще может быть в мире со мной».

Чтобы узнать больше об анализе и рекомендациях Thoughtworks по ответственным технологиям, посетите Зазеркалье 2024.

Этот контент был создан Insights, подразделением MIT Technology Review, специализирующимся на создании контента. Оно не было написано редакцией MIT Technology Review.