В новом официальном документе исследуются модели и функции международных организаций, которые могут помочь управлять возможностями и снижать риски передового ИИ.
Растущее осознание глобального влияния передового искусственного интеллекта (ИИ) вызвало общественные дискуссии о необходимости международных структур управления, помогающих управлять возможностями и снижать сопутствующие риски.
Во многих дискуссиях проводились аналогии с ИКАО (Международная организация гражданской авиации) в гражданской авиации; ЦЕРН (Европейская организация ядерных исследований) по физике элементарных частиц; МАГАТЭ (Международное агентство по атомной энергии) в области ядерных технологий; и межправительственные и многосторонние организации во многих других областях. И все же, хотя аналогии могут быть полезным началом, технологии, возникающие в результате ИИ, будут отличаться от авиации, физики элементарных частиц или ядерных технологий.
Чтобы добиться успеха в управлении ИИ, нам нужно лучше понять:
- Какими конкретными преимуществами и рисками нам необходимо управлять на международном уровне.
- Каких функций управления требуют эти выгоды и риски.
- Какие организации лучше всего могут выполнять эти функции.
Наша последняя статьясовместно с сотрудниками из Оксфордского университета, Университета Монреаля, Университета Торонто, Колумбийского университета, Гарвардского университета, Стэнфордского университета и OpenAI, рассматривает эти вопросы и исследует, как международные организации могут помочь справиться с глобальным влиянием передовых разработок ИИ и сделать уверены, что преимущества ИИ достигают всех сообществ.
Решающая роль международных и многосторонних институтов
Доступ к определенным технологиям искусственного интеллекта может значительно повысить благосостояние и стабильность, но преимущества этих технологий могут быть неравномерно распределены или сосредоточены на самых больших потребностях недостаточно представленных сообществ или развивающегося мира. Недостаточный доступ к интернет-услугам, вычислительной мощности или отсутствие обучения или опыта в области машинного обучения также может помешать определенным группам в полной мере воспользоваться преимуществами достижений в области ИИ.
Международное сотрудничество может помочь решить эти проблемы, поощряя организации к разработке систем и приложений, отвечающих потребностям недостаточно обслуживаемых сообществ, а также улучшая образование, инфраструктуру и экономические препятствия для таких сообществ, в полной мере использующих технологию ИИ.
Кроме того, могут потребоваться международные усилия для управления рисками, связанными с мощными возможностями ИИ. Без надлежащих мер безопасности некоторые из этих возможностей, такие как автоматизированная разработка программного обеспечения, исследования в области химии и синтетической биологии, а также генерация текста и видео, могут быть использованы для причинения вреда. Усовершенствованные системы искусственного интеллекта также могут выйти из строя способами, которые трудно предвидеть, создавая риски несчастных случаев с потенциально международными последствиями, если технология не будет развернута ответственно.
Международные и многосторонние организации могут помочь в продвижении протоколов разработки и развертывания ИИ, которые минимизируют такие риски. Например, они могут способствовать глобальному консенсусу в отношении угроз, которые различные возможности ИИ представляют для общества, и устанавливать международные стандарты в отношении выявления и обращения с моделями с опасными возможностями. Международное сотрудничество в области исследований в области безопасности также укрепит нашу способность делать системы надежными и устойчивыми к неправильному использованию.
Наконец, в ситуациях, когда у государств есть стимулы (например, вытекающие из экономической конкуренции) подрывать нормативные обязательства друг друга, международные учреждения могут помочь поддержать и стимулировать лучшие практики и даже контролировать соблюдение стандартов.
Четыре потенциальные институциональные модели
Мы исследуем четыре взаимодополняющие институциональные модели для поддержки глобальных функций координации и управления:
- межправительственный Комиссия по пограничному ИИ может достичь международного консенсуса в отношении возможностей и рисков, связанных с передовым ИИ, и способов управления ими. Это повысит осведомленность общественности и понимание перспектив и проблем ИИ, внесет вклад в научно обоснованный отчет об использовании ИИ и снижении рисков, а также станет источником опыта для политиков.
- Межправительственный или многосторонний Расширенная организация управления ИИ может помочь интернационализировать и согласовать усилия по устранению глобальных рисков, связанных с передовыми системами искусственного интеллекта, путем установления норм и стандартов управления и оказания помощи в их реализации. Он также может выполнять функции контроля за соблюдением любого режима международного управления.
- А Совместная работа с передовым ИИ может способствовать доступу к продвинутому ИИ в рамках международного государственно-частного партнерства. При этом это поможет малообеспеченным обществам извлечь выгоду из передовых технологий искусственного интеллекта и будет способствовать международному доступу к технологиям искусственного интеллекта для целей безопасности и управления.
- Ан Проект безопасности ИИ может объединить ведущих исследователей и инженеров и предоставить им доступ к вычислительным ресурсам и передовым моделям ИИ для исследования технических средств снижения рисков ИИ. Это будет способствовать исследованиям и разработкам в области безопасности ИИ за счет увеличения его масштабов, ресурсов и координации.
Операционные проблемы
Остается много важных открытых вопросов относительно жизнеспособности этих институциональных моделей. Например, Комиссия по продвинутому ИИ столкнется с серьезными научными проблемами, учитывая крайнюю неопределенность в отношении траекторий и возможностей ИИ, а также ограниченность научных исследований по вопросам продвинутого ИИ на сегодняшний день.
Быстрые темпы развития ИИ и ограниченные возможности государственного сектора по передовым проблемам ИИ также могут затруднить установление стандартов передовой организацией по управлению ИИ, которые не отставали бы от ландшафта рисков. Многочисленные трудности международной координации вызывают вопросы о том, как страны будут стимулироваться к принятию ее стандартов или принятию ее мониторинга.
Точно так же многочисленные препятствия на пути общества к полному использованию преимуществ передовых систем искусственного интеллекта (и других технологий) могут помешать Frontier AI Collaborative оптимизировать свое воздействие. Также может возникнуть сложное противоречие между разделением преимуществ ИИ и предотвращением распространения опасных систем.
А для Проекта безопасности ИИ важно тщательно рассмотреть, какие элементы исследования безопасности лучше всего проводить в рамках сотрудничества, а какие — в рамках индивидуальных усилий компаний. Более того, проект может столкнуться с трудностями при обеспечении надлежащего доступа к наиболее подходящим моделям для проведения исследований безопасности от всех соответствующих разработчиков.
Учитывая огромные глобальные возможности и проблемы, которые представляют системы ИИ на горизонте, правительствам и другим заинтересованным сторонам необходимо более широкое обсуждение роли международных организаций и того, как их функции могут способствовать управлению и координации ИИ.
Мы надеемся, что это исследование будет способствовать активизации дискуссий в международном сообществе о способах обеспечения разработки передового ИИ на благо человечества.