Джон П. Десмонд, редактор AI Trends

Продвижение заслуживающих доверия ИИ и машинного обучения для снижения рисков агентства является приоритетом для Министерства энергетики США (DOE), а определение передовых методов масштабного внедрения ИИ является приоритетом для Управления общих служб США (GSA).

Это то, что участники узнали на двух сессиях в Мировое правительство ИИ живое и виртуальное мероприятие состоялось в Александрии, штат Вирджиния, на прошлой неделе.

Памела Исом, директор отдела искусственного интеллекта и технологий в Министерстве энергетики, которая рассказала о продвижении надежных методов искусственного интеллекта и машинного обучения для снижения рисков агентства, уже несколько лет занимается распространением использования искусственного интеллекта в агентстве. Уделяя особое внимание прикладному ИИ и науке о данных, она курирует политики и стандарты снижения рисков и занимается применением ИИ для спасения жизней, борьбы с мошенничеством и укрепления инфраструктуры кибербезопасности.

Она подчеркнула необходимость того, чтобы усилия по проекту ИИ стали частью стратегического портфеля. «Мой офис создан для того, чтобы обеспечить целостный взгляд на ИИ и снизить риски, объединив нас для решения проблем», — сказала она. В этих усилиях помогает Управление искусственного интеллекта и технологий Министерства энергетики, которое занимается преобразованием Министерства энергетики в ведущее в мире предприятие в области искусственного интеллекта за счет ускорения исследований, разработок, доставки и внедрения ИИ.

«Я говорю своей организации помнить о том, что у вас могут быть тонны и тонны данных, но они могут быть нерепрезентативными», — сказала она. Ее команда рассматривает примеры от международных партнеров, промышленности, академических кругов и других учреждений на предмет результатов, которым мы можем доверять от систем, включающих ИИ.

«Мы знаем, что ИИ прорывен в попытке делать то, что делают люди, и делать это лучше», — сказала она. «Это выше человеческих возможностей; это выходит за рамки данных в электронных таблицах; он может сказать мне, что я собираюсь делать дальше, прежде чем я обдумаю это сам. Это так мощно, — сказала она.

В связи с этим необходимо уделять пристальное внимание источникам данных. «ИИ жизненно важен для экономики и нашей национальной безопасности. Нам нужна точность; нам нужны алгоритмы, которым мы можем доверять; нам нужна точность. Нам не нужны предубеждения», — сказал Исом, добавив: «И не забывайте, что вам нужно отслеживать результаты моделей еще долго после того, как они были развернуты».

Руководство по административным распоряжениям GSA AI Work

Исполнительный указ 14028, подробный набор действий по обеспечению кибербезопасности государственных учреждений, изданный в мае этого года, и Исполнительный указ 13960, поощряющий использование надежного ИИ в федеральном правительстве, изданный в декабре 2020 года, служат ценными ориентирами в ее работе.

Чтобы помочь управлять рисками, связанными с разработкой и развертыванием ИИ, Isom выпустила руководство по управлению рисками ИИ, в котором содержатся рекомендации по системным функциям и методам смягчения последствий. В нем также есть фильтр этических и надежных принципов, которые учитываются на всех этапах жизненного цикла ИИ и типах рисков. Кроме того, сборник сценариев связан с соответствующими исполнительными указами.

И он предоставляет примеры, например, ваши результаты были получены с точностью 80%, но вы хотели 90%. «Что-то здесь не так», — сказал Исом, добавив: «Схема действий поможет вам взглянуть на эти типы проблем и то, что вы можете сделать, чтобы снизить риск, и какие факторы вы должны учитывать при разработке и создании своего проекта».

Хотя в настоящее время это внутреннее дело Министерства энергетики, агентство рассматривает следующие шаги для внешней версии. «В ближайшее время мы поделимся ею с другими федеральными агентствами», — сказала она.

Обзор лучших практик GSA для масштабирования проектов ИИ

Анил Чаудри, директор Федерального отдела внедрения искусственного интеллекта в Центре передового опыта в области искусственного интеллекта (CoE) GSA, который рассказал о передовом опыте масштабного внедрения искусственного интеллекта, обладает более чем 20-летним опытом в области предоставления технологий, операций и управления программами в секторах обороны, разведки и национальной безопасности.

Миссия Совета Европы состоит в том, чтобы ускорить технологическую модернизацию в правительстве, улучшить общественный опыт и повысить операционную эффективность. «Наша бизнес-модель заключается в партнерстве с отраслевыми экспертами для решения проблем», — сказал Чодри, добавив: «Мы не занимаемся воссозданием отраслевых решений и их дублированием».

Совет Европы предоставляет рекомендации партнерским агентствам и работает с ними над внедрением систем ИИ, поскольку федеральное правительство активно участвует в разработке ИИ. «Для ИИ правительственный ландшафт огромен. У каждого федерального агентства сейчас есть какой-то проект ИИ», — сказал он, и зрелость опыта ИИ сильно различается в разных агентствах.

Типичные варианты использования, которые он видит, включают фокусирование ИИ на повышении скорости и эффективности, экономии и предотвращении затрат, улучшении времени отклика и повышении качества и соответствия требованиям. В качестве одной из передовых практик он рекомендовал агентствам проверить их коммерческий опыт с большими наборами данных, с которыми они столкнутся в правительстве.

«Здесь мы говорим о петабайтах и ​​эксабайтах структурированных и неструктурированных данных, — сказал Чаудри. (Прим. ред.: петабайт равен 1000 терабайт). «Также спросите партнеров по отрасли об их стратегиях и процессах, о том, как они проводят анализ макро- и микротрендов, и каков их опыт в развертывании ботов, таких как роботизированная автоматизация процессов, и как они демонстрируют устойчивость в результате дрейфа данных».

Он также просит потенциальных отраслевых партнеров описать талант ИИ в их команде или к каким талантам они могут получить доступ. Если компании не хватает талантов в области искусственного интеллекта, Чаудри спрашивал: «Если вы что-то покупаете, как вы узнаете, что получили то, что хотели, если у вас нет возможности это оценить?»

Он добавил: «Лучшая практика внедрения ИИ — это определение того, как вы обучаете свою рабочую силу использованию инструментов, методов и практик ИИ, а также определяете, как вы развиваете и совершенствуете свою рабочую силу. Доступ к талантам ведет либо к успеху, либо к провалу в проектах ИИ, особенно когда речь идет о масштабировании пилотного проекта до полностью развернутой системы».

В другом передовом опыте Чаудхри рекомендовал изучить доступ к финансовому капиталу. «ИИ — это область, в которой поток капитала очень нестабилен. «Вы не можете предсказать или спрогнозировать, что в этом году вы потратите X долларов, чтобы достичь того, чего хотите», — сказал он, потому что команде разработчиков ИИ может потребоваться изучить другую гипотезу или очистить некоторые данные, которые могут быть непрозрачными или потенциально предвзятыми. «Если у вас нет доступа к финансированию, есть риск, что ваш проект потерпит неудачу», — сказал он.

Еще одна передовая практика доступ к логистическому капиталу, например данные, которые датчики собирают для системы AI IoT. «Искусственный интеллект требует огромного количества достоверных и своевременных данных. Прямой доступ к этим данным имеет решающее значение», — сказал Чаудри. Он рекомендовал заключить соглашения об обмене данными с организациями, имеющими отношение к системе ИИ. «Возможно, вам это не понадобится сразу, но иметь доступ к данным, чтобы вы могли немедленно их использовать и продумать вопросы конфиденциальности, прежде чем вам понадобятся данные, — это хорошая практика для масштабирования программ ИИ», — сказал он.

Последняя передовая практика – это планирование физическая инфраструктура, например, пространство центра обработки данных. «Когда вы работаете в пилотном режиме, вам нужно знать, какую емкость вам нужно зарезервировать в вашем центре обработки данных и сколько конечных точек вам нужно управлять», когда приложение масштабируется, сказал Чаудхри, добавив: «Все это связано с доступом к капиталу и всеми другими передовыми методами».

Узнайте больше на Мировое правительство ИИ.