Джон П. Десмонд, редактор AI Trends

Стек ИИ, разработанный Университетом Карнеги-Меллона, имеет основополагающее значение для подхода, используемого армией США в своих усилиях по разработке платформы ИИ, по словам Исаака Фабера, главного специалиста по данным в Центре интеграции ИИ армии США, выступая на конференции. Мировое правительство ИИ Мероприятие состоялось лично и виртуально из Александрии, штат Вирджиния, на прошлой неделе.

«Если мы хотим перевести армию с устаревших систем на цифровую модернизацию, одна из самых больших проблем, которую я обнаружил, — это сложность абстрагирования различий в приложениях», — сказал он. «Самая важная часть цифровой трансформации — это средний уровень, платформа, которая упрощает работу в облаке или на локальном компьютере». Желание состоит в том, чтобы иметь возможность перенести вашу программную платформу на другую платформу с той же легкостью, с которой новый смартфон переносит контакты и истории пользователя.

Этика затрагивает все уровни стека приложений ИИ, в котором этап планирования находится наверху, за ним следуют поддержка принятия решений, моделирование, машинное обучение, управление массивами данных и уровень устройств или платформа внизу.

«Я выступаю за то, чтобы мы рассматривали стек как основную инфраструктуру и способ развертывания приложений, а не их разрозненность в нашем подходе», — сказал он. «Нам необходимо создать среду разработки для глобально распределенной рабочей силы».

Армия работает над платформой Common Operating Environment Software (Coes), впервые анонсированной в 2017 году, которая является масштабируемой, гибкой, модульной, портативной и открытой. «Он подходит для широкого круга проектов ИИ», — сказал Фабер. Для выполнения усилия: «Дьявол кроется в деталях», — сказал он.

Армия работает с CMU и частными компаниями над прототипом платформы, в том числе с Визимо из Кораополиса, штат Пенсильвания, которая предлагает услуги по разработке ИИ. Фабер сказал, что предпочитает сотрудничать и координировать свои действия с частным сектором, а не покупать продукты в готовом виде. «Проблема в том, что вы застряли с ценностью, которую вам предоставляет этот единственный поставщик, который обычно не предназначен для задач сетей Министерства обороны США», — сказал он.

Армия обучает ряд технических команд работе с ИИ

Армия занимается развитием рабочей силы ИИ для нескольких команд, в том числе: руководство, специалисты с учеными степенями; технический персонал, который проходит обучение для получения сертификата; и пользователей ИИ.

Технические группы в армии занимаются различными областями, включая разработку программного обеспечения общего назначения, оперативную обработку данных, развертывание, включающее аналитику, и группу операций по машинному обучению, например, большую команду, необходимую для создания системы компьютерного зрения. «По мере того, как люди проходят через рабочую силу, им нужно место для сотрудничества, создания и обмена», — сказал Фабер.

Типы проектов включают диагностические, которые могут объединять потоки исторических данных, прогнозные и предписывающие, которые рекомендуют курс действий на основе прогноза. «На дальнем конце находится ИИ; вы не начинаете с этого, — сказал Фабер. Разработчик должен решить три проблемы: проектирование данных, платформу разработки ИИ, которую он назвал «зеленым пузырем», и платформу развертывания, которую он назвал «красным пузырем».

«Это взаимоисключающие и все взаимосвязанные. Эти команды, состоящие из разных людей, должны программно координироваться. Обычно в хорошей проектной команде есть люди из каждой из этих сфер», — сказал он. «Если вы еще этого не сделали, не пытайтесь решить проблему с зеленым пузырем. Нет смысла заниматься ИИ, пока у вас не возникнет оперативная потребность».

На вопрос участника, с какой группой труднее всего связаться и обучить, Фабер без колебаний ответил: «Сложнее всего связаться с руководителями. Им нужно узнать, какую ценность должна обеспечивать экосистема ИИ. Самая большая проблема заключается в том, как передать эту ценность», — сказал он.

Панель обсуждает варианты использования ИИ с наибольшим потенциалом

На панели, посвященной основам нового ИИ, модератор Курт Савой, директор программы Global Smart Cities Strategies для IDC, исследовательской фирмы, спросил, какой новый вариант использования ИИ имеет наибольший потенциал.

Жан-Шарль Леде, советник по автономии ВВС США, Управление научных исследований, сказал: «Я бы указал на преимущества принятия решений на периферии, поддерживая пилотов и операторов, и решения сзади, для планирования задач и ресурсов».

Криста Киннард, руководитель отдела новых технологий Министерства труда, сказала: «Обработка естественного языка — это возможность открыть двери для ИИ в Министерстве труда». «В конечном итоге мы имеем дело с данными о людях, программах и организациях».

Савойя спросил, какие большие риски и опасности видят участники дискуссии при внедрении ИИ.

Анил Чаудхри, директор Федерального управления по внедрению искусственного интеллекта в Управлении общих служб (GSA), сказал, что в типичной ИТ-организации, использующей традиционную разработку программного обеспечения, влияние решения разработчика невелико. С ИИ «вы должны учитывать влияние на целый класс людей, избирателей и заинтересованных сторон. Простым изменением алгоритмов вы можете отсрочить выплаты миллионам людей или сделать неправильные выводы в масштабе. Это самый главный риск», — сказал он.

Он сказал, что просит своих партнеров по контракту иметь «людей в петле и людей в петле».

Киннард поддержал это, сказав: «Мы не собираемся исключать людей из цикла. На самом деле это расширение прав и возможностей людей для принятия более взвешенных решений».

Она подчеркнула важность мониторинга моделей ИИ после их развертывания. «Модели могут дрейфовать по мере того, как данные, лежащие в основе изменений», — сказала она. «Поэтому вам нужен уровень критического мышления, чтобы не только выполнить задачу, но и оценить, приемлемо ли то, что делает модель ИИ».

Она добавила: «Мы разработали варианты использования и партнерские отношения в правительстве, чтобы убедиться, что мы внедряем ответственный ИИ. Мы никогда не заменим людей алгоритмами».

Леде из ВВС сказал: «У нас часто бывают случаи использования, когда данных не существует. Мы не можем исследовать военные данные за 50 лет, поэтому используем симуляцию. Риск заключается в обучении алгоритма тому, что у вас есть «симуляция реального разрыва», что является реальным риском. Вы не уверены, как алгоритмы будут отображаться в реальном мире».

Чаудхри подчеркнул важность стратегии тестирования систем ИИ. Он предупредил разработчиков, «которые влюбляются в инструмент и забывают цель упражнения». Он порекомендовал дизайн менеджера по развитию в независимой стратегии проверки и проверки. «Ваше тестирование — вот на чем вы должны сосредоточить свою энергию как лидер. Прежде чем выделять ресурсы, лидер должен иметь в виду, как они будут оправдывать успех инвестиций».

Леде из ВВС говорил о важности объяснимости. «Я технолог. Я не занимаюсь законами. Способность функции ИИ объяснять так, как человек может взаимодействовать, важна. ИИ — это партнер, с которым мы ведем диалог, а не ИИ, который делает вывод, который мы не можем проверить», — сказал он.

Узнайте больше на Мировое правительство ИИ.