В рамках партнерского саммита Cisco на 24 финансовый год, проходившего 6–9 ноября 2023 г. в Майами, было объявлено о новом партнерстве с Cisco с новым решением MLOps для платформы Cisco Full-Stack Observability (FSO), созданным совместно с нашим платиновым партнером Evolutio. Это новое решение обеспечит наблюдаемость корпоративного уровня как для прогнозного, так и для генеративного искусственного интеллекта, поможет оптимизировать и масштабировать развертывания искусственного интеллекта, а также повысить ценность бизнеса для наших клиентов.
MLOps от Evolutio, на базе DataRobot расширяет возможности наблюдения как для прогнозирующего, так и для генеративного ИИ, благодаря постоянному мониторингу и производственной диагностике для отслеживания и повышения производительности ваших моделей. Конечные пользователи могут быть в курсе ключевых показателей, таких как работоспособность сервиса, точность, дрейф данных, мгновенная токсичность, стоимость токенов и выводов. Этот модуль, созданный на базе полнофункциональной платформы наблюдения Cisco, предназначен для того, чтобы сделать производительность модели искусственного интеллекта, операции LLM, а также общее качество данных и ответов в сценариях использования искусственного интеллекта приоритетным направлением наблюдения в организации и обеспечить уверенное предоставление ваших решений искусственного интеллекта.
С помощью нашего решения MLOps мы усовершенствовали процесс мониторинга моделей машинного обучения в режиме реального времени. Это позволяет получить комплексное представление о показателях производительности модели и о том, как они соответствуют бизнес-целям. Если в конкретном регионе или секторе возникла аномалия, ее можно оперативно устранить.
Современный бизнес вращается вокруг превосходного цифрового опыта. Любое отклонение от совершенства в этой области вызывает резкую критику и снижение доверия пользователей. А поскольку в эпоху данных программные приложения будут продолжать включать в себя возможности искусственного интеллекта, нам необходимо обеспечить оптимальное функционирование моделей машинного обучения и достижение поставленных целей. Клиентам необходим 360-градусный обзор своих моделей машинного обучения и возможность быстро действовать на основе полученной информации. Именно эту задачу Evolutio, Cisco и DataRobot надеются решить в рамках этого партнерства.
Практика Evolutio по науке о данных и искусственному интеллекту, основанная на DataRobot, позволяет клиентам сегментировать свои модели машинного обучения по таким параметрам, как регион, тип модели и масштаб развертывания, гарантируя мгновенное обнаружение аномалий, таких как снижение точности модели или скрытые сбои. Evolutiono, консалтинговая компания, специализирующаяся на наблюдаемости с учетом требований бизнеса. Их цель — перенести бизнес-контекст в область наблюдаемости, чтобы сделать представление клиентов о пользовательском опыте одновременно действенным и проактивным.
Платформа Cisco FSO — единственная на рынке не зависящая от поставщика платформа наблюдения на основе сущностей. Открытая расширяемая архитектура платформы Cisco FSO на основе API позволяет создать экосистему наблюдения. Это также позволяет партнерам по развитию создавать новые решения для наблюдения и получать новые потоки доходов от этих решений. Благодаря растущему использованию генеративного искусственного интеллекта и интеграции в современный стек приложений платформа Cisco FSO помогает клиентам отслеживать эти приложения, их SLO и объединять мониторинг больших языковых моделей (LLM) и моделей MLOps с возможностью наблюдения за приложениями.
Внедряя платформу DataRobot AI, Evolutio помогает клиентам внедрять решения AI/ML в своих организациях, делая AI/ML доступным для заинтересованных сторон бизнеса и экспертов в данной области. Совместные возможности DataRobot и Evolutio ускоряют окупаемость и реализацию на контролируемой, объяснимой, готовой к использованию платформе, а клиенты могут получить немедленную окупаемость инвестиций.
Evolutio использует DataRobot MLOps для обеспечения мониторинга и наблюдения, чтобы повысить доверие и справедливость, уменьшить предвзятость и поддерживать прозрачность производительности и затрат. Самое главное, что зрелые возможности MLOps DataRobot позволяют моделям непрерывно учиться на реальном мире, с минимальным временем простоя и с соответствующим управлением для защиты бизнес-инвестиций. Партнерство помогает организациям получать аналитическую информацию, ясность и контроль над своими операциями при развертывании машинного обучения, чтобы гарантировать безупречный пользовательский опыт.