Home Робототехника Как сосредоточиться на результатах GenAI, а не на инфраструктуре | DeepTech

Как сосредоточиться на результатах GenAI, а не на инфраструктуре | DeepTech

0
Как сосредоточиться на результатах GenAI, а не на инфраструктуре
 | DeepTech

Видите ли вы ощутимые результаты своих инвестиций в генеративный искусственный интеллект — или это начинает казаться дорогостоящим экспериментом?

Многим руководителям и инженерам в сфере искусственного интеллекта сложно доказать свою ценность для бизнеса, несмотря на всю их тяжелую работу. По данным недавнего опроса Omdia, в котором приняли участие более 5000+ ИТ-специалистов по всему миру, только 13% из них полностью внедрили технологии GenAI.

Цитировать Недавнее исследование Deloitte«Вечный вопрос: почему это так сложно?»

Ответ сложен, но главными виновниками являются привязка к поставщику, беспорядочная инфраструктура данных и заброшенные прошлые инвестиции. Делойт нашел что по крайней мере каждая третья программа ИИ терпит неудачу из-за проблем с данными.

Если ваши модели GenAI не используются (или используются недостаточно), скорее всего, они не были успешно интегрированы в ваш технологический стек. Из-за этого GenAI для большинства брендов воспринимается скорее как обострение тех же проблем, с которыми они столкнулись при использовании прогнозирующего ИИ, чем как решение.

Любой проект GenAI содержит огромное количество различных версий, языков, моделей и векторных баз данных. И мы все знаем, что объединение 17 различных инструментов искусственного интеллекта и надежда на лучшее создает инфраструктуру с полным беспорядком. Он сложен, медленный, трудный в использовании и рискованный в управлении.

Без единого уровня интеллекта, расположенного поверх вашей базовой инфраструктуры, вы создадите более серьезные проблемы, чем те, которые пытаетесь решить, даже если вы используете гипермасштабирование.

Вот почему я написал эту статью, и именно поэтому я и Брент Хинкс подробно обсудили это во время недавнего вебинара.

Здесь я расскажу о шести тактиках, которые помогут вам переключить внимание с половинчатого прототипирования на реальную ценность GenAI.

6 тактик, которые заменяют проблемы инфраструктуры ценностью GenAI

Включение генеративного ИИ в существующие системы — это не просто проблема инфраструктуры; это проблема бизнес-стратегии, которая отделяет нереализованные или сломанные прототипы от устойчивых результатов GenAI.

Но если вы нашли время инвестировать в единый интеллектуальный уровень, вы сможете избежать ненужных проблем и работать с уверенностью. Большинство компаний столкнутся, по крайней мере, с несколькими препятствиями, описанными ниже. Вот мои рекомендации о том, как превратить эти распространенные ошибки в ускорители роста:

1. Сохраняйте гибкость, избегая привязки к поставщику

Многие компании, которые хотят улучшить интеграцию GenAI в свою технологическую экосистему, попадают в одну из двух категорий:

  1. Они привязаны к отношениям с гиперскейлером или одним поставщиком.
  2. Они беспорядочно собирают вместе различные компоненты, такие как векторные базы данных, встраиваемые модели, инструменты оркестрации и многое другое.

Учитывая, как быстро меняется генеративный ИИ, вы не хотите оказаться в ловушке ни в одной из этих ситуаций. Вам необходимо сохранить возможность выбора, чтобы вы могли быстро адаптироваться по мере развития технологических потребностей вашего бизнеса или изменения технологического рынка. Моя рекомендация? Используйте гибкую систему API.

Да, DataRobot может помочь вам интегрироваться со всеми основными игроками, но что еще лучше, так это то, как мы создали нашу платформу, которая не зависит от ваших существующих технологий и вписывается в то, что вам нужно. Наш гибкий API обеспечивает функциональность и гибкость, необходимые для фактической унификации ваших усилий по GenAI в рамках существующей технологической экосистемы, которую вы создали.

2. Создание интеграционно-независимых моделей

Чтобы избежать привязки к поставщику, не создавайте модели ИИ, которые интегрируются только с одним приложением. Например, предположим, что вы создали приложение для Slack, но теперь хотите, чтобы оно работало с Gmail. Возможно, вам придется все перестроить.

Вместо этого стремитесь создавать модели, которые можно интегрировать с несколькими различными платформами, чтобы вы могли гибко подходить к будущим сценариям использования. Это не только сэкономит вам время на предварительную разработку. Модели, не зависящие от платформы, также сократят необходимое время обслуживания благодаря меньшему количеству пользовательских интеграций, которыми необходимо управлять.

Имея правильный интеллектуальный уровень, вы можете использовать возможности моделей GenAI для разнообразного сочетания приложений и их пользователей. Это позволяет вам максимизировать инвестиции, которые вы сделали во всей вашей экосистеме. Кроме того, вы также сможете развертывать сотни моделей GenAI и управлять ими из одного места.

Например, DataRobot может интегрировать модели GenAI, которые бесперебойно работают в таких корпоративных приложениях, как СлабыйTableau, Salesforce и Microsoft Teams.

3. Объедините генерирующий и прогнозирующий искусственный интеллект в одном едином опыте.

Многие компании борются с хаосом генеративного ИИ, потому что их генеративные и прогнозные модели разбросаны и разрознены. Для бесшовной интеграции ваши модели ИИ должны храниться в одном репозитории, независимо от того, кто их создал и где они размещены.

DataRobot идеально подходит для этого; Большая часть ценности нашего продукта заключается в нашей способности унифицировать искусственный интеллект во всей организации, особенно в партнерстве с гипермасштабируемыми компаниями. Если вы создали большинство своих инфраструктур искусственного интеллекта с помощью гипермасштабатора, мы — лишь тот верхний слой, который вам нужен, чтобы добавить строгости и конкретики в управление, мониторинг и наблюдаемость ваших инициатив.

И это касается не только генеративных или прогнозирующих моделей, но и моделей, построенных любой на любой платформу можно подключить для управления и работы прямо в DataRobot.

изображение 2

4. Создайте условия для простоты мониторинга и переобучения.

Учитывая темпы инноваций в области генеративного искусственного интеллекта за последний год, многие модели, которые я построил шесть месяцев назад, уже устарели. Но чтобы мои модели оставались актуальными, я отдаю приоритет переподготовка, и не только для прогнозирующих моделей ИИ. ГенИИ также может устареть, если исходные документы или обосновывающие данные устарели.

Представьте, что у вас в производстве находятся десятки моделей GenAI. Их можно развернуть в самых разных местах, таких как Slack, клиентские приложения или внутренние платформы. Рано или поздно вашей модели потребуется обновление. Если у вас есть только 1–2 модели, сейчас это может не вызывать большого беспокойства, но если у вас уже есть инвентарь, вам потребуется много времени вручную для масштабирования обновлений развертывания.

Обновления, которые не происходят посредством масштабируемой оркестрации, замедляют результаты из-за сложности инфраструктуры. Это особенно важно, когда вы начинаете думать о перспективе через год или больше, поскольку обновления GenAI обычно требуют большего обслуживания, чем прогнозирующий ИИ.

DataRobot предлагает контроль версий модели со встроенным тестированием, позволяющим убедиться, что развертывание будет работать с новыми версиями платформы, которые появятся в будущем. Если интеграция не удалась, вы получите предупреждение, которое немедленно уведомит вас об ошибке. Он также отмечает, есть ли в новом наборе данных дополнительные функции, отличные от тех, которые есть в вашей текущей развернутой модели. Это дает инженерам и строителям возможность гораздо более активно исправлять проблемы, вместо того, чтобы через месяц (или позже) обнаруживать, что интеграция нарушена.

Помимо управления моделями, я использую DataRobot для мониторинга таких показателей, как отклонение данных и обоснованность, чтобы контролировать расходы на инфраструктуру. Простая истина заключается в том, что если бюджеты превышаются, проекты закрываются. Это может быстро привести к ситуации, когда пострадают целые команды, поскольку они не могут контролировать расходы. DataRobot позволяет мне отслеживать показатели, относящиеся к каждому варианту использования, поэтому я могу быть в курсе важных ключевых показателей эффективности бизнеса.

5. Оставайтесь на связи с бизнес-лидерами и вашими конечными пользователями

Самая большая ошибка, которую, как я вижу, допускают специалисты по искусственному интеллекту, — это недостаточное общение с людьми, связанными с бизнесом. Вам необходимо заранее привлекать заинтересованные стороны и часто с ними разговаривать. Речь идет не о том, чтобы за один разговор спросить руководство бизнеса, заинтересованы ли они в конкретном варианте использования GenAI. Вам необходимо постоянно подтверждать, что им все еще нужен этот вариант использования, и что все, над чем вы работаете, по-прежнему отвечает их меняющимся потребностям.

Здесь есть три компонента:

  1. Привлекайте своих пользователей ИИ

Крайне важно обеспечить поддержку со стороны конечных пользователей, а не только руководства. Прежде чем приступить к созданию новой модели, поговорите со своими потенциальными конечными пользователями и оцените уровень их интереса. Они потребители, и им нужно покупать то, что вы создаете, иначе это не будет использовано. Подсказка: убедитесь, что любые модели GenAI, которые вы создаете, должны легко подключаться к процессам, решениям и инфраструктурам данных, в которых уже работают пользователи.

Поскольку именно ваши конечные пользователи в конечном итоге будут решать, действовать ли на основе результатов вашей модели, вам необходимо убедиться, что они доверяют тому, что вы создали. До или в рамках внедрения поговорите с ними о том, что вы создали, как это работает и, самое главное, как это поможет им добиться успеха. их цели.

  1. Вовлекайте заинтересованных сторон вашего бизнеса в процесс разработки

Даже после того, как вы подтвердили первоначальный интерес со стороны руководства и конечных пользователей, никогда не стоит просто уйти, а затем вернуться через несколько месяцев с готовым продуктом. У ваших заинтересованных сторон почти наверняка возникнет много вопросов и предложений по изменениям. Будьте готовы к сотрудничеству и выделяйте время для обратной связи в своих проектах. Это поможет вам создать приложение, удовлетворяющее их потребности, и поможет им поверить, что оно работает так, как они хотят.

  1. Четко сформулируйте, чего вы пытаетесь достичь

Недостаточно иметь такую ​​цель: «Мы хотим интегрировать платформу X с платформой Y». Я видел, как слишком много клиентов зацикливались на подобных краткосрочных целях вместо того, чтобы сделать шаг назад и подумать об общих целях. DataRobot обеспечивает достаточную гибкость, поэтому мы можем разработать упрощенную общую архитектуру, а не концентрироваться на одной точке интеграции. Вам нужно быть конкретным: «Мы хотим, чтобы эта модель искусственного интеллекта поколения, встроенная в DataRobot, сочеталась с прогнозирующим искусственным интеллектом и данными из Salesforce. И результаты нужно вот так запихнуть в этот объект».

Таким образом, вы все сможете договориться о конечной цели, а также легко определить и измерить успех проекта.

изображение 3

6. Выходите за рамки экспериментирования, чтобы генерировать ценность как можно раньше

Команды могут потратить недели на создание и развертывание моделей GenAI, но если процесс не организован, все обычные проблемы управления и инфраструктуры замедлят окупаемость.

Сам эксперимент не имеет никакой ценности — модель должна генерировать результаты (внутренние или внешние). В противном случае это будет просто «забавный проект», не приносящий бизнесу окупаемости инвестиций. Так будет до тех пор, пока он не будет развернут.

DataRobot поможет вам ввести модели в эксплуатацию на 83 % быстрее, сэкономив при этом 80 % обычных затрат. Наш Детские площадки Эта функция дает вашей команде творческое пространство для сравнения проектов LLM и определения наиболее подходящего.

Вместо того, чтобы заставлять конечных пользователей ждать окончательного решения или давать конкурентам преимущество, начните с минимально жизнеспособного продукта (MVP).

Передайте базовую модель конечным пользователям и объясните, что работа над ней еще ведется. Предложите им протестировать, поработать и поэкспериментировать, а затем попросите их оставить отзыв.

MVP предлагает два важных преимущества:

  1. Вы можете подтвердить, что движетесь в правильном направлении, создавая то, что создаете.
  1. Ваши конечные пользователи быстро получат выгоду от ваших усилий по созданию искусственного интеллекта.

Хотя вы можете не предоставить идеальный пользовательский опыт с вашей незавершенной интеграцией, вы обнаружите, что ваши конечные пользователи смирятся с небольшими трудностями в краткосрочной перспективе, чтобы ощутить долгосрочную ценность.

Разблокируйте бесшовную интеграцию генеративного искусственного интеллекта с DataRobot

Если вы изо всех сил пытаетесь интегрировать GenAI в существующую технологическую экосистему, DataRobot — это то решение, которое вам нужно. Вместо нагромождения разрозненных инструментов и ресурсов ИИ наша платформа ИИ может предоставить вам единую среду ИИ и избавить вас от серьезного технического долга и хлопот в будущем. С помощью DataRobot вы можете интегрировать свои инструменты искусственного интеллекта с существующими инвестициями в технологии и выбирать из лучших в своем классе компонентов. Мы здесь, чтобы помочь вам:

  • Избегайте привязки к поставщику и предотвратить разрастание активов ИИ
  • Создавайте модели GenAI, не зависящие от интеграции, которые выдержат испытание временем
  • Поддерживайте актуальность своих моделей искусственного интеллекта и интеграций с помощью оповещений и контроля версий.
  • Объедините свои генеративные и прогнозные модели ИИ, созданные кем угодно и на любой платформе, чтобы увидеть реальную ценность для бизнеса.

Готовы получить больше от своего ИИ с меньшими трудностями? Начните сегодня с бесплатной 30-дневной пробной версии или настройте демо-версию с одним из наших экспертов по искусственному интеллекту.

Демо

Посмотрите платформу DataRobot AI в действии

Забронировать демо

LEAVE A REPLY

Please enter your comment!
Please enter your name here