-2.3 C
New York

Сила гибкой и разнообразной стратегии генеративного ИИ | DeepTech

Published:

С момента запуска нашей платформы генеративного искусственного интеллекта всего несколько месяцев назад мы видели, слышали и испытывали интенсивные и ускоренные инновации в области искусственного интеллекта, сопровождавшиеся замечательными прорывами. Как давний сторонник машинного обучения и лидер отрасли, я был свидетелем многих таких прорывов, о чем прекрасно свидетельствует постоянный ажиотаж вокруг ChatGPT, выпущенного почти год назад.

И так же, как экосистемы процветают благодаря биологическому разнообразию, экосистема ИИ получает выгоду от множества поставщиков. Функциональная совместимость и гибкость системы всегда были ключом к снижению рисков, чтобы организации могли адаптироваться и продолжать приносить пользу. Но беспрецедентная скорость эволюции генеративного искусственного интеллекта сделала возможность выбора критически важной возможностью.

Рынок меняется настолько быстро, что нет однозначных ставок – ни сегодня, ни в ближайшем будущем. Это утверждение, которое, как мы слышали, повторяют наши клиенты, является одной из основных философий, лежащих в основе многих инновационных возможностей генеративного искусственного интеллекта, анонсированных на нашем недавнем осеннем запуске.

Слишком сильная зависимость от какого-либо одного поставщика ИИ может представлять риск, поскольку темпы инноваций снижаются. Уже существует более 180 различных моделей LLM с открытым исходным кодом. Темп изменений развивается гораздо быстрее, чем команды могут его применить.

Философия DataRobot заключалась в том, что организациям необходимо обеспечить гибкость своей стратегии генеративного искусственного интеллекта, основанную на производительности, надежности, затратах и ​​адекватности конкретной развертываемой задачи LLM.

Как и в случае со всеми технологиями, многие программы LLM имеют свои компромиссы или в большей степени ориентированы на конкретные задачи. Некоторые LLM могут преуспеть в определенных операциях на естественном языке, таких как суммирование текста, обеспечить более разнообразное создание текста или даже быть дешевле в эксплуатации. В результате многие программы LLM могут быть лучшими в своем классе в разных, но полезных аспектах. Стек технологий, обеспечивающий гибкость при выборе или сочетании этих предложений, позволяет организациям максимизировать ценность ИИ экономически эффективным способом.

DataRobot работает как открытый унифицированный интеллектуальный уровень, который позволяет организациям сравнивать и выбирать подходящие для них генеративные компоненты искусственного интеллекта. Такая совместимость приводит к улучшению результатов генеративного ИИ, улучшает непрерывность работы и уменьшает зависимость от одного поставщика.

При такой стратегии операционные процессы остаются неизменными, если, скажем, у провайдера возникают внутренние сбои. Кроме того, затраты можно управлять более эффективно, позволяя организациям находить компромисс между затратами и эффективностью своих программ LLM.

Во время осеннего запуска мы анонсировали нашу новую игровую площадку LLM с участием нескольких поставщиков. Первый в своем роде визуальный интерфейс предоставляет вам встроенный доступ к моделям Google Cloud Vertex AI, Azure OpenAI и Amazon Bedrock, что позволяет легко сравнивать и экспериментировать с различными «рецептами» генеративного ИИ. Вы можете использовать любой из встроенных LLM на нашей игровой площадке или принести свой собственный. Доступ к этим LLM доступен «из коробки» во время экспериментов, поэтому для начала создания решений GenAI в DataRobot не требуется дополнительных действий.

Площадка для LLM DataRobot с несколькими поставщиками
Площадка для LLM DataRobot с несколькими поставщиками

С помощью нашей новой игровой площадки LLM мы упростили возможность опробовать, протестировать и сравнить различные «рецепты» GenAI с точки зрения стиля/тональности, стоимости и актуальности. Мы упростили оценку любой комбинации базовой модели, векторной базы данных, стратегии фрагментирования и стратегии подсказок. Вы можете сделать это независимо от того, предпочитаете ли вы создавать с помощью пользовательского интерфейса платформы или с помощью ноутбука. Наличие игровой площадки LLM позволяет вам легко переключаться между кодом и параллельной визуализацией ваших экспериментов.

изображение 13
Легко тестируйте различные стратегии подсказок и фрагментирования, а также векторные базы данных.

С помощью DataRobot вы также можете заменять базовые компоненты (например, LLM) без остановки производства, если потребности вашей организации меняются или рынок развивается. Это не только позволяет вам откалибровать ваши генеративные решения искусственного интеллекта в соответствии с вашими точными требованиями, но также гарантирует, что вы сохраните техническую автономию, имея под рукой все лучшие в своем классе компоненты.

Ниже вы можете увидеть, насколько легко сравнивать различные «рецепты» генеративного ИИ с нашей игровой площадкой LLM.

После того, как вы выбрали правильный «рецепт», вы можете быстро и легко перенести его, свою векторную базу данных и стратегии подсказок в производство. После запуска в производство вы получаете полную комплексную линию генеративного ИИ, мониторинг и отчетность.

Благодаря предложению DataRobot по генеративному искусственному интеллекту организации могут легко выбирать подходящие инструменты для работы, безопасно распространять свои внутренние данные на LLM, а также измерять результаты на предмет токсичности, правдивости и стоимости среди других ключевых показателей эффективности. Нам нравится говорить: «Мы не создаем LLM, мы решаем проблему доверия к генеративному ИИ».

Генеративная экосистема искусственного интеллекта сложна и меняется каждый день. В DataRobot мы гарантируем, что у вас будет гибкий и устойчивый подход — воспринимайте его как страховой полис и защиту от застоя в постоянно развивающемся технологическом ландшафте, гарантируя как гибкость ученых, работающих с данными, так и спокойствие ИТ-директоров. Потому что реальность такова, что стратегия организации не должна ограничиваться мировоззрением одного поставщика, уровнем инноваций или внутренними беспорядками. Речь идет о повышении устойчивости и скорости развития генеративной стратегии ИИ вашей организации, чтобы вы могли адаптироваться к развитию рынка, а это можно сделать быстро!

Вы можете узнать больше о том, как еще мы решаем «проблему уверенности», посмотрев наше осеннее мероприятие по запросу.

Об авторе

Тед Квартлер
Тед Квартлер

Полевой технический директор, DataRobot

Тед Квартлер — полевой технический директор DataRobot. Тед устанавливает стратегию продукта для объяснимого и этичного использования технологий обработки данных. Тед привносит уникальные знания и опыт использования данных, деловой хватки и этики на свои нынешние и предыдущие должности в Liberty Mutual Insurance и Amazon. Помимо четырех курсов DataCamp, он преподает аспирантуру в Гарвардской школе повышения квалификации и является автором книги «Интеллектуальный анализ текста на практике с помощью R». Тед является советником Бюро по экономическим вопросам правительства США и входит в уполномоченный Конгрессом комитет под названием «Консультативный комитет по данным для сбора доказательств», выступая за политику, основанную на данных.

Знакомьтесь, Тед Квартлер

Related Articles

Recent articles