Amazon SageMaker Canvas, запущенный в 2021 году, представляет собой визуальный сервис «укажи и щелкни», который позволяет бизнес-аналитикам и гражданским специалистам по данным использовать готовые к использованию модели машинного обучения (ML) и создавать собственные модели ML для создания точных прогнозов без необходимости написать любой код. Готовые к использованию модели позволяют мгновенно получать ценную информацию на основе данных текста, изображений и документов (например, анализ настроений, обработка документов или обнаружение объектов на изображениях). Пользовательские модели позволяют создавать прогнозные модели для таких случаев использования, как прогнозирование спроса, отток клиентов и обнаружение дефектов на производстве.

Мы рады сообщить, что SageMaker Canvas расширяет поддержку готовых к использованию моделей, включив в нее базовые модели (FM), что позволяет вам использовать генеративный искусственный интеллект для создания и обобщения контента. Вы можете использовать естественный язык с диалоговым интерфейсом чата для выполнения таких задач, как создание повествований, отчетов и сообщений в блогах; отвечая на вопросы; резюмирование заметок и статей; и объяснение концепций, не написав ни единой строки кода. Ваши данные не используются для улучшения базовых моделей, не передаются сторонним поставщикам моделей и полностью остаются в вашей безопасной среде AWS.

SageMaker Canvas позволяет получить доступ к различным FM, включая модели Amazon Bedrock (например, Claude 2 от Anthropic и Jurassic-2 от AI21 Labs) и общедоступные модели Amazon SageMaker JumpStart, включая Falcon-7B-Instruct, Falcon-40B-Instruct. и MPT-7B-Instruct). Вы можете использовать одну или до трех моделей для параллельного сравнения ответов моделей. В SageMaker Canvas модели Amazon Bedrock всегда активны, что позволяет мгновенно использовать их. Модели SageMaker JumpStart можно запускать и развертывать в вашей учетной записи AWS по требованию, а после двух часов бездействия они автоматически отключаются.

Давайте рассмотрим, как использовать генеративные возможности искусственного интеллекта SageMaker Canvas. В этой статье мы в качестве примера работаем с вымышленным вариантом использования службы поддержки корпоративных клиентов.

Предварительные условия

Выполните следующие необходимые шаги:

1. Создайте учетную запись AWS.
2. Настройте SageMaker Canvas и при необходимости настройте его для использования VPC без доступа к Интернету.
3. Настройте доступ к модели в Amazon Bedrock.
4. Запросите увеличение квоты на услуги для g5.12xlarge и g5.2xlarge, если необходимо, в вашем регионе. Эти экземпляры необходимы для размещения конечных точек модели SageMaker JumpStart. Другие экземпляры могут быть выбраны в зависимости от наличия.

Работа с жалобами клиентов

Допустим, вы аналитик службы поддержки клиентов, который рассматривает жалобы велосипедной компании. При получении жалобы клиента вы можете использовать SageMaker Canvas для анализа жалобы и создания персонализированного ответа клиенту. Для этого выполните следующие шаги:

1. На консоли SageMaker выберите Холст в панели навигации.
2. Выберите свой домен и профиль пользователя и выберите Открытый холст чтобы открыть приложение SageMaker Canvas.

SageMaker Canvas также доступен с помощью единого входа или других существующих поставщиков удостоверений (IdP) без необходимости предварительного доступа к консоли SageMaker.

3. Выбирать Генерировать, извлекать и обобщать контент чтобы открыть консоль чата.
4. Выбрав модель Claude 2, введите инструкции по получению мнения клиента по представленной жалобе и нажмите Входить.
   
5. Возможно, вам захочется узнать о конкретных проблемах с велосипедом, особенно если это длинная жалоба. Итак, спросите о проблемах с велосипедом. Обратите внимание: вам не нужно повторно публиковать жалобу, поскольку SageMaker Canvas хранит контекст вашего чата.
   

Теперь, когда мы понимаем проблему клиента, вы можете отправить ему ответ со ссылкой на форму обратной связи компании.

6. В окне ввода запросите ответ на жалобу клиента.
   
7. Если вы хотите сгенерировать еще один ответ от FM, выберите значок обновления в разделе ответа.

Исходный ответ и все новые ответы разбиты на страницы в разделе ответов. Обратите внимание, что новый ответ отличается от исходного ответа. Вы можете выбрать значок копирования в разделе ответов, чтобы скопировать ответ в электронное письмо или документ по мере необходимости.

8. Вы также можете изменить ответ модели, запросив определенные изменения. Например, попросим модель добавить в ответ по электронной почте предложение подарочной карты на 50 долларов.
   

Сравнение ответов модели

Вы можете сравнить ответы нескольких моделей (до трех). Давайте сравним две модели Amazon Bedrock (Claude 2 и Jurassic-2 Ultra) с моделью SageMaker JumpStart (Falcon-7B-Instruct), чтобы оценить и найти лучшую модель для вашего варианта использования:

1. Выбирать Новый чат чтобы открыть интерфейс чата.
2. В раскрывающемся меню модели выберите Запустить другую модель.
3. На Модели фундамента страница, под Модели Amazon SageMaker JumpStartвыбирать Сокол-7Б-Инструктировать и на правой панели выберите Модель запуска.

Запуск модели займет около 10 минут.

4. На Модели фундамента На странице убедитесь, что модель Falcon-7B-Instruct активна, прежде чем переходить к следующему шагу.
5. Выбирать Новый чат чтобы открыть интерфейс чата.
6. Выбирать Сравнивать чтобы отобразить раскрывающееся меню для второй модели, затем выберите Сравнивать еще раз, чтобы отобразить раскрывающееся меню для третьей модели.
7. Выберите модель Falcon-7B-Instruct в первом раскрывающемся меню, Claude 2 во втором раскрывающемся меню и Jurassic-2 Ultra в третьем раскрывающемся меню.
8. Введите инструкции в поле ввода чата и нажмите Входить.

Вы увидите ответы всех трех моделей.

Очистить

Любые модели SageMaker JumpStart, запущенные из SageMaker Canvas, будут автоматически отключены через 2 часа бездействия. Если вы хотите отключить эти модели раньше, чтобы сэкономить средства, следуйте инструкциям в этом разделе. Обратите внимание, что модели Amazon Bedrock не развернуты в вашей учетной записи, поэтому отключать их нет необходимости.

1. Чтобы выключить модель Falcon-40B-Instruct SageMaker JumpStart, вы можете выбрать один из двух способов:
   1. На странице сравнения результатов выберите меню параметров модели Falcon-7B-Instruct (три точки), затем выберите Выключить модель.
   2. Альтернативно, выберите Новый чати в раскрывающемся меню модели выберите Запустить другую модель. Затем на Модели фундамента страница, под Модели Amazon SageMaker JumpStartвыбирать Сокол-7Б-Инструктировать и на правой панели выберите Выключить модель.
2. Выбирать Выйти на левой панели, чтобы выйти из приложения SageMaker Canvas, чтобы остановить потребление часов экземпляра рабочей области SageMaker Canvas и освободить все ресурсы, используемые экземпляром рабочей области.

Заключение

В этом посте вы узнали, как использовать SageMaker Canvas для создания текста с помощью готовых к использованию моделей из Amazon Bedrock и SageMaker JumpStart. Вы использовали модель Клода 2, чтобы проанализировать настроение жалобы клиента, задать вопросы и сгенерировать ответ без единой строчки кода. Вы также запустили общедоступную модель и сравнили ответы трех моделей.

За модели Amazon Bedrock плата взимается в зависимости от объема входных и выходных токенов согласно странице цен на Amazon Bedrock. Поскольку модели SageMaker JumpStart развертываются на инстансах SageMaker, с вас взимается плата за продолжительность использования в зависимости от типа инстанса, как указано на странице цен на Amazon SageMaker.

SageMaker Canvas продолжает демократизировать искусственный интеллект с помощью визуального интерактивного рабочего пространства без кода, которое позволяет бизнес-аналитикам создавать модели машинного обучения, подходящие для самых разных вариантов использования. Попробуйте новые возможности генеративного искусственного интеллекта в SageMaker Canvas уже сегодня! Эти возможности доступны во всех регионах, где доступны Amazon Bedrock или SageMaker JumpStart.

Об авторах

Ананд Айер С 2016 года работает главным архитектором решений в AWS. Ананд помогал глобальным клиентам в сфере здравоохранения, финансовых услуг и телекоммуникаций разрабатывать и внедрять корпоративные программные решения с использованием AWS и гибридных облачных технологий. Он получил степень магистра компьютерных наук в Университете штата Луизиана в Батон-Руж и степень магистра делового администрирования в Школе бизнеса Университета Южной Калифорнии им. Маршалла в Лос-Анджелесе. Он сертифицирован AWS в области безопасности, архитектуры решений и разработки DevOps.

Гэвин Сатур — главный архитектор решений в Amazon Web Services. Он работает с корпоративными клиентами над созданием стратегических, хорошо продуманных решений и увлекается автоматизацией. Вне работы он любит проводить время с семьей, играть в теннис, готовить и путешествовать.

Гунджан Джайн является архитектором решений AWS в Южной Калифорнии и в основном работает с крупными компаниями, предоставляющими финансовые услуги. Он помогает с внедрением облака, его оптимизацией и внедрением лучших практик для хорошей архитектуры в облаке.

Харприт Дханоа, опытный старший архитектор решений в AWS, имеет большой опыт проектирования и создания масштабируемых распределенных систем. Он увлечен машинным обучением, наблюдаемостью и аналитикой. Ему нравится помогать крупным клиентам выстраивать стратегию облачного предприятия и трансформировать свой бизнес с помощью AWS. В свободное время Харприт любит играть в баскетбол со своими двумя сыновьями и проводить время с семьей.