Покупатели все чаще обращаются к обзорам продуктов, чтобы принимать обоснованные решения в процессе совершения покупок, независимо от того, покупают ли они предметы повседневного обихода, такие как кухонное полотенце, или совершают крупные покупки, такие как покупка автомобиля. Эти обзоры превратились в важный источник информации, позволяющий покупателям получить доступ к мнениям и опыту других клиентов. В результате обзоры продуктов стали важнейшим аспектом любого магазина, предлагая ценные отзывы и идеи, которые помогают принимать обоснованные решения о покупке.

У Amazon есть один из крупнейших магазинов с сотнями миллионов доступных товаров. В 2022 году 125 миллионов покупателей оставили почти 1,5 миллиарда отзывов и оценок магазинам Amazon, что сделало онлайн-обзоры Amazon надежным источником обратной связи для покупателей. В масштабе обзоров продуктов, отправляемых каждый месяц, важно убедиться, что эти обзоры соответствуют Принципы сообщества Amazon относительно приемлемого языка, слов, видео и изображений. Эта практика применяется для того, чтобы гарантировать клиентам получение точной информации о продукте, а также для предотвращения включения в обзоры неуместных выражений, оскорбительных изображений или любого рода ненавистнических высказываний, направленных на отдельных лиц или сообщества. Применяя эти рекомендации, Amazon может поддерживать безопасную и инклюзивную среду для всех клиентов.

Автоматизация модерации контента позволяет Amazon масштабировать процесс, сохраняя при этом высокую точность. Это сложное проблемное пространство с уникальными задачами, требующее различных методов для текста, изображений и видео. Изображения являются важным компонентом отзывов о продуктах, часто оказывая более непосредственное влияние на клиентов, чем текст. Благодаря модерации контента Amazon Rekognition Amazon может автоматически обнаруживать вредоносные изображения в обзорах продуктов с более высокой точностью, уменьшая зависимость от рецензентов для модерации такого контента. Модерация контента Rekognition помогла улучшить самочувствие модераторов и добиться значительной экономии средств.

Модерация с самостоятельными моделями машинного обучения

Команда Amazon Shopping разработала и внедрила систему модерации, которая использует машинное обучение (ML) в сочетании с проверкой «человек в цикле» (HITL), чтобы гарантировать, что обзоры продуктов касаются опыта клиентов с продуктом и не содержат неуместных или вредоносный контент в соответствии с принципами сообщества. Подсистема модерации изображений, как показано на следующей диаграмме, использовала несколько самостоятельных и самообучаемых моделей компьютерного зрения для обнаружения изображений, нарушающих правила Amazon. Обработчик решений определяет действие модерации и предоставляет причины для своего решения на основе выходных данных моделей машинного обучения, тем самым решая, требует ли изображение дальнейшего рассмотрения модератором-человеком или может быть автоматически одобрено или отклонено.

С этими самостоятельными моделями машинного обучения команда начала с автоматизации решений по 40% изображений, полученных в рамках обзоров, и постоянно работала над улучшением решения на протяжении многих лет, сталкиваясь с рядом проблем:

• Постоянные усилия по повышению уровня автоматизации – Команда хотела повысить точность алгоритмов машинного обучения, стремясь увеличить скорость автоматизации. Это требует постоянных инвестиций в маркировку данных, науку о данных и MLOps для обучения и развертывания моделей.
• Сложность системы – Сложность архитектуры требует инвестиций в MLOps, чтобы обеспечить эффективное масштабирование процесса логического вывода для удовлетворения растущего трафика отправки контента.

Замените самостоятельные модели машинного обучения на API модерации контента Rekognition.

Amazon Rekognition — это управляемый сервис искусственного интеллекта (ИИ), который предлагает предварительно обученные модели через интерфейс API для модерации изображений и видео. Он широко применяется в таких отраслях, как электронная коммерция, социальные сети, игры, приложения для онлайн-знакомств и другие, для модерации пользовательского контента (UGC). Это включает в себя ряд типов контента, таких как обзоры продуктов, профили пользователей и модерация сообщений в социальных сетях.

Rekognition Content Moderation автоматизирует и оптимизирует рабочие процессы модерации изображений и видео, не требуя опыта машинного обучения. Клиенты Amazon Rekognition могут обрабатывать миллионы изображений и видео, эффективно обнаруживая неприемлемый или нежелательный контент, с помощью полностью управляемых API и настраиваемых правил модерации для обеспечения безопасности пользователей и соответствия требованиям бизнеса.

Команда успешно перенесла подмножество моделей машинного обучения с самостоятельным управлением в системе модерации изображений для обнаружения наготы и контента, небезопасного для работы (NSFW), в API Amazon Rekognition Detect Moderation, воспользовавшись высокоточными и комплексными предварительно обученными моделями модерации. . Благодаря высокой точности Amazon Rekognition команда смогла автоматизировать больше решений, сократить расходы и упростить архитектуру своей системы.

Повышенная точность и расширенные категории модерации

Внедрение API модерации изображений Amazon Rekognition позволило повысить точность обнаружения неприемлемого контента. Это означает, что дополнительно примерно 1 миллион изображений в год будут модерироваться автоматически без необходимости какой-либо проверки человеком.

Операционное совершенство

Команде Amazon Shopping удалось упростить архитектуру системы, сократив операционные усилия, необходимые для управления системой и ее обслуживания. Этот подход сэкономил им месяцы усилий DevOps в год, а это значит, что теперь они могут выделять свое время на разработку инновационных функций вместо того, чтобы тратить его на операционные задачи.

Снижение цены

Высокая точность модерации контента Rekognition позволила команде отправлять на проверку меньше изображений, включая потенциально неприемлемый контент. Это снизило затраты, связанные с модерированием вручную, и позволило модераторам сосредоточить свои усилия на более важных бизнес-задачах. В сочетании с повышением эффективности DevOps команда Amazon Shopping добилась значительной экономии средств.

Заключение

Переход от собственных моделей машинного обучения к API модерации Amazon Rekognition для модерации отзывов о продуктах может предоставить предприятиям множество преимуществ, в том числе значительную экономию средств. Автоматизируя процесс модерации, интернет-магазины могут быстро и точно модерировать большие объемы отзывов о продуктах, улучшая качество обслуживания клиентов, гарантируя быстрое удаление нежелательного или спам-контента. Кроме того, с помощью управляемого сервиса, такого как Amazon Rekognition Moderation API, компании могут сократить время и ресурсы, необходимые для разработки и обслуживания собственных моделей, что может быть особенно полезно для предприятий с ограниченными техническими ресурсами. Гибкость API также позволяет интернет-магазинам настраивать свои правила модерации и пороговые значения в соответствии со своими конкретными потребностями.

Узнайте больше о модерации контента на AWS и наших примерах использования машинного обучения для модерации контента. Сделайте первый шаг к оптимизации операций модерации контента с помощью AWS.

Об авторах

Шипра Канория является главным менеджером по продуктам в AWS. Она увлечена тем, что помогает клиентам решать их самые сложные проблемы с помощью машинного обучения и искусственного интеллекта. До прихода в AWS Шипра более 4 лет работала в Amazon Alexa, где запустила множество функций, связанных с продуктивностью, в голосовом помощнике Alexa.

Лука Агостино Рубино является главным инженером-программистом в команде Amazon Shopping. Он работает над такими функциями сообщества, как «Отзывы клиентов» и «Вопросы и ответы», в течение многих лет уделяя особое внимание модерации контента, а также масштабированию и автоматизации решений машинного обучения.

Лана Чжан является старшим архитектором решений в команде AWS WWSO AI Services, специализирующейся на искусственном интеллекте и машинном обучении для модерации контента, компьютерного зрения, обработки естественного языка и генеративного искусственного интеллекта. Благодаря своему опыту она занимается продвижением решений AWS AI/ML и помогает клиентам трансформировать их бизнес-решения в различных отраслях, включая социальные сети, игры, электронную коммерцию, средства массовой информации, рекламу и маркетинг.