Риск полностью зависит от контекста
Риск полностью зависит от контекста. Фактически, одним из самых больших рисков является неспособность признать или понять твой контекст: Вот почему вам нужно начинать с него при оценке риска.
Это особенно важно с точки зрения репутации. Подумайте, например, о своих клиентах и их ожиданиях. Как они могут относиться к взаимодействию с чат-ботом с искусственным интеллектом? Насколько вредно может быть предоставление им ложной или вводящей в заблуждение информации? Возможно, вы можете справиться с незначительными неудобствами для клиентов, но что, если они окажут значительное влияние на здоровье или финансовое положение?
Даже если внедрение ИИ кажется разумным, очевидно, что существуют некоторые последующие репутационные риски, которые необходимо учитывать. Мы годами говорили о важности пользовательского опыта и ориентации на клиента: хотя ИИ может помочь нам в этом, он также может подорвать эти вещи.
Аналогичный вопрос можно задать и о ваших командах. ИИ, возможно, обладает способностью повышать эффективность и облегчать работу людей, но неправильное использование может серьезно подорвать существующие способы работы. В последнее время в отрасли много говорят об опыте разработчиков — об этом я писал в этой публикации — и решениях, которые организации принимают в отношении ИИ, необходимо улучшать опыт команд, а не подрывать его.
В последнем выпуске журнала Технологический радар Thoughtworks— обзор индустрии программного обеспечения, публикуемый два раза в год и основанный на нашем опыте работы с клиентами по всему миру — мы говорим именно об этом. Мы вызываем Помощники команды ИИ как одну из наиболее интересных новых областей разработки программного обеспечения, но мы также отмечаем, что основное внимание должно быть сосредоточено на создании возможностей для команд, а не отдельных людей. «Вам следует искать способы создания помощников команды ИИ, которые помогут создать «команду 10x», а не группу разрозненных инженеров 10x, которым помогает ИИ», — говорим мы в последнем отчете.
Несоблюдение рабочего контекста вашей команды может нанести значительный репутационный ущерб. Некоторые оптимистичные организации могут рассматривать это как неотъемлемую часть инноваций, но это не так. Это показывает потенциальным сотрудникам, особенно высокотехническим, что вы на самом деле не понимаете и не заботитесь о работе, которую они выполняют.
Борьба с рисками посредством более разумного внедрения технологий
Существует множество инструментов, которые можно использовать для управления рисками. Мыслительные работы помогли собрать воедино Пособие по ответственным технологиямнабор инструментов и методов, которые организации могут использовать для принятия более ответственных решений в отношении технологий (не только ИИ).
Однако важно отметить, что управление рисками, особенно связанными с репутацией, требует реального внимания к особенностям внедрения технологий. Это было особенно ясно в работе, которую мы проводили с рядом индийских организаций гражданского общества, разрабатывая чат-бот социального обеспечения с которыми граждане могут взаимодействовать на родном языке. Риски здесь мало чем отличались от тех, которые обсуждались ранее: контекст, в котором использовался чат-бот (в качестве поддержки доступа к жизненно важным услугам), означал, что неточная или «галлюцинированная» информация могла помешать людям получить ресурсы, от которых они зависят.