Могу сказать, что Буоламвини находит эту обложку забавной. Она фотографирует это. Времена сильно изменились с 1961 года. В своих новых мемуарах Разоблачение ИИ: моя миссия — защитить то, что является человеком в мире машин, Буоламвини делится историей своей жизни. Во многих отношениях она олицетворяет, как далеко продвинулись технологии с тех пор и как далеко им еще предстоит пройти.

Буоламвини наиболее известна благодаря новаторской статье, которую она написала в соавторстве с исследователем искусственного интеллекта Тимнитом Гебру в 2017 году, под названием «Гендерные оттенки», в котором показано, как коммерческие системы распознавания лиц часто не распознают лица чернокожих и коричневых людей, особенно чернокожих женщин. Ее исследования и пропагандистская деятельность побудили такие компании, как Google, IBM и Microsoft, улучшить свое программное обеспечение, чтобы оно было менее предвзятым и отказалось от продажи своих технологий правоохранительным органам.

Теперь у Буоламвини появилась новая цель. Она призывает к радикальному переосмыслению того, как создаются системы искусственного интеллекта. Буоламвини рассказала MIT Technology Review, что на фоне нынешнего ажиотажа вокруг искусственного интеллекта она видит вполне реальный риск позволить технологическим компаниям создавать применимые к ним правила — повторение той самой ошибки, утверждает она, которая ранее позволяла процветать предвзятым и репрессивным технологиям. .

«Меня беспокоит то, что мы даем стольким компаниям свободу действий или аплодируем инновациям, отворачивая голову (от вреда)», — говорит Буоламвини.

Особое беспокойство, по словам Буоламвини, вызывает основа, на которой мы создаем самые блестящие сегодня игрушки ИИ, так называемые фундаментальные модели. Технологи предполагают, что эти многофункциональные модели послужат трамплином для многих других приложений искусственного интеллекта, от чат-ботов до автоматизированного кинопроизводства. Они создаются путем сбора огромного количества данных из Интернета, неизбежно включая контент, защищенный авторским правом, и личную информацию. На многие компании, занимающиеся искусственным интеллектом, сейчас подают в суд артисты, музыкальные компании и писатели, утверждающие, что их интеллектуальная собственность была захвачена без согласия.

Нынешний образ действий сегодняшних компаний, занимающихся искусственным интеллектом, неэтичен — это форма «колониализма данных», говорит Буоламвини, с «полным игнорированием согласия».

«То, что можно забрать, если нет законов – это просто разграблено», – говорит она. Как автор, говорит Буоламвини, она полностью ожидает от своей книги: ее стихиее голос и ее статьи — даже ее докторская диссертация — будут включены в модели ИИ.

«Если я обнаружу, что какая-то моя работа была использована в этих системах, я обязательно сообщу об этом. Это то, что мы делаем», — говорит она.