Но художники — это канарейка в угольной шахте. Их борьба принадлежит всем, кто когда-либо публиковал в Интернете все, что их волнует. Наши личные данные, сообщения в социальных сетях, тексты песен, новостные статьи, художественная литература и даже наши лица — все, что находится в свободном доступе в Интернете, может навсегда оказаться в модели ИИ, даже если мы об этом не узнаем.

Такие инструменты, как Nightshade, могут стать первым шагом к тому, чтобы вернуть баланс сил в нашу пользу.

Более глубокое обучение

Как компании Meta и AI набирали ярких актеров для обучения ИИ

Ранее в этом году компания Realeyes провела «исследование эмоций». Он набирал актеров, а затем записывал аудио- и видеоданные их голосов, лиц и движений и передал их в базу данных искусственного интеллекта. Эта база данных используется для подготовки виртуальных аватаров для Meta. Проект совпал с историческими забастовками Голливуда. Поскольку индустрия остановилась, большее, чем обычно, количество безработных актеров могло стать благом для Meta и Realeyes: появился новый пул «тренеров» — и источников данных — идеально подходящих для обучения их ИИ будет выглядеть более человечным.

Кому принадлежит ваше лицо: Многие участники отрасли обеспокоены тем, что ИИ — во многом похожий на модели, описанные в исследовании эмоций — может быть использован для их замены, независимо от того, копируются их точные лица или нет. Подробности от Эйлин Го можно прочитать здесь.

Биты и байты

Как Китай планирует оценивать безопасность генеративного искусственного интеллекта
У китайского правительства есть новый проект документа, в котором предлагаются подробные правила определения того, является ли генеративная модель ИИ проблематичной. Наш китайский технический обозреватель Зейи Ян распаковывает его для нас. (Обзор технологий MIT)

Чат-боты с искусственным интеллектом могут угадать вашу личную информацию по тому, что вы вводите
Новое исследование показало, что большие языковые модели превосходно угадывают личную информацию людей из чатов. Это можно использовать, например, для ускорения профилирования рекламы. (Проводной)

OpenAI утверждает, что ее новый инструмент может обнаруживать изображения DALL-E с точностью 99%.
Руководители OpenAI говорят, что компания разрабатывает этот инструмент после того, как ведущие ИИ-компании дали Белому дому добровольное обещание разработать водяные знаки и другие механизмы обнаружения для контента, созданного ИИ. Google анонсировала свой инструмент для нанесения водяных знаков в августе. (Блумберг)

Модели искусственного интеллекта терпят неудачу в плане прозрачности
Когда Стэнфордский университет проверил, насколько прозрачны модели больших языков, выяснилось, что модель LLaMA 2, получившая наибольшее количество баллов, набрала только 54 балла из 100. Растущая непрозрачность является тревожной тенденцией в сфере ИИ. Модели ИИ будут иметь огромное влияние в обществе, и нам нужно больше внимания к ним, чтобы иметь возможность привлечь их к ответственности. (Стэнфорд)

Студент колледжа создал систему искусственного интеллекта для чтения римских свитков 2000-летней давности
Как весело! 21-летний специалист по информатике разработал программу искусственного интеллекта для расшифровки древнеримских свитков, поврежденных извержением вулкана в 79 году. Программа смогла обнаружить около десятка букв, которые специалисты перевели в слово «порфиры». — по-древнегречески пурпурный. (Вашингтон Пост)