Эта история впервые появилась в «Алгоритме», нашем еженедельном информационном бюллетене об искусственном интеллекте. Чтобы такие истории первыми попадали на ваш почтовый ящик, подпишите здесь.

Я помню, как впервые примерил VR-гарнитуру. Это был первый Oculus Rift, и я чуть не потерял сознание после того, как испытал интенсивные, но визуально неуклюжие американские горки в виртуальной реальности. Но это было десять лет назад, и с тех пор игра стала намного более плавной и реалистичной. Однако такой впечатляющий уровень погружения может стать проблемой: он делает нас особенно уязвимыми для кибератак в виртуальной реальности.

Я только что опубликовал статью о новом виде уязвимости безопасности, обнаруженной исследователями из Чикагского университета. Вдохновленная фильмом Кристопера Нолана «Начало», атака позволяет хакерам создать приложение, которое внедряет вредоносный код в систему Meta Quest VR. Затем он запускает клон главного экрана и приложений, который выглядит идентично исходному экрану пользователя. Оказавшись внутри, злоумышленники могут видеть, записывать и изменять все, что человек делает с гарнитурой VR, отслеживая голос, движения, жесты, нажатия клавиш, активность просмотра и даже взаимодействие с другими людьми в режиме реального времени. Новый страх = разблокирован.

Результаты довольно ошеломляющие, отчасти потому, что ничего не подозревающие испытуемые исследователей понятия не имели, что на них напали. Подробнее об этом можно прочитать в моей истории здесь.

Поразительно видеть, насколько хрупкими и небезопасными являются эти VR-системы, особенно если учесть, что гарнитура Meta Quest является самым популярным подобным продуктом на рынке, которым пользуются миллионы людей.

Но, возможно, более тревожным является то, как подобные атаки могут происходить незаметно для нас и искажать наше чувство реальности. Предыдущие исследования показали, как быстро люди начинают относиться к вещам в AR или VR как к реальным, говорит Франци Рознер, доцент кафедры компьютерных наук Вашингтонского университета, который изучает безопасность и конфиденциальность, но не участвовал в исследовании. Даже в самых простых виртуальных средах люди начинают ходить вокруг объектов так, как будто они действительно существуют.

У виртуальной реальности есть потенциал поместить дезинформацию, обман и другой проблемный контент в стероиды, потому что она эксплуатирует мозг людей и обманывает их физиологически и подсознательно, говорит Рознер: «Погружение действительно мощное».

А поскольку технология VR относительно нова, люди не внимательно следят за недостатками безопасности и ловушками при ее использовании. Чтобы проверить, насколько скрытной была первоначальная атака, исследователи из Чикагского университета наняли 27 добровольцев-экспертов по виртуальной реальности, чтобы испытать ее. Одной из участниц была Жасмин Лу, доктор философии по информатике из Чикагского университета. Она говорит, что регулярно использует, изучает и работает с VR-системами с 2017 года. Несмотря на это, атака застала ее и почти всех остальных участников врасплох.

«Насколько я мог судить, не было никакой разницы, кроме некоторого увеличения времени загрузки — то, что, я думаю, большинство людей просто восприняли бы как небольшие сбои в системе», — говорит Лу.

По словам Рознера, одна из фундаментальных проблем, с которыми людям, возможно, придется столкнуться при использовании виртуальной реальности, заключается в том, могут ли они доверять тому, что видят.

Лу соглашается. Она говорит, что с помощью онлайн-браузеров нас научили распознавать, что выглядит законным, а что нет, но с VR мы просто этого не делаем. Люди не знают, как выглядит нападение.

Это связано с растущей проблемой, которую мы наблюдаем с развитием генеративного искусственного интеллекта и даже с текстом, аудио и видео: этообщеизвестно, что трудно отличить реальный контент от созданного ИИ. Начальная атака показывает, что нам нужно думать о виртуальной реальности как о другом измерении в мире, где становится все труднее понять, что реально, а что нет.

Поскольку все больше людей используют эти системы и на рынок выходит все больше продуктов, на технологическом секторе лежит ответственность за разработку способов сделать их более безопасными и заслуживающими доверия.

Хорошие новости? По словам Рознера, хотя технологии виртуальной реальности коммерчески доступны, они не так широко используются. Так что пришло время начать укреплять оборону уже сейчас.

Теперь прочитайте остальную часть алгоритма.

Более глубокое обучение

Дочерняя компания OpenAI создала модель искусственного интеллекта, которая помогает роботам обучаться задачам так же, как люди.

Летом 2021 года OpenAI незаметно закрыла свою команду по робототехнике, объявив, что прогресс сдерживается нехваткой данных, необходимых для обучения роботов тому, как двигаться и рассуждать с использованием искусственного интеллекта. Теперь трое из первых ученых-исследователей OpenAI говорят, что стартап Covariant, который они выделили в 2017 году, решил эту проблему и представил систему, которая сочетает в себе навыки рассуждения больших языковых моделей с физической ловкостью продвинутого робота.

Мультимодальные подсказки:Новая модель, получившая название RFM-1, была обучена на многолетних данных, собранных небольшим парком роботов-сборщиков товаров Covariant, которые такие клиенты, как Crate & Barrel и Bonprix, используют на складах по всему миру, а также на словах и видео из Интернета. Пользователи могут подсказывать модель, используя пять различных типов ввода: текст, изображения, видео, инструкции робота и измерения. Компания надеется, что система станет более функциональной и эффективной по мере ее внедрения в реальном мире.Подробнее о Джеймсе О’Доннелле можно прочитать здесь..

Биты и байты

Теперь вы можете использовать генеративный искусственный интеллект, чтобы превращать свои истории в комиксы.
Объединив несколько различных генеративных моделей в простой в использовании пакет, управляемый одним нажатием кнопки, Lore Machine предвещает появление искусственного интеллекта, управляемого одним щелчком мыши. (Обзор технологий Массачусетского технологического института)

Бывшему инженеру Google предъявлено обвинение в краже коммерческих секретов искусственного интеллекта для китайских компаний
Гонка за разработку всё более мощных систем искусственного интеллекта становится грязной. Китайский инженер загрузил конфиденциальные файлы о суперкомпьютерных центрах обработки данных Google в свой личный аккаунт Google Cloud, работая на китайские компании. (Министерство юстиции США)

В саге OpenAI было еще больше драмы
Эта история действительно является подарком, который продолжает дарить. OpenAI ответила Илону Маску и его иску, в котором утверждается, что компания предала свою первоначальную миссию — приносить пользу миру,публикация электронных писемпоказывая, что Маск тоже стремился коммерциализировать OpenAI. Тем временем Сэм Альтманснова на доске OpenAIпосле его временного отстранения, и оказывается, что технический директор Мира Муратисыграл большую рольв перевороте против Альтмана, чем сообщалось первоначально.

Информатор Microsoft предупредил, что инструмент искусственного интеллекта компании создает изображения насилия и сексуального характера и игнорирует авторские права.
Шейн Джонс, инженер, работающий в Microsoft, говорит, что его тесты с помощью Copilot Designer дали ему тревожные и тревожные результаты. Он говорит, что компания признала его обеспокоенность, но не сняла продукт с рынка. Затем Джонс отправил письмо с объяснением этих опасений в Федеральную торговую комиссию, и с тех пор Microsoft началаблокировка некоторых терминовкоторые создали токсичный контент. (CNBC)

Кремниевая долина отстраняет ученых от исследований в области искусственного интеллекта
Исследования в области искусственного интеллекта невероятно дороги, а крупные технологические компании с их огромными зарплатами и вычислительными ресурсами истощают академические круги лучших талантов. Это имеет серьезные последствия для технологии, заставляя ее сосредоточиться на коммерческом использовании, а не на науке. (Вашингтон Пост)