-2.3 C
New York

Разоблачение ажиотажа вокруг слухов о новой модели Q* от OpenAI | DeepTech

Published:

Хотя мы до сих пор не знаем всех подробностей, появились сообщения о том, что исследователи OpenAI совершили «прорыв» в области искусственного интеллекта, что встревожило сотрудников. Рейтер и Информация оба сообщают, что исследователи придумали новый способ создания мощных систем искусственного интеллекта и создали новую модель под названием Q* (произносится как Q-звезда), которая способна решать математические задачи на уровне начальной школы. По словам людей, которые говорили с Reuters, некоторые в OpenAI считают, что это может стать прорывом в стремлении компании создать общий искусственный интеллект — широко разрекламированную концепцию системы искусственного интеллекта, которая умнее человека. Компания отказалась комментировать вопрос Q*.

Социальные сети полны спекуляций и чрезмерной шумихи, поэтому я позвонил некоторым экспертам, чтобы узнать, насколько важным будет любой прорыв в математике и искусственном интеллекте. Действительно быть.

Исследователи в течение многих лет пытались использовать модели ИИ для решения математических задач. Языковые модели, такие как ChatGPT и GPT-4, могут выполнять некоторые математические операции, но не очень хорошо и надежно. В настоящее время у нас нет алгоритмов или даже подходящей архитектуры для надежного решения математических задач с использованием ИИ, — говорит Венда Ли, преподаватель ИИ в Эдинбургском университете. Глубокое обучение и преобразователи, своего рода нейронные сети, которые используют языковые модели, превосходно распознают шаблоны, но одного этого, вероятно, недостаточно, добавляет Ли.

Математика — это ориентир для рассуждений, говорит Ли. Машина, способная рассуждать о математике, теоретически могла бы научиться выполнять другие задачи на основе существующей информации, например, писать компьютерный код или делать выводы из новостной статьи. Математика — особенно трудная проблема для решения, поскольку она требует, чтобы модели ИИ обладали способностью рассуждать, а модели действительно понимали, с чем они имеют дело.

Генеративная система искусственного интеллекта, которая могла бы надежно выполнять математические вычисления, должна была бы очень четко понимать конкретные определения конкретных понятий, которые могут быть очень абстрактными. Многие математические задачи также требуют определенного уровня планирования из нескольких шагов, говорит Кэти Коллинз, доктор философии из Кембриджского университета, специализирующаяся на математике и искусственном интеллекте. Действительно, Ян ЛеКанн, главный специалист по искусственному интеллекту в Meta, на выходных написал на X и Linkedin, что, по его мнению, Q*, скорее всего, будет «попыткой OpenAI в планировании».

Люди, которые беспокоятся о том, что ИИ представляет экзистенциальный риск для людей, одна из основоположниц OpenAI, опасается, что такие возможности могут привести к созданию мошеннического ИИ. По словам Коллинза, проблемы безопасности могут возникнуть, если таким системам искусственного интеллекта будет разрешено ставить свои собственные цели и начать каким-то образом взаимодействовать с реальным физическим или цифровым миром.

Но хотя математика и ИИ могут приблизить нас на шаг к созданию более мощных систем ИИ, решение такого рода математических задач не означает рождения сверхразума.

«Я не думаю, что это сразу приведет нас к ОИИ или пугающим ситуациям», — говорит Коллинз. Также очень важно подчеркнуть, какие математические задачи решает ИИ, добавляет она.

Related Articles

Recent articles