Это эссе является частью пакета MIT Technology Review «2023 Инноваторы до 35 лет». Встречайте лауреатов этого года.

Инновации — мощный двигатель подъема общества и стимулирования экономического роста. Антибиотики, электрическое освещение, холодильники, самолеты, смартфоны — все это у нас есть, потому что новаторы создали то, чего раньше не существовало. В списке новаторов до 35 лет, составленном MIT Technology Review, отмечаются люди, которые многого добились в начале своей карьеры и, вероятно, добьются еще большего.

Потратив много лет на исследования в области искусственного интеллекта и создание продуктов на основе искусственного интеллекта, мне посчастливилось участвовать в нескольких инновациях, которые оказали влияние, таких как использование обучения с подкреплением для управления вертолетными дронами в Стэнфорде, запуск и руководство Google Brain для запуска крупномасштабных проектов. глубокое обучение и создание онлайн-курсов, которые привели к созданию Coursera. Я хотел бы поделиться некоторыми мыслями о том, как сделать это хорошо, обойти некоторые ловушки и избежать создания вещей, которые могут привести к серьезному вреду на этом пути.

ИИ сегодня является доминирующим драйвером инноваций

Как я уже говорил ранее, я считаю, что ИИ — это новое электричество. Электричество произвело революцию во всех отраслях и изменило наш образ жизни, и ИИ делает то же самое. Он проникает во все отрасли и дисциплины и приносит достижения, которые помогают множеству людей.

ИИ, как и электричество, — это технология общего назначения. Многие инновации, такие как медицинское лечение, космические ракеты или конструкция аккумуляторов, предназначены для одной цели. Напротив, ИИ полезен для создания произведений искусства, обслуживания веб-страниц, релевантных поисковому запросу, оптимизации маршрутов доставки для экономии топлива, помощи автомобилям во избежание столкновений и многого другого.

Развитие ИИ создает возможности для всех во всех уголках экономики, чтобы изучить, применимо ли это к их области и если да, то как. Таким образом, изучение ИИ создает непропорционально много возможностей сделать что-то, чего еще никто никогда не делал.

Например, в AI Fund, венчурной студии, которую я возглавляю, мне выпала честь участвовать в проектах, в которых ИИ применяется для морское судоходство, коучинг отношений, управление талантами, образованиеи другие области. Поскольку многие технологии искусственного интеллекта являются новыми, их применение в большинстве областей еще не изучено. Таким образом, знание того, как воспользоваться преимуществами ИИ, дает вам множество возможностей для сотрудничества с другими.

Забегая вперед, отмечу, что некоторые события особенно интересны.

• Подсказка: В то время как ChatGPT популяризировал возможность предлагать модели ИИ написать, скажем, электронное письмо или стихотворение, разработчики программного обеспечения только начинают понимать, что подсказки позволяют им создавать за считанные минуты те типы мощных приложений ИИ, на которые раньше уходили месяцы. Таким образом будет создана огромная волна приложений ИИ.
• Трансформаторы зрения: Текстовые преобразователи — языковые модели, основанные на архитектуре нейронной сети-трансформера, изобретенной в 2017 году компанией Google Brain и ее коллегами, — произвели революцию в письменной форме. Трансформаторы зрения, которые адаптируют трансформаторы для задач компьютерного зрения, таких как распознавание объектов на изображениях, были представлены в 2020 году и быстро завоевали широкое внимание. Шумиха вокруг преобразователей изображения в техническом сообществе сегодня напоминает мне шум вокруг преобразователей текста за пару лет до появления ChatGPT. Аналогичная революция грядет и в обработке изображений. Частью этого изменения станут визуальные подсказки, в которых подсказка представляет собой изображение, а не строку текста.
• Приложения ИИ: Пресса уделяет много внимания аппаратной и программной инфраструктуре ИИ, а также инструментам разработки. Но эта развивающаяся инфраструктура ИИ не будет успешной, если на ее основе не будут построены еще более ценные предприятия ИИ. Таким образом, несмотря на то, что много внимания средств массовой информации уделяется уровню инфраструктуры ИИ, на уровне приложений ИИ будет еще больший рост.

Эти области предлагают богатые возможности для новаторов. Более того, многие из них доступны широкому кругу технически подкованных людей, а не только тем, кто уже занимается искусственным интеллектом. Онлайн-курсы, программное обеспечение с открытым исходным кодом, программное обеспечение как услуга и онлайн-исследовательские работы дают каждому инструменты для обучения и начала инноваций. Но даже если эти технологии еще не доступны вам, многие другие пути к инновациям широко открыты.

Будьте оптимистичны, но не бойтесь потерпеть неудачу

Тем не менее, многие идеи, которые поначалу кажутся многообещающими, оказываются бесполезными. Неудачи неизбежны, если вы серьезно относитесь к инновациям. Вот некоторые мои проекты, о которых вы, вероятно, не слышали, потому что они были неудачными:

• Я потратил много времени, пытаясь заставить самолеты летать автономно строем, чтобы экономить топливо (аналогично птицам, которые летают V-образным строем). Оглядываясь назад, я понимаю, что я работал плохо и должен был работать с гораздо более крупными самолетами.
• Я пытался создать роботизированную руку для разгрузки посудомоечных машин, в которых хранилась посуда самых разных форм и размеров. Оглядываясь назад, я понимаю, что я пришел слишком рано. Алгоритмы глубокого обучения для восприятия и контроля в то время были недостаточно хороши.
• Около 15 лет назад я думал, что обучение без учителя (то есть предоставление моделям машинного обучения возможности учиться на неразмеченных данных) является многообещающим подходом. Я тоже неправильно рассчитал эту идею. Однако, наконец, это работает, поскольку доступность данных и вычислительная мощность возросли.

Было больно, когда эти проекты терпели неудачу, но уроки, которые я извлек, оказались полезными для других проектов, которые добились большего успеха. Благодаря моей неудачной попытке летать по V-образной форме я научился намного лучше планировать проекты и заранее учитывать риски. Попытка разгрузить посудомоечные машины провалилась, но это привело мою команду к созданию операционной системы роботов (ROS), которая стала популярной платформой с открытым исходным кодом, которая сейчас используется в роботах, от беспилотных автомобилей до механических собак. Несмотря на то, что моя первоначальная ориентация на обучение без учителя была плохим выбором, шаги, которые мы предприняли, оказались решающими в расширении глубокого обучения в Google Brain.

Инновации никогда не были легкими. Когда делаешь что-то новое, найдутся скептики. В молодости я сталкивался с большим скептицизмом, начиная большинство проектов, которые в конечном итоге оказались успешными. Но это не значит, что скептики всегда неправы. Я также столкнулся со скептицизмом в отношении большинства неудачных проектов.

Став более опытным, я обнаружил, что все больше и больше людей соглашаются со всем, что я говорю, и это меня беспокоило еще больше. Мне пришлось активно искать людей, которые бросят мне вызов и скажут правду. К счастью, сейчас меня окружают люди, которые скажут мне, если подумают, что я делаю какую-то глупость!

Хотя скептицизм полезен и даже необходим, общество глубоко заинтересовано в плодах инноваций. И это хороший повод относиться к инновациям с оптимизмом. Я лучше встану на сторону оптимиста, который хочет попробовать и может потерпеть неудачу, чем на сторону пессимиста, который сомневается в том, что возможно.

Возьмите на себя ответственность за свою работу

Поскольку мы фокусируемся на искусственном интеллекте как движущей силе ценных инноваций во всем обществе, социальная ответственность становится более важной, чем когда-либо. Люди как внутри, так и за пределами этой области видят широкий спектр возможного вреда, который может нанести ИИ. К ним относятся как краткосрочные проблемы, такие как предвзятость и вредное применение технологии, так и долгосрочные риски, такие как концентрация власти и потенциально катастрофические применения. Важно вести открытый и интеллектуально строгий разговор о них. Таким образом, мы сможем прийти к соглашению о том, каковы реальные риски и как их уменьшить.

За последнее тысячелетие последовательные волны инноваций снизили детскую смертность, улучшили питание, повысили грамотность, повысили уровень жизни во всем мире и способствовали развитию гражданских прав, включая защиту женщин, меньшинств и других маргинализированных групп. Однако инновации также способствовали изменению климата, стимулировали рост неравенства, поляризацию общества и усиление одиночества.

Очевидно, что преимущества инноваций сопряжены с рисками, и мы не всегда разумно ими управляли. ИИ — это следующая волна, и мы обязаны извлечь уроки из прошлого, чтобы максимизировать будущие выгоды для всех и минимизировать вред. Это потребует приверженности как отдельных лиц, так и общества в целом.

На социальном уровне правительства стремятся регулировать ИИ. Некоторым новаторам регулирование может показаться ненужным ограничением прогресса. Я вижу это по-другому. Регулирование помогает нам избежать ошибок и дает новые преимущества по мере того, как мы движемся в неопределенное будущее. Я приветствую регулирование, которое призывает к большей прозрачности непрозрачной работы крупных технологических компаний; это поможет нам понять их влияние и направить их к достижению более широких социальных выгод. Более того, необходимы новые правила, поскольку многие существующие правила были написаны для мира до появления ИИ. Новые правила должны определять результаты, которых мы хотим в таких важных областях, как здравоохранение и финансы, а также те результаты, которых мы не хотим.

Но предотвращение вреда не должно быть просто приоритетом для общества. Это также должно быть приоритетом для каждого новатора. Как технологи, мы обязаны понимать последствия наших исследований и внедрять инновации таким образом, чтобы это приносило пользу. Традиционно многие технологи придерживались мнения, что форма, которую принимает технология, неизбежна, и мы ничего не можем с этим поделать, поэтому мы можем свободно внедрять инновации. Но мы знаем, что это неправда.

Когда новаторы решают работать над дифференциальной конфиденциальностью (которая позволяет ИИ учиться на данных, не раскрывая личную информацию), они делают убедительное заявление о том, что конфиденциальность имеет значение. Это заявление помогает формировать социальные нормы, принятые государственными и частными учреждениями. И наоборот, когда новаторы создают криптографические протоколы Web3 для отмывания денег, это также создает мощное заявление (на мой взгляд, вредное), что правительства не должны иметь возможности отслеживать, как средства переводятся и тратятся.

Если вы заметите, что совершается что-то неэтичное, я надеюсь, вы поднимете этот вопрос со своими коллегами и руководителями и вовлечете их в конструктивный разговор. И если вас попросят поработать над чем-то, что, по вашему мнению, не поможет человечеству, я надеюсь, вы будете активно работать, чтобы положить этому конец. Если вы не можете этого сделать, подумайте о том, чтобы уйти. В AI Fund я закрывал проекты, которые считал финансово обоснованными, но этически несостоятельными. Я призываю вас сделать то же самое.

А теперь идите вперед и внедряйте инновации! Если вы уже участвуете в инновационной игре, продолжайте в том же духе. Неизвестно, какие великие достижения ждут вас в будущем. Если ваши идеи находятся на стадии мечтаний, поделитесь ими с другими и получите помощь, чтобы превратить их во что-то практичное и успешное. Начните действовать и найдите способы использовать силу инноваций во благо.

Это эссе является частью пакета MIT Technology Review «2023 Инноваторы до 35 лет». Встречайте лауреатов этого года.

Эндрю Нг — известный мировой новатор в области искусственного интеллекта. Он возглавляет AI Fund, DeepLearning.AI и Landing AI.