Ну, этого, очевидно, не произошло.

Я поговорил с профессором Массачусетского технологического института Максом Тегмарком, основателем и президентом FLI, чтобы подвести итоги того, что произошло с тех пор. Вот основные моменты нашего разговора.

О смещении окна Овертона по рискам ИИ: Тегмарк рассказал мне, что в беседах с исследователями искусственного интеллекта и техническими руководителями стало ясно, что существует огромное беспокойство по поводу экзистенциального риска, который представляет ИИ, но никто не чувствовал, что может говорить об этом открыто «из-за боязни быть высмеянным как луддитские паникёры». ». «Основная цель письма заключалась в том, чтобы сделать разговор более актуальным, переместить окно Овертона так, чтобы люди чувствовали себя в безопасности, выражая эти опасения», — говорит он. «Шесть месяцев спустя стало ясно, что часть удалась».

Но это все: «Что нехорошо, так это то, что все компании по-прежнему работают на полную мощность, и у нас до сих пор нет значимого регулирования в Америке. Похоже, что американские политики, несмотря на все свои разговоры, не собираются в этом году принимать какие-либо законы, которые существенно обуздали бы самые опасные вещи».

Почему правительству следует вмешаться: Тегмарк лоббирует создание агентства по типу FDA, которое будет обеспечивать соблюдение правил в отношении ИИ, а также того, чтобы правительство заставило технологические компании приостановить разработку ИИ. «Также очевидно, что (лидеры ИИ, такие как Сэм Альтман, Демис Хассабис и Дарио Амодей) сами очень обеспокоены. Но все они знают, что не могут остановиться в одиночестве», — говорит Тегмарк. Одна только пауза была бы «катастрофой для их компании, верно?» он добавляет. «Их просто выбьют из конкуренции, а затем генерального директора заменит человек, который не хочет делать паузу. Единственный способ наступить паузу — это если правительства мира вмешаются и введут стандарты безопасности, которые заставят всех сделать паузу».

А как насчет Илона…? Маск подписал письмо с призывом сделать паузу только для того, чтобы создать новую компанию в области искусственного интеллекта под названием X.AI для создания систем искусственного интеллекта, которые «поймут истинную природу Вселенной». (Маск является советником FLI.) «Очевидно, что он хочет паузы, как и многие другие лидеры ИИ. Но пока его нет, он чувствует, что должен оставаться в игре».

Почему он считает, что руководители технологических компаний хранят в своих сердцах доброту человечества: «Что заставляет меня думать, что они действительно хотят хорошего будущего с ИИ, а не плохого? Я знаю их много лет. Я с ними регулярно общаюсь. И я могу сказать это даже в частных разговорах — я это чувствую».

Ответ критикам, которые говорят, что сосредоточение внимания на экзистенциальном риске отвлекает от текущего вреда: «Очень важно, чтобы те, кого очень волнуют текущие проблемы, и те, кого волнует неизбежный предстоящий вред, работали вместе, а не враждовали. Я не критикую людей, которые сосредотачиваются на текущем вреде. Я думаю, это здорово, что они это делают. Меня очень волнуют эти вещи. Если люди участвуют в такого рода борьбе, это просто помогает крупным технологическим компаниям разделить и завоевать всех тех, кто действительно хочет их обуздать».