От искусственного интеллекта к суперинтеллекту

Робототехника

От искусственного интеллекта к суперинтеллекту | DeepTech

DEEPTECH

September 27, 2023

Введение: от искусственного интеллекта к сверхинтеллекту

От искусственного интеллекта к сверхинтеллекту. Искусственный сверхинтеллект или ИСИ, иногда называемый цифровым сверхинтеллектом, — это появление гипотетического агента, обладающего интеллектом, намного превосходящим интеллект самых умных и одаренных людей. Искусственный интеллект — это быстро развивающаяся область технологий, способная значительно улучшить благосостояние людей.

Однако разработка машин с интеллектом, значительно превосходящим человеческий, создаст особые, возможно, даже уникальные риски. Большинство опрошенных исследователей ИИ ожидают, что машины в конечном итоге смогут конкурировать с людьми в интеллекте, хотя единого мнения о том, когда и как это произойдет, мало.

видео

Источник – Ютуб | Время науки

Читайте также: Робототехника влияет на рабочее место

Достаточно принять три основных предположения от искусственного интеллекта до сверхразума, чтобы осознать неизбежность сверхразумного ИИ:

– Интеллект – это продукт обработки информации в физических системах.

– Мы продолжим совершенствовать наши интеллектуальные машины.

– Мы не стоим на пике интеллекта или где-то рядом с ним.

Философ Ник Бостром выразил обеспокоенность по поводу того, какие ценности должен иметь сверхразум.

Читайте также: Как роботы отбирают наши рабочие места!

Любой тип сверхразума ИИ может быстро достигать своих запрограммированных целей, практически не передавая власть другим. Оно может вообще не принимать во внимание своих дизайнеров. Логика ее целей может быть несовместима с человеческими идеалами. Сила ИИ может заключаться в том, чтобы сделать людей своими слугами, а не наоборот. Если бы ему это удалось, он бы «правил без конкуренции под диктатурой одного».

Илон Маск также предупредил, что глобальная гонка за искусственным интеллектом может привести к третьей мировой войне. Чтобы избежать «худшей ошибки в истории», необходимо понять природу расы ИИ, а также избежать развития, которое может привести к появлению недружественного искусственного сверхразума.

Чтобы обеспечить дружественный характер искусственного сверхразума, мировые лидеры должны работать над тем, чтобы этот ИСИ приносил пользу всему человечеству.

#ИИ #КАК И Я #AGI ПОДПИСЫВАЙТЕСЬ на канал «Время науки»:
https://www.youtube.com/sciencetime24

ПОДДЕРЖИТЕ нас на Patreon: https://www.patreon.com/sciencetime

КУПИТЬ Товары Science Time: teespring.com/science-time-merch

Источники: Ник Бостром Тед Лок: https://www.youtube.com/watch?v=MnT1x…

Заключение

Видео Ника Бострома «От искусственного интеллекта до сверхинтеллекта» дает ценную информацию о потенциальных последствиях искусственного интеллекта для будущего человечества. Бостром подчеркивает важность понимания траектории развития ИИ и потенциальных рисков, связанных с созданием сверхинтеллектуальных систем.

В видео подчеркивается необходимость тщательного обсуждения и активных мер для обеспечения того, чтобы ИИ развивался таким образом, чтобы он соответствовал человеческим ценностям и защищал благополучие общества. Заставляющий задуматься анализ Бострома служит напоминанием об этических соображениях и долгосрочных последствиях, связанных с развитием технологии искусственного интеллекта.

Исследуя возможности и риски сверхразумного ИИ, Бостром призывает исследователей, политиков и общество в целом активно участвовать в дискуссиях и принятии решений, касающихся разработки и внедрения систем ИИ. Видео служит призывом к действию, призывая нас уделить приоритетное внимание ответственному и этичному развитию ИИ, чтобы обеспечить будущее, приносящее пользу человечеству.