Изображение: Shutterstock.com

К Инес Иполито/Дебора Пиршнер, научный обозреватель Frontiers

Инес Иполито — высококвалифицированный исследователь, получивший признание за свою работу в уважаемых журналах и вклад в качестве соредактора. Она получила исследовательские награды, в том числе престижный грант Амстердамского университета в 2021 году. После получения докторской степени она занимала должности в Берлинской школе разума и мозга и Университете Гумбольдта в Берлине. В настоящее время она является постоянным лектором философии ИИ в Университете Маккуори, уделяя особое внимание когнитивному развитию и взаимодействию между расширенным когнитивным процессом (ИИ) и социокультурной средой.

Инес возглавляет проект консорциума поИзучение и проектирование городской плотности. Нейроурбанизм как новый подход в глобальном здравоохранении, финансируемый Берлинским университетским альянсом. Она также работает специалистом по этике ИИ в Verses.

Помимо своих исследований, она стала соучредителем и вице-президентом Международного общества философии наук о разуме. Инес является ведущей наводящего на размышления подкаста «Путь философа» и с 2017 по 2020 год активно участвовала в работе Комитета «Женщины в философии» и Комитета по разнообразию и инклюзивности Австралазийской философской ассоциации.

В рамках нашего Пограничный ученый серия, Иполито связалась с Frontiers, чтобы рассказать нам о своей карьере и исследованиях.

Изображение: Инес Иполито

Что вдохновило вас стать исследователем?
На протяжении всего моего личного путешествия мое врожденное любопытство и страсть к пониманию нашего опыта в мире были движущими силами в моей жизни. Общение с вдохновляющими учителями и наставниками во время моего обучения еще больше подстегнуло мою мотивацию к изучению возможностей объективного понимания. Это привело меня к междисциплинарному пути в философии и неврологии, приняв первоначальный замысел когнитивной науки для междисциплинарного сотрудничества. Я считаю, что, преодолевая дисциплинарные пробелы, мы можем получить представление о человеческом разуме и его взаимодействии с миром. Этот интегративный подход позволяет мне вносить свой вклад как в научные знания, так и в реальные приложения, приносящие пользу отдельным людям и обществу в целом.

Можете ли вы рассказать нам об исследовании, над которым вы сейчас работаете?
Мои исследования сосредоточены на когнитивном развитии и его значении в когнитивной науке ИИ. Социокультурные контексты играют ключевую роль в формировании когнитивного развития, начиная от фундаментальных когнитивных процессов и заканчивая более сложными, семантически сложными когнитивными действиями, которые мы приобретаем и которыми занимаемся.

Поскольку наш мир все больше проникается искусственным интеллектом, мое исследование сосредоточено на двух основных аспектах. Во-первых, я исследую, как умные среды, такие как онлайн-пространства, виртуальная реальность и цифровое гражданство, влияют на контекстно-зависимое когнитивное развитие. Изучая влияние этих сред, я стремлюсь понять, как формируется и адаптируется познание в этих технологически опосредованных контекстах.

Во-вторых, я исследую, как дизайн ИИ возникает в конкретных социокультурных условиях. Дизайн ИИ не просто отражает общество, он воплощает в себе общественные ценности и устремления. Я исследую сложную взаимосвязь между ИИ и его социокультурными истоками, чтобы понять, как технологии могут формировать и подвергаться влиянию контекста, в котором они разрабатываются.

На ваш взгляд, почему ваше исследование важно?
Цель моей работы — способствовать пониманию сложной взаимосвязи между познанием и ИИ, уделяя особое внимание социокультурной динамике, влияющей как на когнитивное развитие, так и на проектирование систем искусственного интеллекта. Меня особенно интересует понимание парадоксальной природы развития ИИ и его влияния на общество: в то время как технологии исторически улучшали жизнь, ИИ также привлек внимание к проблематичным предубеждениям и сегрегации, освещенным в феминистской научно-технической литературе.

По мере развития ИИ крайне важно обеспечить, чтобы достижения приносили пользу всем и не увековечивали историческое неравенство. Инклюзивность и равенство должны быть приоритетными, бросая вызов доминирующим нарративам, которые благоприятствуют определенным группам, особенно белым мужчинам. Признание того, что технологии ИИ воплощают наши неявные предубеждения и отражают наше отношение к разнообразию и нашим отношениям с миром природы, позволяет нам более эффективно ориентироваться в этических и социальных последствиях ИИ.

Существуют ли какие-либо распространенные заблуждения об этой области исследований? Как бы вы к ним обратились?
Распространенное заблуждение о том, что разум рассматривается как компьютер, имеет серьезные последствия для дизайна ИИ и нашего понимания познания. Когда познание рассматривается как простой процесс ввода-вывода в мозге, оно упускает из виду воплощенные сложности человеческого опыта и предубеждения, заложенные в конструкции ИИ. Этот редукционистский взгляд не учитывает важность телесного взаимодействия, когнитивного развития, психического здоровья, благополучия и социальной справедливости.

Это субъективное восприятие мира не может быть сведено к простой обработке информации, поскольку оно зависит от контекста и наполнено значениями, частично сконструированными в динамике социальной власти.

Поскольку окружающая среда все больше пронизана ИИ, понимание того, как она формируется и формирует человеческий опыт, требует исследования, выходящего за рамки понимания познания как (бессмысленных) информационных процессов. Признавая распределенную и воплощенную природу познания, мы можем гарантировать, что технологии ИИ разрабатываются и интегрируются таким образом, чтобы учитывать сложности человеческого опыта, учитывать двусмысленность и способствовать осмысленному и справедливому социальному взаимодействию.

Какими областями исследований вы хотели бы заниматься в ближайшие годы?
В предстоящие годы крайне важно заняться несколькими областями, связанными с ИИ, чтобы сформировать более инклюзивное и устойчивое будущее:

Разработайте ИИ, чтобы уменьшить предвзятость и дискриминацию, обеспечив равные возможности для людей из разных слоев общества.

Сделайте системы ИИ прозрачными и объяснимыми, чтобы люди понимали, как принимаются решения и как привлечь их к ответственности за непредвиденные последствия.

Сотрудничайте с различными заинтересованными сторонами для устранения предубеждений, культурных особенностей и проблем, с которыми сталкиваются маргинализированные сообщества при разработке ИИ.

Учитывайте воздействие на окружающую среду, потребление ресурсов, образование отходов и углеродный след на протяжении всего жизненного цикла технологий ИИ.

Как открытая наука повлияла на охват и влияние вашего исследования?
Научные знания, которые финансируются государством, должны быть доступны бесплатно, чтобы соответствовать принципам открытой науки. Открытая наука подчеркивает прозрачность, сотрудничество и доступность научных исследований и распространения знаний. Открыто делясь знаниями, связанными с ИИ, включая код, данные и алгоритмы, мы призываем различные заинтересованные стороны делиться своим опытом, выявлять потенциальные предубеждения и решать этические проблемы в рамках технических наук.

Кроме того, включение философских рассуждений в развитие философии теории разума может способствовать этическим обсуждениям и принятию решений при разработке и внедрении ИИ исследователями и политиками. Этот прозрачный и совместный подход позволяет критически оценивать и совершенствовать технологии искусственного интеллекта, чтобы обеспечить справедливость, уменьшение предвзятости и общую справедливость.

Эта статья переиздана с Блог Frontiers in Robotics and AI. Вы можете прочитать оригинал статьи здесь.