В конечном итоге сообщество должно решить, чего оно пытается достичь, говорит Закчироли: «Вы просто следите за тем, куда движется рынок, чтобы они по сути не использовали термин «ИИ с открытым исходным кодом», или вы пытаетесь подтолкнуть рынок к большей открытости и предоставлению большего количества свобод пользователям?»

Какой смысл в открытом исходном коде?

Спорно, насколько любое определение ИИ с открытым исходным кодом уравняет правила игры, говорит Сара Майерс Уэст, соисполнительный директор AI Now Institute. Она является соавтором бумага опубликованный в августе 2023 года, разоблачающий отсутствие открытости во многих проектах искусственного интеллекта с открытым исходным кодом. Но он также подчеркнул, что огромные объемы данных и вычислительной мощности, необходимые для обучения передовому искусственному интеллекту, создают более глубокие структурные барьеры для более мелких игроков, какими бы открытыми ни были модели.

Майерс Уэст считает, что также отсутствует ясность относительно того, чего люди надеются достичь, сделав ИИ открытым исходным кодом. «Это безопасность, возможность проводить академические исследования, попытка стимулировать большую конкуренцию?» она спрашивает. «Нам нужно более точно определить, какова цель, а затем понять, как открытие системы меняет путь к этой цели».

OSI, похоже, старается избегать подобных разговоров. В проекте определения в качестве ключевых преимуществ упоминаются автономия и прозрачность, но Маффулли отказался объяснить, почему OSI ценит эти концепции. В документе также есть раздел с надписью «Проблемы, выходящие за рамки рассмотрения», который ясно дает понять, что определение не будет затрагивать вопросы об «этичном, заслуживающем доверия или ответственном» ИИ.

Маффулли говорит, что исторически сообщество открытого исходного кода фокусировалось на обеспечении беспрепятственного обмена программным обеспечением и избегало увязнуть в дебатах о том, для чего это программное обеспечение следует использовать. «Это не наша работа», — говорит он.

Но эти вопросы нельзя игнорировать, говорит Варсо, как бы люди ни старались на протяжении десятилетий. Идея о том, что технологии нейтральны и что такие темы, как этика, «выходят за рамки», является мифом, добавляет она. Она подозревает, что это миф, который необходимо поддерживать, чтобы не допустить раскола свободной коалиции сообщества разработчиков ПО с открытым исходным кодом. «Я думаю, люди понимают, что это нереально (миф), но нам нужно, чтобы это двигалось вперед», — говорит Варсо.

Помимо OSI, другие придерживаются другого подхода. В 2022 году группа исследователей представила Лицензии на ответственное использование ИИ (RAIL), которые аналогичны лицензиям с открытым исходным кодом, но включают положения, которые могут ограничивать конкретные случаи использования. Цель, по словам датского подрядчика, исследователя искусственного интеллекта, который был одним из создателей лицензии, состоит в том, чтобы позволить разработчикам предотвратить использование их работы в целях, которые они считают неуместными или неэтичными.

«Как исследователь, я бы не хотел, чтобы мои материалы использовались во вред», — говорит он. И он не одинок: недавний анализ он и его коллеги провели исследование популярной платформы хостинга моделей Hugging Face, запускающей искусственный интеллект, и обнаружили, что 28% моделей используют RAIL.