Организация Software Freedom Conservancy (SFC) представила список рекомендаций по использованию ИИ для открытых проектов

Правозащитная организация Software Freedom Conservancy (SFC) представила список рекомендаций по использованию ИИ-систем на базе генеративных моделей машинного обучения при подготовке кода для открытых проектов.

В SFC занимаются предоставлением юридической защиты свободным проектам. Организация отстаивает необходимость соблюдения лицензии GPL.

По информации OpenNET, Рекомендации SFC касаются юридических, этических и социальных особенностей применения ИИ при разработке кода под открытыми и свободными лицензиями, а также отражают взаимодействие разработчиков с ИИ-системами, учитывая противоположные мнения в сообществе о допустимости применения ИИ в открытых проектах. Рекомендации SFC пытаются свести к минимуму проблемы, которые могут возникнуть из-за использования ИИ-систем по своей инициативе или по требованию работодателя.

Рекомендации SFC по поводу применения ИИ в проектах Open Source:

• сообщество должно поддерживать, а не просто терпимо относится к участникам, выступающим против применения генеративных ИИ‑систем;

• каждый участник сообщества имеет право на самоопределение в вопросах использования ИИ и никто не должен вынуждать применять подобные системы под давлением. Принятие политики недискриминации в отношении тех, кто отказывается от ИИ, и недопустимость принуждения работников компаний к использованию ИИ;

• открытые проекты не должны отталкивать участников, применяющих ИИ, даже если проект ввёл запрет на принятие созданного через ИИ кода. В подобных проектах созданные через ИИ патчи следует рассматривать как слабую пробу пера и корректно отклонять их, приветствуя при этом само желание участвовать в разработке и вежливо объясняя, почему проект не принял патч;

• в случае создания материалов через ИИ, участник проекта обязан потратить время на рецензирование, разбор сути и внесение доработок. Разработчики должны полностью понимать суть изменений от ИИ и понимать/разбираться в передаваемом коде;

• выполнять раскрытие в примечании к коммитам информации об использовании ИИ при подготовке изменений с детализацией уровня участия ИИ, используемых ИИ‑систем и их версий;

• код, сгенерированный ИИ‑системой на основе промпта и не прошедший проверку человеком, допускается отправлять только в специально оговорённых случаях. Если возможность передачи подобного непроверенного кода не обозначена, то его следует считать нежелательным;

• разработчики должны подробно и точно документировать своё взаимодействие с ИИ‑моделями в процессе генерации кода и сохранять информацию о промптах наравне с исходным кодом;

• юридические нормы, связанные с лицензированием и авторским правом на код, генерируемый при помощи ИИ, ещё находятся на стадии становления, поэтому не следует делать поспешные заключения о допустимости переписывания кода при помощи ИИ для замены лицензии с копилефт на пермиссивную или смены имущественных прав на код;

• обрабатываемые в ИИ входные данные влияют на лицензирование результата. Вопросы влияния лицензий на код, используемый при обучении модели, пока остаются не решёнными. Но при генерации кода не «с нуля» (на основе голого промпта), а при работе с существующей кодовой базой, например, при подготовке патча или доработке кода, результат должен распространяться под копилефт‑лицензией, если он создан при обработке кода с копилефт‑лицензией;

• в качестве наиболее безопасного и жизнеспособного варианта рекомендуется использование копилефт‑лицензий для нового кода, создаваемого при участии ИИ. Подобный подход снижает риски нарушения копилефт‑лицензий на код, использованный при обучении ИИ‑моделей. Судебных решений в этой области ещё не было и пока не сложилась юридическая практика, определяющая влияние на результат лицензий, под которыми распространяются материалы, используемые при обучении ИИ‑моделей;

• использование ИИ‑систем, включая проприетарные, рассматривается как допустимый стратегический компромисс, если они способствуют ускорению развития открытого ПО;

• при разработке ИИ‑систем рекомендуется развивать платформы, более дружественные к идеям открытого и свободного ПО;

• ИИ‑системы должны расширять инструменты и опыт разработчика, а не заменять их и приводить к деградации навыков. Разработчики должны сохранять любопытство и желание разбираться в том, почему код ведёт себя так, а не иначе, и это любопытство должно распространяться на результаты работы ИИ;

• разработчики должны осознанно подходить к использованию ИИ‑систем, не обращаться к ним по мелочам и избегать бессмысленных вычислений, понимая, что выполнение ИИ‑моделей приводит к значительному потреблению ресурсов и косвенно влияет на окружающую среду. Не нужно обращаться к ИИ сразу же при решении каждой проблемы. Нужно следить, чтобы ИИ был явно занят нужной задачей, если ИИ выполняет бесполезную обработку, то нужно быстро перенаправить ИИ-систему на что-то более полезное.