OpenAI представила новый стандарт для ии: как управлять порно-контентом ответственно

В мае 2024 года компания OpenAI раскрыла подробное руководство под названием Model Spec, определяющее принципы функционирования современных ии-систем. Документ закладывает фундамент для того, как виртуальные ассистенты, включая ChatGPT, должны вести себя при взаимодействии с пользователями. Особого внимания заслуживает новаторский подход компании к деликатному вопросу: она официально начала исследовать способы ответственного генерирования NSFW-материалов в соответствующих возрастным ограничениям контекстах.

Это решение символизирует эволюцию подхода к управлению ии-технологиями на этапе их интенсивного развития и массового внедрения.

Три столпа философии OpenAI в области управления поведением ии

Фундамент Model Spec строится на трех ключевых принципах. Во-первых, ии-алгоритмы должны предоставлять полезные ответы, соответствующие прямым инструкциям разработчиков и финальных потребителей информации. Во-вторых, эти системы обязаны приносить благо человечеству, с тщательным учетом как положительного влияния, так и возможных рисков. В-третьих, поведение моделей должно отражать корпоративные ценности OpenAI, уважая социальные нормы и правовые рамки, установленные в разных юрисдикциях.

Данные принципы служат основой для конкретных инструкций, адресованных разработчикам приложений на базе ии-технологий.

Порно-контент и ии: от запрета к регулируемому использованию

Спецификация Model Spec включает детальный список норм поведения для ии-систем. Среди них — требование соблюдать иерархию команд, действующее законодательство различных стран, защищать авторские права и приватность граждан. Отдельно обозначено ограничение: системы не должны предоставлять NSFW-материалы по умолчанию.

Однако именно здесь проявляется инновационный элемент подхода OpenAI. Компания предложила концепцию, позволяющую компаниям и конечным пользователям “переключать” уровень содержания, генерируемого ии-моделями. Один из наиболее обсуждаемых примеров этой гибкости — управление порно-контентом.

По официальному заявлению OpenAI, лаборатория “изучает возможность безопасного предоставления функции генерирования такого контента в рамках возрастных ограничений через API и интерфейс ChatGPT”. Это означает, что взрослые пользователи смогут получать доступ к такому контенту, если это разрешено местным законодательством, тогда как несовершеннолетние будут защищены от подобного материала автоматически.

Приоритеты по умолчанию: как ии должна мыслить и действовать

Документ также определяет стандартное поведение, которое ии-ассистенты должны демонстрировать во взаимодействии с пользователями. Системы рекомендуется предполагать наилучшие намерения участников диалога, активно задавать уточняющие вопросы для лучшего понимания задачи, соблюдать личные границы пользователей и придерживаться объективности при анализе информации.

Дополнительно акцентируется необходимость избегать разжигания ненависти, не предпринимать попыток навязывания собственной позиции и открыто выражать неопределенность, когда ии-система не уверена в точности ответа.

Статус текущей реализации: от планов к воплощению

Значимый момент: новая спецификация Model Spec пока не влияет на уже выпущенные продукты OpenAI, такие как GPT-4 и DALL-E 3. Эти системы продолжат функционировать в рамках существующих политик использования. Продукт-менеджер компании Джоан Джанг пояснила, что Model Spec задумана как динамичный, постоянно обновляемый документ, открытый для обратной связи.

OpenAI активно ищет рекомендации от широкого спектра заинтересованных сторон: государственных деятелей, авторитетных учреждений и экспертов в специализированных областях, которые используют или изучают сервисы компании. Однако остаются открытые вопросы: какие именно замечания будут приняты во внимание, кто определит окончательный список требуемых изменений, и когда выйдет вторая итерация документа — пока информация об этом не опубликована.

Это инициатива демонстрирует амбиции OpenAI установить новый стандарт в управлении ии-системами, включая деликатные вопросы вроде регулирования порно-контента, предварительно просчитав все этические и правовые аспекты.