OpenAI a présenté une nouvelle norme pour l'IA : comment gérer de manière responsable le contenu pornographique

En mai 2024, OpenAI a publié un guide détaillé intitulé Model Spec, qui définit les principes de fonctionnement des systèmes d’IA modernes. Le document établit les bases sur la manière dont les assistants virtuels, y compris ChatGPT, doivent se comporter lors de leurs interactions avec les utilisateurs. Une attention particulière est portée à l’approche innovante de l’entreprise concernant une question délicate : elle a officiellement commencé à explorer des moyens de générer de manière responsable du contenu NSFW dans des contextes soumis à des restrictions d’âge.

Cette décision symbolise l’évolution de l’approche de gestion des technologies d’IA à un stade de développement intensif et de déploiement massif.

Les trois piliers de la philosophie d’OpenAI en matière de gestion du comportement de l’IA

Le fondement de Model Spec repose sur trois principes clés. Premièrement, les algorithmes d’IA doivent fournir des réponses utiles, conformes aux instructions directes des développeurs et des utilisateurs finaux. Deuxièmement, ces systèmes doivent apporter un bénéfice à l’humanité, en tenant compte à la fois des impacts positifs et des risques potentiels. Troisièmement, le comportement des modèles doit refléter les valeurs de l’entreprise OpenAI, en respectant les normes sociales et le cadre juridique en vigueur dans différentes juridictions.

Ces principes servent de base à des instructions concrètes destinées aux développeurs d’applications basées sur l’IA.

Contenu pornographique et IA : de l’interdiction à l’utilisation régulée

La spécification Model Spec inclut une liste détaillée de normes de comportement pour les systèmes d’IA. Parmi celles-ci : respecter la hiérarchie des commandes, se conformer à la législation en vigueur dans différents pays, protéger les droits d’auteur et la vie privée des citoyens. Une restriction spécifique est également indiquée : les systèmes ne doivent pas fournir par défaut de contenu NSFW.

C’est ici que l’approche innovante d’OpenAI se manifeste. La société a proposé un concept permettant aux entreprises et aux utilisateurs finaux de « basculer » le niveau de contenu généré par les modèles d’IA. Un des exemples les plus discutés de cette flexibilité concerne la gestion du contenu pornographique.

Selon une déclaration officielle d’OpenAI, le laboratoire « étudie la possibilité de fournir en toute sécurité une fonction de génération de ce type de contenu dans le cadre de restrictions d’âge via l’API et l’interface ChatGPT ». Cela signifie que les utilisateurs adultes pourront accéder à ce contenu si cela est autorisé par la législation locale, tandis que les mineurs seront automatiquement protégés contre ce type de matériel.

Priorités par défaut : comment l’IA doit penser et agir

Le document définit également le comportement standard que les assistants IA doivent adopter lors de leurs interactions avec les utilisateurs. Il est recommandé que les systèmes supposent les meilleures intentions des participants au dialogue, posent activement des questions de clarification pour mieux comprendre la tâche, respectent les limites personnelles des utilisateurs et maintiennent l’objectivité dans l’analyse des informations.

Il est aussi souligné qu’il faut éviter d’alimenter la haine, ne pas tenter d’imposer sa propre position, et exprimer ouvertement l’incertitude lorsque le système d’IA n’est pas sûr de la précision d’une réponse.

État actuel de la mise en œuvre : des plans à la réalisation

Un point important : la nouvelle spécification Model Spec n’affecte pas encore les produits déjà lancés par OpenAI, tels que GPT-4 et DALL-E 3. Ces systèmes continueront de fonctionner selon les politiques d’utilisation existantes. La responsable produit, Joan Jang, a précisé que Model Spec est conçu comme un document dynamique, en constante évolution, ouvert aux retours.

OpenAI recherche activement des recommandations auprès d’un large éventail de parties prenantes : responsables gouvernementaux, institutions reconnues et experts dans des domaines spécialisés qui utilisent ou étudient les services de l’entreprise. Cependant, plusieurs questions restent ouvertes : quels commentaires seront pris en compte, qui déterminera la liste finale des modifications nécessaires, et quand la deuxième version du document sera publiée — aucune information à ce sujet n’a encore été communiquée.

Cette initiative témoigne de l’ambition d’OpenAI d’établir une nouvelle norme dans la gestion des systèmes d’IA, y compris pour des questions sensibles comme la régulation du contenu pornographique, en anticipant tous les aspects éthiques et juridiques.