OpenAIは新しいAIの基準を発表：ポルノコンテンツを責任を持って管理する方法

2024年5月、OpenAIは最新のAIシステムの運用原則を定めた詳細なガイドライン「Model Spec」を公開しました。このドキュメントは、ChatGPTを含む仮想アシスタントがユーザーと対話する際の基本的な振る舞いを規定しています。特に注目されるのは、同社が慎重な問題に対して革新的なアプローチを採用し、年齢制限のあるコンテキストでのNSFWコンテンツの責任ある生成方法を正式に研究し始めた点です。

これは、AI技術の急速な発展と普及の段階において、管理手法の進化を象徴しています。

OpenAIのAI行動管理哲学の三本柱

Model Specの基盤は、三つの主要な原則に基づいています。第一に、AIアルゴリズムは、開発者や最終利用者の指示に沿った有用な回答を提供すべきです。第二に、これらのシステムは人類に利益をもたらすものでなければならず、その際には正の影響と潜在的リスクの両方を慎重に考慮します。第三に、モデルの振る舞いはOpenAIの企業価値を反映し、各国の社会規範や法的枠組みを尊重しなければなりません。

これらの原則は、AI技術を用いたアプリケーション開発者向けの具体的な指針の土台となっています。

ポルノコンテンツとAI：禁止から規制可能な利用へ

Model Specには、AIシステムの行動規範の詳細なリストが含まれています。その中には、コマンドの階層を守ること、各国の法律を遵守すること、著作権とプライバシーを保護することが挙げられます。特に、システムはデフォルトでNSFWコンテンツを提供しないことが明記されています。

しかし、ここにOpenAIの革新的なアプローチの要素が見られます。同社は、企業や最終ユーザーがAIモデルによるコンテンツのレベルを「切り替える」ことを可能にするコンセプトを提案しています。最も議論を呼んでいる例の一つは、ポルノコンテンツの管理です。

OpenAIの公式声明によると、「当社は、年齢制限の範囲内で安全にこの種のコンテンツを生成する機能をAPIやChatGPTインターフェースを通じて提供する可能性を検討しています」。これにより、大人のユーザーは法的に許可されている場合にアクセスできる一方、未成年者は自動的にそのようなコンテンツから保護される仕組みです。

デフォルトの優先事項：AIはどう考え、どう行動すべきか

また、ドキュメントでは、AIアシスタントがユーザーと対話する際に示すべき標準的な振る舞いも定められています。システムは、対話参加者の善意を前提とし、より良い理解のために積極的に質問を重ね、ユーザーの個人的な境界を尊重し、情報の客観性を保つことが推奨されています。

さらに、ヘイトスピーチの扇動を避けること、自分の意見を押し付けようとしないこと、回答の正確性に自信が持てない場合は曖昧さを示すことも重要とされています。

現状の実装状況：計画から実現へ

重要な点として、新しいModel Specは、既にリリースされているGPT-4やDALL-E 3などの製品には現時点で影響しません。これらのシステムは既存の利用ポリシーの範囲内で引き続き動作します。OpenAIのプロダクトマネージャー、ジョアン・ジャンは、「Model Specは動的に更新されるドキュメントであり、フィードバックを受け付ける仕組みになっている」と説明しています。

OpenAIは、政府関係者、権威ある機関、専門分野のエキスパートなど、多様な関係者からの意見を積極的に求めています。ただし、どの意見が採用されるのか、最終的な変更点のリストは誰が決定するのか、次のバージョンの公開時期については未発表です。

この取り組みは、OpenAIがAIシステムの管理において新たな標準を打ち立て、ポルノコンテンツの規制などデリケートな問題も含めて、倫理的・法的側面を事前に考慮した上でのリーダーシップを示すものです。