OpenAI memperkenalkan standar baru untuk AI: bagaimana mengelola konten porno secara bertanggung jawab

Pada Mei 2024, OpenAI merilis panduan terperinci berjudul Model Spec yang menetapkan prinsip-prinsip operasional sistem kecerdasan buatan modern. Dokumen ini menjadi fondasi bagaimana asisten virtual, termasuk ChatGPT, harus berperilaku saat berinteraksi dengan pengguna. Pendekatan inovatif perusahaan terhadap isu sensitif ini patut mendapat perhatian: secara resmi, mereka mulai meneliti cara-cara bertanggung jawab dalam menghasilkan materi NSFW dalam konteks yang sesuai dengan batasan usia.

Keputusan ini melambangkan evolusi pendekatan pengelolaan teknologi AI selama masa perkembangan pesat dan penerapan massal.

Tiga Pilar Filosofi OpenAI dalam Pengelolaan Perilaku AI

Dasar Model Spec dibangun atas tiga prinsip utama. Pertama, algoritma AI harus memberikan jawaban yang bermanfaat sesuai instruksi langsung dari pengembang dan pengguna akhir. Kedua, sistem ini wajib memberi manfaat bagi umat manusia, dengan mempertimbangkan dampak positif maupun risiko yang mungkin timbul. Ketiga, perilaku model harus mencerminkan nilai-nilai perusahaan OpenAI, menghormati norma sosial dan kerangka hukum yang berlaku di berbagai yurisdiksi.

Prinsip-prinsip ini menjadi dasar bagi instruksi spesifik yang ditujukan kepada pengembang aplikasi berbasis teknologi AI.

Konten Dewasa dan AI: dari Larangan ke Penggunaan yang Terkontrol

Spesifikasi Model Spec mencakup daftar norma perilaku rinci untuk sistem AI. Di antaranya adalah kewajiban mematuhi hierarki perintah, hukum yang berlaku di berbagai negara, serta melindungi hak cipta dan privasi warga. Secara khusus, disebutkan bahwa sistem tidak boleh secara default menyediakan materi NSFW.

Namun, di sinilah inovasi pendekatan OpenAI terlihat. Perusahaan mengusulkan konsep yang memungkinkan perusahaan dan pengguna akhir untuk “mengalihkan” tingkat konten yang dihasilkan oleh model AI. Salah satu contoh paling banyak dibahas adalah pengelolaan konten pornografi.

Menurut pernyataan resmi OpenAI, laboratorium “sedang mempelajari kemungkinan menyediakan fitur aman untuk menghasilkan konten semacam itu dalam kerangka batasan usia melalui API dan antarmuka ChatGPT.” Ini berarti pengguna dewasa dapat mengakses konten tersebut jika diizinkan oleh hukum setempat, sementara anak-anak secara otomatis dilindungi dari materi serupa.

Prioritas Default: Bagaimana AI Harus Berpikir dan Bertindak

Dokumen ini juga menentukan perilaku standar yang harus ditunjukkan oleh asisten AI saat berinteraksi dengan pengguna. Sistem disarankan untuk menganggap niat peserta dialog sebaik-baiknya, aktif mengajukan pertanyaan klarifikasi agar memahami tugas dengan lebih baik, menghormati batas pribadi pengguna, dan bersikap objektif dalam menganalisis informasi.

Selain itu, ditekankan pentingnya menghindari penyebaran kebencian, tidak memaksakan posisi sendiri, dan secara terbuka mengungkapkan ketidakpastian saat AI tidak yakin akan keakuratan jawaban.

Status Implementasi Saat Ini: Dari Rencana ke Realisasi

Hal penting: spesifikasi Model Spec yang baru saat ini belum mempengaruhi produk OpenAI yang sudah dirilis, seperti GPT-4 dan DALL-E 3. Sistem ini akan tetap beroperasi sesuai kebijakan penggunaan yang ada. Manajer produk perusahaan, Joan Jang, menjelaskan bahwa Model Spec dirancang sebagai dokumen dinamis yang terus diperbarui dan terbuka untuk masukan.

OpenAI secara aktif mencari rekomendasi dari berbagai pihak terkait: pejabat pemerintah, lembaga otoritatif, dan para ahli di bidang terkait yang menggunakan atau mempelajari layanan perusahaan. Namun, masih ada pertanyaan terbuka: komentar apa saja yang akan dipertimbangkan, siapa yang akan menentukan daftar perubahan akhir, dan kapan iterasi kedua dokumen ini akan dirilis—informasi tersebut belum dipublikasikan.

Inisiatif ini menunjukkan ambisi OpenAI untuk menetapkan standar baru dalam pengelolaan sistem AI, termasuk isu sensitif seperti regulasi konten pornografi, dengan mempertimbangkan aspek etika dan hukum secara matang.