Chatgpt Slip Mengungkap Kampanye Fitnah yang Diduga Dilakukan Tiongkok terhadap Perdana Menteri Jepang

(MENAFN- AsiaNet News)

Sebuah operasi pengaruh rahasia yang diduga terkait dengan otoritas Tiongkok telah terungkap dengan cara yang tidak terduga—melalui penyalahgunaan ChatGPT sebagai catatan pribadi atau “diari.” Menurut laporan, kampanye ini terungkap setelah seorang pengguna secara tidak sengaja mengungkapkan rincian operasional yang sensitif saat berinteraksi dengan chatbot AI, memungkinkan penyelidik di OpenAI mendeteksi dan menghentikan aktivitas tersebut.

Operasi yang terungkap ini merupakan bagian dari upaya yang lebih luas untuk membentuk narasi global dan melakukan disinformasi yang ditargetkan. Salah satu tujuan utama yang dilaporkan termasuk merancang dan menyempurnakan konten yang bertujuan untuk mencemarkan nama tokoh internasional terkemuka, termasuk seorang pemimpin politik Jepang senior. Pengguna tersebut mengandalkan ChatGPT untuk menyusun, mengedit, dan menyempurnakan pesan yang kemudian dapat digunakan di berbagai platform media sosial sebagai bagian dari dorongan propaganda yang terkoordinasi.

Operasi Rahasia Terungkap

Yang membuat kasus ini sangat mencolok adalah cara operasi tersebut terungkap. Alih-alih menggunakan saluran yang sangat aman atau terenkripsi, individu tersebut memperlakukan interaksi dengan ChatGPT sebagai catatan berkelanjutan dari rencana, secara efektif mendokumentasikan niat, strategi, dan narasi dalam sistem. Kesalahan kritis ini memungkinkan mekanisme pemantauan OpenAI untuk mengidentifikasi pola penyalahgunaan, yang akhirnya menyebabkan akun tersebut diblokir dan kampanye dihentikan.

Temuan OpenAI menyoroti bagaimana alat kecerdasan buatan semakin dieksplorasi untuk tujuan yang sah maupun yang jahat. Dalam kasus ini, chatbot tidak digunakan untuk menjalankan kampanye secara langsung, melainkan untuk membantu dalam pembuatan dan penyempurnaan konten—menunjukkan bagaimana AI dapat berfungsi sebagai pengganda kekuatan dalam operasi pengaruh. Namun, perlindungan yang terintegrasi dalam sistem mencegah pelaksanaan tugas yang secara eksplisit berbahaya, dan penyalahgunaan tersebut terdeteksi sebelum benar-benar terjadi.

Insiden ini merupakan bagian dari tren yang lebih besar yang diidentifikasi dalam laporan ancaman OpenAI, yang mendokumentasikan berbagai upaya dari aktor jahat untuk mengeksploitasi teknologi AI. Mulai dari propaganda politik dan manipulasi media sosial hingga penipuan dan skema impersonasi. Meskipun banyak operasi semacam ini masih terbatas skala, tingkat kecanggihan dan frekuensinya terus meningkat, menimbulkan kekhawatiran tentang peran AI yang berkembang dalam perang informasi global.

Para ahli mengatakan episode ini menegaskan baik risiko maupun akuntabilitas bawaan dari sistem AI. Meskipun alat seperti ChatGPT dapat disalahgunakan, mereka juga meninggalkan jejak digital yang dapat mengungkap kesalahan saat perlindungan yang tepat diterapkan. Pengungkapan tidak sengaja ini menjadi pengingat bahwa bahkan operasi rahasia pun dapat terbongkar melalui kesalahan sederhana dalam ekosistem digital yang semakin diawasi.