Model OpenAI Digunakan Untuk Memanipulasi Kampanye Opini Terselubung
Perusahaan kecerdasan buatan OpenAI mengumumkan bahwa mereka telah menggagalkan kampanye yang mempengaruhi opini publik secara terselubung yang diidentifikasi berasal dari negara Rusia, Tiongkok, Israel, dan Iran.
Berkaitan dengan hal tersebut, pembuat ChatGPT telah menegaskan bahwa mereka mengidentifikasi lima kampanye yang melibatkan “upaya penipuan untuk memanipulasi opini publik atau mempengaruhi hasil politik tanpa mengungkapkan identitas sebenarnya atau niat dari aktor di baliknya”.
Kampanye Terselubung Menggunakan Model OpenAI
Model OpenAI terbukti dipakai kampanye untuk menghasilkan teks dan gambar yang diposting di seluruh platform media sosial seperti Telegram, X, dan Instagram, dalam beberapa kasus alat tersebut diekploitasi untuk menghasilkan konten yang diklaim oleh Open AI dengan “kesalahan bahasa yang lebih sedikit dibandingkan yang mungkin dilakukan oleh operator manusia”.
Agar tidak semakin menjadi masalah lebih meluas, Open AI mengatakan pihaknya telah menghentikan akun yang terkait dengan dua operasi Rusia, yang dijuluki Bad Grammar dan Doppelganger; kemudian kampanye Tiongkok yang dikenal sebagai Spamouflage; lalu jaringan Iran bernama Persatuan Media Virtual Internasional; dan operasi Israel yang dijuluki Zero Zeno.
“Kami berkomitmen untuk mengembangkan AI yang aman dan bertanggung jawab, yang melibatkan perancangan model kami dengan mempertimbangkan keselamatan dan secara proaktif melakukan intervensi terhadap penggunaan jahat,” kata perusahaan rintisan yang berbasis di California itu dalam sebuah pernyataan yang diposting di situsnya.
“Mendeteksi dan menghentikan penyalahgunaan multi-platform seperti operasi pengaruh opini yang terselubung tersebut dapat menjadi tantangan karena kami tidak selalu mengetahui bagaimana konten yang dihasilkan oleh produk kami ini didistribusikan. Namun dengan tegas kami mendedikasikan untuk menemukan dan memitigasi penyalahgunaan ini dalam skala besar dengan memanfaatkan kekuatan AI generatif.”
OpenAI Menilai Konten Kampanye Mereka Memakai Tata Bahasa yang Buruk
Menurut Open AI, dengan memakai tata bahasa yang buruk dan Doppelganger, bahkan sebagian besar telah membuat narasi konten tentang perang di Ukraina, termasuk narasi yang menggambarkan Ukraina, Amerika Serikat, NATO, dan Uni Eropa secara negatif.
Sementara itu menurut startup tersebut, Spamouflage menghasilkan teks dalam bahasa China, Inggris, Jepang, dan Korea yang mengkritik kritikus terkemuka terhadap Beijing, termasuk aktor dan aktivis Tibet Richard Gere dan pembangkang Cai Xia, dan menyoroti pelanggaran terhadap penduduk asli Amerika.
Persatuan Media Virtual Internasional menghasilkan dan menerjemahkan artikel-artikel yang mengkritik AS dan Israel, sementara Zero Zeno menargetkan badan PBB untuk pengungsi Palestina dan “Islam radikal” di Kanada, kata OpenAI.
Namun menurut OpenAI, terlepas dari upaya untuk mempengaruhi wacana publik, operasi tersebut “tampaknya tidak mendapatkan manfaat dari peningkatan keterlibatan atau jangkauan audiens yang signifikan sebagai hasil dari layanan kami,” kata perusahaan tersebut.
Penyalahgunaan AI (Artificial Intelligence) Pada Pemilu
Berdasarkan informasi ternyata potensi penggunaan AI (Artificial Intelligence) untuk menyebarkan disinformasi telah menjadi topik pembicaraan utama ketika para pemilih di lebih dari 50 negara memberikan suara mereka pada tahun yang disebut-sebut sebagai tahun pemilu terbesar dalam sejarah.
Bahkan pekan lalu, pihak berwenang di negara bagian New Hampshire, AS mengumumkan bahwa mereka telah mendakwa konsultan politik Partai Demokrat atas lebih dari dua lusin dakwaan karena diduga mengatur robocall yang menggunakan peniruan Presiden AS Joe Biden yang dibuat oleh AI untuk mendesak pemilih agar tidak ikut memilih di pemilu.
Menjelang pemilihan parlemen Pakistan pada bulan Februari, mantan Perdana Menteri Imran Khan yang dipenjara menggunakan pidato yang dihasilkan AI (Artificial Intelligence) untuk mengumpulkan para pendukung di tengah larangan pemerintah terhadap demonstrasi publik.
What's Your Reaction?
-
Like
-
Dislike
-
Funny
-
Angry
-
Sad
-
Wow