Aktivis Data NOYB Keluhkan OpenAI Terkait Masalah 'Halusinasi' ChatGPT

Menurut penilaian Aktivis Privasi TOPLINE mengajukan keluhan terhadap pembuat Chat GPT OpenAI atas kegagalan perusahaan tersebut dalam memperbaiki informasi yang salah. 

Bahkan Chatbot-nya sering “berhalusinasi” tentang data seseorang, sebuah langkah yang akan meningkatkan tekanan pada perusahaan-perusahaan teknologi untuk mengatasi apa yang telah menjadi perbincangan publik namun sulit untuk dilakukan dan memperbaiki masalah saat mereka berlomba untuk meluncurkan alat AI kepada lebih banyak pelanggan.

Organisasi Nirlaba NOYB Menuduh OpenAI Melanggar Aturan GDPR

Organisasi nirlaba NOYB atau None Of Your Business yang berbasis di Wina, telah mengajukan keluhan perlindungan data ke pengawas data Austria, mereka menuduh OpenAI melanggar Peraturan Perlindungan Data Umum (GDPR) Eropa, undang-undang privasi dan keamanan paling ketat di dunia.

“Hanya mengarang data tentang individu bukanlah suatu pilihan,” kata kelompok tersebut dalam sebuah pernyataan tentang pengaduan tersebut, yang diajukan atas nama “tokoh masyarakat” yang tidak disebutkan namanya dan menuduh OpenAI menolak untuk memperbaiki atau menghapus informasi dan pernyataan palsu yang dimilikinya dibuat tentang individu.

Beberapa Tuduhan tersebut diantaranya yaitu :

1. ChatGPT memberikan “berbagai informasi yang tidak akurat” ketika ditanya tentang tanggal lahir tokoh tersebut dan OpenAI mengatakan “tidak ada cara untuk mencegah sistemnya” menampilkan informasi palsu tersebut.
2. Pengaduan tersebut mengatakan OpenAI hanya menawarkan untuk memblokir atau memfilter hasil berdasarkan perintah seperti nama gambar – yang akan menyaring semua informasi tentang mereka – sesuatu yang menurut noyb akan tetap meninggalkan data yang salah di sistem OpenAI, “hanya saja tidak ditampilkan kepada pengguna.”
3. OpenAI gagal mengungkapkan informasi relevan tentang orang tersebut ketika diminta, termasuk data apa yang telah diproses, sumbernya, dan dengan siapa data tersebut dibagikan, sebuah kewajiban hukum yang dikatakan pengacara NOYB, Maartje de Graaf, “berlaku untuk semua perusahaan,” dia menambahkan bahwa “sangat mungkin” untuk melacak sumber informasi saat melatih sistem AI.

OPenAI Tidak Tanggapi Permintaan Forbes Terkait Informasi Palsu

Menurut perkiraan Forbes, salah satu pendiri dan pemimpin OpenAI, Altman diketahui memiliki kekayaan $1 miliar. Meskipun Altman terkenal sebagai salah satu pendiri dan pemimpin OpenAI, dia tidak memiliki ekuitas di dalamnya dan tidak berhutang kekayaan padanya. 

Namun sebaliknya, kekayaan dan status miliarder Altman berasal dari investasi, yang mencakup saham di Reddit yang baru diluncurkan, perusahaan fintech Stripe, dan perusahaan fusi nuklir Helion. Sebelum OpenAI, Altman mendirikan perusahaan pemetaan sosial Loopt dan menjabat sebagai mitra dan presiden di akselerator startup Y Combinator.

Sementara itu OpenAI, yang sebelumnya mengakui masalah halusinasi AI pada alat seperti ChatGPT, tidak segera menanggapi permintaan komentar Forbes. “Membuat informasi palsu itu sendiri cukup bermasalah. Namun jika menyangkut informasi palsu tentang seseorang, maka akan ada konsekuensi yang serius,” kata de Graaf dalam sebuah pernyataan. “Jelas bahwa perusahaan saat ini tidak dapat membuat chatbot seperti ChatGPT mematuhi hukum UE ketika memproses data tentang individu. 

Jika suatu sistem tidak dapat memberikan hasil yang akurat dan transparan, maka sistem tersebut tidak dapat digunakan untuk menghasilkan data tentang individu. Teknologinya harus mengikuti persyaratan hukum, bukan sebaliknya.”Keluhan tersebut meningkatkan perlawanan terhadap OpenAI mengenai cara OpenAI menggunakan dan melatih model yang mendukung ChatGPT. 

Perusahaan tersebut, sama seperti banyak pembuat AI generatif terkemuka, sudah menghadapi serangkaian tuntutan hukum hak cipta atas data yang digunakan untuk melatih modelnya dan sejumlah masalah hukum lainnya seperti privasi data yang diambil untuk pelatihan. 

Catatan Penting Mengenai OpenAI

Halusinasi, yaitu ketika sistem AI memberikan hasil yang menyesatkan atau salah namun menyajikannya seolah-olah benar, juga merupakan masalah hukum yang semakin besar, seperti tuntutan pencemaran nama baik dari pembawa acara radio di Georgia. Keluhan ini bukan pertama kalinya OpenAI menghadapi rezim perlindungan data yang kuat di Eropa dan perusahaan tersebut telah dipaksa untuk melakukan perubahan oleh otoritas perlindungan data Italia pada tahun 2023.

GDPR adalah seperangkat aturan kuat yang dapat memaksa perusahaan melakukan perubahan besar pada operasinya agar operasi tetap berjalan di blok perdagangan terbesar di dunia. Undang-undang ini juga memberikan wewenang kepada regulator untuk mengenakan denda hingga 4% dari omzet global. Pengaduan data dapat berkembang hingga mencakup seluruh Uni Eropa jika permasalahannya melampaui batas suatu negara, dengan investigasi yang dilakukan melalui lembaga pengawas yang bekerja sama. 

NOYB mengatakan pihaknya memperkirakan masalah ini akan ditangani sedemikian rupa, sehingga berpotensi meningkatkan risiko OpenAI, meskipun penyelidikan bisa memakan waktu bertahun-tahun untuk menyelesaikannya. Perusahaan AI akan mengawasi hasil kasus ini dengan cermat.

Latar Belakang Didirikannya NOYB

NOYB telah menjadi kekuatan yang kuat dalam bidang perlindungan data Eropa sejak didirikan pada tahun 2017, dengan total 839 kasus yang mengakibatkan denda sebesar €1,74 miliar ($1,86 miliar). Salah satu pendirinya, Max Schrems, adalah aktivis dan pengacara di balik beberapa tantangan paling buruk terhadap kesepakatan berbagi data antara AS dan UE untuk perusahaan besar seperti Meta. Tantangan Schrems pada akhirnya membatalkan dua kesepakatan besar ini – Perlindungan Privasi dan Uni Eropa-AS. Safe Harbor — yang memaksa perusahaan untuk memikirkan kembali bisnis online.