ChatGPT dilarang oleh regulator Italia karena masalah privasi

Badan Perlindungan Data Italia hari ini memerintahkan OpenAI LP secara fungsional untuk menangguhkan operasi chatbot kecerdasan buatan ChatGPT di negara tersebut dan membuka penyelidikan tentang bagaimana perusahaan mengumpulkan data.

Agensi memerintahkan agar OpenAI berhenti memproses informasi pribadi pengguna Italia sampai perusahaan menghormati Peraturan Perlindungan Data Umum, undang-undang perlindungan privasi Uni Eropa.

Regulator mengatakan dalam siaran pers bahwa OpenAI tidak memiliki dasar hukum untuk pengumpulan besar-besaran dan pemrosesan data pribadi warga Italia untuk melatih algoritmenya. Regulator juga mengutip kekhawatiran bahwa OpenAI saat ini tidak memiliki kontrol yang membatasi penggunaannya oleh pengguna di bawah umur.

ChatGPT telah menjadi sangat populer hanya dua bulan setelah peluncuran publiknya, menjangkau lebih dari 100 juta pengguna pada bulan Januari, menurut sebuah penelitian yang diterbitkan oleh UBS. Teknologinya juga telah disematkan di berbagai produk, termasuk Bing milik Microsoft Corp.

Untuk beroperasi, algoritme yang mendasarinya menggunakan sejumlah besar data dari sejumlah besar sumber untuk melatih algoritmenya, yang mampu melakukan percakapan seperti manusia, menjawab pertanyaan, menulis puisi, dan menghasilkan esai. Regulator Italia mencatat bahwa OpenAI tidak memberi tahu pengguna yang datanya dikumpulkan bahwa informasi mereka telah dikumpulkan.

Selain itu, dalam siaran pers, agensi tersebut mencatat bahwa OpenAI baru-baru ini mengalami pelanggaran data pada 20 Maret yang mengungkap informasi pribadi dan “petunjuk” beberapa pengguna, yang digunakan untuk mendapatkan jawaban dan tanggapan.

Berita ini mengikuti surat terbuka dari Center for AI and Digital Policy, sebuah kelompok etika teknologi yang berfokus pada kecerdasan buatan, yang meminta pembuat AI untuk menangguhkan pembuatan model AI generatif baru, mirip dengan yang mendukung ChatGPT. Surat tersebut, yang menyertakan sejumlah peneliti AI dan salah satu pendiri OpenAI Elon Musk sebagai penandatangan, mencatat bahwa model ini memiliki kecenderungan ke arah “halusinasi”, atau menghasilkan informasi yang salah, dan dapat mengarah pada potensi penggunaan yang berbahaya.

Itu bisa menjadi masalah, terutama jika menyangkut individu yang disebutkan namanya. Misalnya, tidak diketahui secara pasti dari mana data pelatihan untuk ChatGPT berasal, tetapi diketahui bahwa data ini mengorek informasi dari sebagian besar internet publik. Jadi pengguna dapat mengajukan pertanyaan tentang individu bernama yang dikenal publik. Jika seseorang mengajukan pertanyaan tentang orang lain dan ChatGPT memberikan informasi yang salah tentang orang tersebut, hal itu dapat menyebarkan informasi yang salah.

DPA Italia menggemakan kekhawatiran tersebut dengan menyebutkan pengujiannya sendiri, menyatakan bahwa terkadang ChatGPT akan memberikan hasil yang tidak “sesuai dengan keadaan faktual” dan bahwa algoritme mungkin memproses data pribadi yang tidak akurat.

Regulator telah memberikan waktu 20 hari kepada OpenAI untuk memberi tahu agensi tentang langkah-langkah yang ingin diterapkan untuk mematuhi perintah tersebut. Jika tidak, perusahaan dapat menghadapi denda hingga 4% dari pendapatan globalnya.

Gambar: OpenAI