Dr Kris Shrishak dari ICCL berbicara kepada SiliconRepublic.com tentang di mana peraturan AI yang direncanakan UE dapat meningkatkan cara untuk mengatasi perusahaan pengenalan wajah di AS.
Tidak mengherankan jika diskusi global tentang teknologi pengenalan wajah telah berkembang dalam beberapa tahun terakhir. Ketika teknologi menjadi lebih maju, kekhawatiran telah diangkat dalam hal pengawasan, privasi, persetujuan, akurasi, dan bias.
Tahun lalu, proposal UE untuk mengatur AI dikritik oleh pengawas UE karena tidak melangkah cukup jauh dalam hal pengenalan wajah langsung di tempat umum. Setelah ini, Parlemen Eropa menyerukan larangan teknologi pengawasan massal biometrik, seperti alat pengenalan wajah, dengan alasan ancaman yang dapat ditimbulkan oleh teknologi ini terhadap hak asasi manusia.
Satu individu yang secara teratur mencatat masalah dengan teknologi pengawasan biometrik adalah Dr Kris Shrishak, seorang rekan teknologi di Dewan Kebebasan Sipil Irlandia, yang memberi nasihat kepada legislator tentang regulasi AI.
Shrishak mengatakan pengumpulan dan penggunaan data biometrik seperti pengenalan wajah adalah “sensitif dan sangat pribadi” dan menambahkan bahwa ia memiliki “perlindungan khusus” di bawah GDPR.
Berbicara kepada SiliconRepublic.com, Shrishak mengatakan satu masalah dengan banyak teknologi pengenalan wajah adalah bahwa itu terutama dikembangkan oleh perusahaan swasta besar yang menemukan celah dalam peraturan saat ini.
Salah satu contoh yang dia berikan adalah penggunaan teknologi pengenalan wajah pada kamera CCTV. Shrishak mengatakan beberapa perusahaan membuat klaim bahwa tidak ada pengenalan wajah di dalam kamera itu sendiri, tetapi ini menyembunyikan gambaran lengkapnya.
“Apa yang kebanyakan mereka katakan adalah, kamera yang Anda lihat tidak melakukan pengenalan wajah itu sendiri,” kata Shrishak. “Tapi itu tidak memberi tahu Anda apa yang terjadi pada gambar setelah diambil dan disimpan.
“Setelah Anda memindahkannya ke server, Anda selalu dapat mengaktifkan pengenalan wajah Anda. Ini bukan dengan CCTV itu sendiri. Jadi itu selalu sesuatu yang perlu diingat,” kata Shrishak.
Bulan lalu, Shrishak mengatakan pemerintah Irlandia harus melarang penggunaan sistem CCTV Dahua dan Hikvision, karena mereka terkait dengan pelanggaran hak asasi manusia di China dan teknologi pengenalan wajah di dalam kamera “dapat dinyalakan kapan saja”, The Times melaporkan.
Apakah peraturan tersebut dapat ditegakkan?
Uni Eropa telah mengambil langkah-langkah baru untuk mengendalikan kekuatan Big Tech, seperti Digital Markets Act (DMA) dan Digital Services Act, yang keduanya bertujuan untuk mengatasi monopoli yang dipegang oleh perusahaan multinasional besar di ruang digital Eropa.
Misalnya, DMA bertujuan untuk memasukkan praktik tertentu ke daftar hitam yang digunakan oleh platform ‘penjaga gerbang’ besar – perusahaan yang menggunakan kekuatan dalam jumlah yang tidak proporsional di pasar mereka – dan memungkinkan Komisi Eropa untuk melakukan penyelidikan pasar dan memberikan sanksi atas perilaku yang tidak patuh.
Shrishak mengatakan salah satu masalah yang dia lihat dengan peraturan seperti ini adalah bagaimana hal itu akan ditegakkan.
“Misalnya, GDPR memiliki kerangka penegakan yang cukup kuat. Tapi itu aspek, bagaimana Anda benar-benar menegakkan hal-hal bahkan ketika Anda memiliki kerangka kerja? dia berkata.
Shrishak mengkritik proposal UE untuk mengatur AI karena alasan ini. Peraturan tersebut berencana untuk mempertimbangkan AI di bawah kategori risiko, dengan sistem risiko yang tidak dapat diterima dilarang langsung. Ini termasuk apa yang disebut skor kredit sosial, seperti sistem kontroversial yang terlihat di China, dan aplikasi yang “memanipulasi perilaku manusia”.
Kasus penggunaan berisiko tinggi mencakup penggunaan AI dalam infrastruktur penting, penegakan hukum, migrasi dan patroli perbatasan, pekerjaan dan rekrutmen, serta pendidikan.
“Caranya saat ini diungkapkan, bahkan kerangka penegakannya sangat lemah,” kata Shrishak. “Jadi bahkan jika ini diberlakukan, bahkan tidak ada kemungkinan bahwa saya akan mengatakan ada cara yang jelas untuk menegakkan sesuatu.”
Shrishak juga mengatakan peraturan itu perlu berbuat lebih banyak karena tidak mengusulkan larangan teknologi pengenalan wajah, karena masih ada aspek ketika penegak hukum akan dapat menggunakannya.
Awal bulan ini, Irlandia setuju untuk membagikan citra wajah tersangka dan penjahat yang dihukum dengan negara-negara Eropa, sebagai bagian dari sistem berbagi data untuk memerangi kejahatan, lapor Irish Examiner.
Clearview AI
Perusahaan kontroversial yang berfokus pada teknologi pengenalan wajah adalah Clearview AI, yang telah menghadapi kritik keras dan tekanan dari pengawas di seluruh dunia.
Terlepas dari kenyataan bahwa Clearview AI telah menghadapi tekanan internasional, Shrishak mengatakan sulit bagi regulator untuk menegakkan keputusan apa pun yang dibuatnya terhadap perusahaan, karena berkantor pusat di AS dan tampaknya tidak memiliki kantor di negara lain.
November lalu, Kantor Komisioner Informasi Inggris mengatakan database Clearview “kemungkinan akan mencakup data sejumlah besar orang dari Inggris”, dengan gambar yang mungkin telah dikumpulkan tanpa sepengetahuan orang dari sumber seperti platform media sosial. Clearview menghadapi potensi denda 17 juta poundsterling untuk “pelanggaran serius” undang-undang privasi data.
Pada bulan yang sama, otoritas informasi utama Australia memerintahkan Clearview AI untuk berhenti mengumpulkan gambar wajah dan templat biometrik warga negara Australia, dan menghapus data apa yang sudah dimilikinya.
Australia dan Inggris bukan satu-satunya negara di mana Clearview AI menghadapi pengawasan peraturan. Pada Februari 2021, komisaris privasi federal Kanada menganggap praktik perusahaan itu ilegal, dengan mengatakan bahwa mereka mengumpulkan gambar wajah orang Kanada tanpa persetujuan mereka.
Clearview AI kembali menjadi sorotan pada bulan Februari, ketika dilaporkan bahwa perusahaan tersebut mengatakan kepada investor bahwa pihaknya berada di jalur yang tepat untuk memiliki 100 miliar foto wajah dalam databasenya dalam waktu satu tahun. Ini akan cukup untuk mengidentifikasi “hampir semua orang di dunia”, menurut dokumen yang diperoleh The Washington Post.
Shrishak mengatakan menjadi lebih mudah untuk memiliki “gigi penegakan” jika otoritas AS memperkenalkan undang-undang, karena itu termasuk dalam yurisdiksi mereka untuk menghapus data apa pun yang disimpan oleh perusahaan seperti Clearview di negara tersebut.
Dia mengatakan cara alternatif perusahaan pengenalan wajah dapat diatasi adalah dengan membatasi kemampuan mereka untuk menjual ke organisasi seperti kelompok penegak hukum.
Pada tahun 2020, American Civil Liberties Union (ACLU) dari Illnois mengajukan gugatan terhadap perusahaan tersebut, dengan tuduhan melanggar hak privasi warga negara. ACLU mengatakan kasus itu diajukan setelah penyelidikan New York Times mengungkapkan rincian alat pelacakan dan pengawasan perusahaan.
Gugatan itu mencapai penyelesaian pada 9 Mei tahun ini, ketika Clearview AI menyetujui serangkaian pembatasan baru. Menurut ACLU, ini termasuk larangan permanen di AS dari membuat database faceprint tersedia untuk sebagian besar bisnis dan entitas swasta lainnya.
“Perusahaan juga akan berhenti menjual akses ke databasenya ke entitas mana pun di Illinois, termasuk polisi negara bagian dan lokal, selama lima tahun,” kata ACLU.
10 hal yang perlu Anda ketahui langsung ke kotak masuk Anda setiap hari kerja. Mendaftar untuk Ringkasan HarianIntisari dari berita sci-tech penting dari Silicon Republic.
Hasil bocoran hk malam ini paling jitu dan akurat 4d hongkong merupakan Info mutlak bagi para pemain togel sidney pools. Nomor keluaran sdy pools memegang fungsi penting dikarenakan hasil live draw sdy prize merupakan penentu utama. Dimana taruhan para bettor kalah atau menang amat terkait bersama dengan nomor pengeluaran sdy prize. Sehingga kita merangkum semua keluaran sdy pools ke di dalam sebuah tabel information sdy 2021 terlengkap untuk para bettor.
