Irlandia dapat ‘memimpin’ dalam AI etis

Duta AI pertama Irlandia, Dr Patricia Scanlon, berbicara dengan Jenny Darmody tentang posisi kita di industri AI dan apa yang mungkin terjadi di masa depan.

Dengan perlombaan AI yang memanas, saya mengambil kesempatan untuk berbicara dengan Dr Patricia Scanlon, duta AI pertama Irlandia.

Scanlon diangkat ke pos Mei tahun lalu, memiliki kehadiran yang kuat di sektor ini selama beberapa tahun.

Penduduk asli Kildare mendirikan SoapBox Labs pada 2013, yang mengembangkan teknologi suara yang akurat dan aman untuk anak-anak. Scanlon mengundurkan diri sebagai CEO dari SoapBox Labs pada tahun 2021.

Sekarang dalam peran barunya sebagai duta AI, dia berharap dapat membantu “memulai percakapan nasional tentang AI” sebagai bagian dari strategi AI Irlandia.

“Anda tidak bisa tidak mencatat berapa banyak AI yang ada di berita baru-baru ini dan selama setahun terakhir,” katanya. “Kita semua membicarakannya, tetapi banyak orang mungkin masih bergumul dengan konsep tentang apa itu AI, apa yang bukan, apa manfaatnya, dll.”

‘Hal-hal yang biasanya memakan waktu berminggu-minggu, sekarang membutuhkan waktu berjam-jam’
^{– SCANLON PATRICIA}

Dia juga mengatakan bahwa meskipun banyak orang menyadari bahaya AI melalui media, film, dan fiksi ilmiah, sulit membedakan fakta dari fiksi.

“Saya pikir ada minat besar untuk mulai membicarakannya dan kemudian memiliki peran ini membantu memfasilitasi percakapan itu dengan kaum muda, dengan orang-orang dalam bisnis, lintas pemerintahan, dan universitas.”

AI memang menjadi topik yang sangat hangat dalam beberapa tahun terakhir. Dari bias yang tertanam dalam sistem AI hingga pertanyaan etis seputar pengenalan wajah dan pengawasan, ini telah menjadi diskusi sentral di antara para pelaku industri dan pembuat undang-undang.

Beberapa tahun terakhir saja telah terlihat pembukaan Undang-Undang Kecerdasan Buatan UE, yang bertujuan untuk menerapkan berbagai tingkat pembatasan pada sistem Kecerdasan Buatan tergantung pada tingkat risikonya.

Dan sekarang, kita melihat kebangkitan perlombaan senjata AI, karena pemain Teknologi Besar seperti Microsoft dan Google saling berhadapan dengan versi model bahasa alami tingkat lanjut mereka sendiri.

Namun, konsep AI itu sendiri jauh dari baru. Faktanya, Scanlon mengatakan itu sudah menjadi “bidang yang cukup matang” ketika dia memulai gelar PhD pada tahun 2000.

Apa yang telah berubah dalam dekade terakhir adalah kemajuan dan ketersediaan unit pemrosesan grafis (GPU), prosesor besar yang mampu mengolah jumlah kumpulan data yang sangat besar, menjadikannya alat yang ampuh untuk pembelajaran mesin.

“Hal-hal yang biasanya memakan waktu berminggu-minggu, sekarang membutuhkan waktu berjam-jam,” kata Scanlon. “Tetapi juga, dengan ketersediaan alat dan pemrosesan cloud sesuai permintaan dengan harga murah, siapa pun dapat memulai dengan AI, yang sangat berbeda dengan 10 atau 12 tahun yang lalu.”

Pertumbuhan AI chatbots

Dengan mempertimbangkan kemajuan saat ini, ledakan tiba-tiba model bahasa alami dan ChatGPT khususnya telah menimbulkan badai dengan jutaan pengguna mendapatkan kesempatan untuk mencoba alat ini.

Scanlon mengatakan dia tidak bisa tidak mengagumi efek yang dimiliki ChatGPT karena pada dasarnya “antarmuka pengguna yang dipasang pada sesuatu yang telah ada selama beberapa tahun”.

“Tiba-tiba membuka dan membiarkan orang bermain dengannya hanya akan melepaskan sejumlah besar kasus penggunaan yang bahkan mungkin tidak terpikirkan oleh pembuatnya. Jadi, saya pikir di situlah hal itu menjadi sangat menarik, ”katanya.

Sementara Scanlon setuju dengan konsensus umum bahwa chatbot ini terdengar sangat cerdas, itu juga sangat terbatas dalam apa yang dapat dilakukannya, setidaknya untuk saat ini.

“Kesadaran seperti itu juga perlu terjadi. Itu tidak hidup, kedengarannya sangat cerdas. Tapi sungguh logika atau fakta atau pemikiran di baliknya tidak ada jadi jangan tertipu.

Sementara pertumbuhan alat-alat ini telah memunculkan beberapa penyebab kekhawatiran seputar informasi yang dimuntahkannya kembali, Scanlon mengatakan itu sebenarnya “luar biasa” dalam hal menarik kembali tirai AI.

“Saya pikir sebelumnya, orang mungkin mengira ada lebih banyak misteri dan kecerdasan di dalamnya. Sekarang, orang-orang mulai melihat kekuatannya, tetapi mereka juga melihat secara terang-terangan, keterbatasannya,” katanya.

“Ada banyak sekali contoh yang dilontarkan tentang bagaimana itu salah, bagaimana itu terbatas. Sejujurnya, menurut saya dalam hal pendidikan, ChatGPT sangat bagus dalam hal itu, karena sangat mudah.”

Tantangan bias

Chatbots bukan satu-satunya alat yang mendapatkan dorongan AI besar-besaran. Bidang-bidang seperti rekrutmen, perawatan kesehatan, dan keamanan semakin banyak menggunakan AI dan pembelajaran mesin, tetapi mengatur semua ini akan menjadi tantangan besar.

“Anda harus memastikan bahwa tidak ada bias. Anda harus memikirkan suatu masalah secara mendalam untuk mengetahui cara menguji bias dan anti-bias, ”kata Scanlon.

Dia mengatakan bahwa keadilan, transparansi, dan penjelasan adalah elemen penting dari semua sistem AI; mampu memahami bagaimana sampai pada kesimpulan tertentu, memastikannya berfungsi sama untuk semua orang dan memastikannya bebas dari bias historis dan sistemik.

‘Anda dapat membuat sistem yang sangat objektif dan tidak bias…jika dilatih dengan benar’
^{– SCANLON PATRICIA}

“Saya pikir sangat penting untuk menyadari bahwa tidak ada AI yang bias seperti halnya tidak ada anak yang terlahir rasis, yang harus dikembangkan dengan cara tertentu. Dan jika itu programmernya, jika itu datanya, jika orang itu benar-benar tidak memikirkan secara mendalam tentang bagaimana hal itu memengaruhi manusia, Anda tidak akan mendapatkan sistem yang adil dan tidak memihak,” katanya.

Namun, tantangan bias dalam AI adalah tantangan besar yang harus diatasi, Scanlon mengatakan itu juga bisa menjadi “holy grail” jika dilatih dengan benar karena dapat menghilangkan bahaya bias manusia.

“Kita harus berhati-hati [always thinking] bahwa lingkaran manusia adalah salah satu yang akan memecahkan masalah bias, ketika kita belum pernah benar-benar melakukan itu sebelumnya ketika manusia mengevaluasi CV atau penilaian atau pinjaman atau hukuman penjara,” katanya.

“Ada cawan suci di sini di mana mungkin jika AI dibangun dengan benar, Anda dapat membuat sistem yang sangat objektif dan tidak bias, mungkin pada akhirnya tidak bias dibandingkan manusia mana pun, jika dilatih dengan benar. Tapi masih ada jalan panjang untuk mencapai tujuan itu.”

Irlandia ‘di depan kurva’ dalam beberapa hal

Dengan AI menjadi area yang sangat penting, saya bertanya kepada Scanlon di mana menurutnya Irlandia berada di area itu. Dia mengatakan telah terjadi “percakapan tanpa henti” seputar teknologi, minat, keterampilan, dan strategi negara.

“Saya menyadari upaya tanpa henti yang dilakukan seputar keterampilan untuk memastikan kami memiliki keterampilan yang cukup, untuk memastikan bahwa orang-orang dilatih. Kadang-kadang orang berbicara tentang perpindahan pekerjaan di AI, tetapi kami sama-sama tidak mendengar apa-apa selain kurangnya keterampilan dalam AI dan Anda akan membutuhkan orang non-teknis dan orang teknis untuk membantu mengembangkan ini, ”katanya.

“Saya pikir Irlandia berada di depan kurva dalam hal perhatian [AI is] dibayar. Tidak sepenuhnya di depan, tetapi pasti di atas sana dengan negara-negara terkemuka lainnya dalam hal memastikan UKM kami dan perusahaan kami serta proses Pemerintah kami menggabungkan AI. Ini masih sangat awal, tetapi minatnya ada di sana.

Dia menambahkan bahwa dia tidak percaya ada satu negara yang memimpin bidang ini karena minat dan kemampuannya sangat baru. Dia juga mengatakan bahwa Irlandia berada dalam posisi yang baik untuk menjadi salah satu pemimpin, terutama jika mengambil pendekatan yang terfokus pada etika AI.

“Kadang-kadang saya pikir teknologi sering diburu-buru ke pasar untuk mendapatkan keunggulan kompetitif, tetapi melakukannya dengan lebih bijaksana berpotensi memberi kita keunggulan di masa depan karena kadang-kadang ketika Anda membangun sistem AI besar-besaran dan Anda membuatnya berjalan selama bertahun-tahun, sulit untuk melakukannya. kembali dan memperbaikinya,” katanya.

“Anda harus fokus pada fondasi etika AI karena itu akan baik untuk masyarakat, baik untuk manusia, dan baik untuk bisnis. Saya terkesan dengan fokus pada hal itu sejauh ini, jadi saya berharap kami dapat memimpin dalam hal itu.”

10 hal yang perlu Anda ketahui langsung ke kotak masuk Anda setiap hari kerja. Mendaftar untuk Singkat Harianintisari berita teknologi sains penting dari Silicon Republic.