Peneliti etika AI Nell Watson membahas tantangan mengatur industri yang berkembang dengan ‘kecepatan sangat tinggi’.
“Kami jelas telah memasuki era baru,” kata Nell Watson, yang meneliti kecerdasan buatan (AI) dan menggambarkan dirinya sebagai “ilmuwan etika, filsuf dan advokat AI”.
Watson pertama kali tertarik dengan pembelajaran mesin “sebagai bagian dari upaya memecahkan masalah penglihatan mesin untuk memungkinkan pengukuran tubuh menggunakan kamera”. Dia ikut mendirikan QuantaCorp, platform ukuran tubuh seluler yang diakuisisi oleh BodiData pada tahun 2022.
Ketika, sekitar tahun 2014, teknik pembelajaran mendalam yang baru memungkinkan perusahaan melatih sistem untuk mengisolasi seseorang dari latar belakang untuk melakukan pengukuran, Watson menyadari bahwa AI “akan mengubah dunia”.
Gambar: Nell Watson
Namun, pada saat itulah Watson menjadi prihatin dengan etika AI. “Sistem yang sangat bias dan rusak mulai muncul dalam perekrutan dan peradilan pidana,” katanya. “Kurangnya transparansi dan kemampuan audit dari teknologi ini menghadirkan tantangan serius, tidak hanya bagi individu, tetapi masyarakat pada umumnya.”
Watson mengatakan dia telah mendedikasikan pekerjaannya sejak saat itu “untuk meningkatkan keadaan permainan, membantu mengembangkan standar dan sertifikasi baru untuk sistem AI dan organisasi di belakangnya”.
Pertimbangan etis
Meskipun dia menggambarkan dirinya bersemangat tentang teknik, Watson mewaspadai kepercayaan yang diberikan masyarakat pada teknologi. “Ada kecenderungan untuk terlalu memercayai sistem, menganggap kesan atau prediksi mereka begitu saja, bahkan ketika itu mungkin didasarkan pada predikat yang salah,” dia memperingatkan.
“Sangat sulit untuk mengaudit dan men-debug sistem untuk perlakuan buruk terhadap orang, terutama karena sistem ini dapat membuat kesimpulan yang tidak bisa dilakukan manusia. Misalnya, tidak ada ahli radiologi manusia yang dapat membedakan etnis dengan melihat tulang, tetapi sistem AI dapat, dari kemampuannya menemukan pola di dalam pola.”
Dalam pandangan Watson, sistem AI saat ini “terlalu tidak dapat diandalkan dan tidak dapat dipercaya untuk digunakan dalam keadaan yang berpotensi berbahaya”. “Dibutuhkan waktu untuk mengungkap berbagai cara di mana sistem ini bisa salah, atau disalahgunakan, dan untuk membuat aturan yang lebih baik tentang bagaimana sistem itu akan digunakan,” tegasnya.
‘Momen Sputnik’
Namun, waktu bukanlah sesuatu yang dimiliki AI di pihak mereka. Watson menggambarkan kecepatan inovasi yang dipicu oleh perlombaan senjata Big Tech AI sebagai “momen Sputnik”.
Dalam persaingan supremasi yang mahal ini, regulasi tertinggal dari kemajuan teknologi. “Sangat sulit untuk membuat kebijakan yang efektif, terutama di muka. Ini biasanya dilakukan di kaca spion setelah masalah menjadi jelas, ”jelas Watson. “Namun, banyak kerusakan yang dapat terjadi pada masyarakat sementara itu.”
Pekan lalu, tokoh terkemuka dalam perlombaan AI, CEO OpenAI Sam Altman, berbicara kepada subkomite Senat AS tentang potensi penyalahgunaan AI dan meminta anggota parlemen untuk mengatur industri tersebut. OpenAI memiliki ChatGPT, chatbot AI generatif yang dirilis pada November tahun lalu dan memicu kegilaan industri saat ini.
Di sisi lain, Komisi Eropa semakin dekat untuk menerapkan Undang-Undang AI-nya yang diklaim akan mengatur aktivitas AI yang “berisiko tinggi”.
Meskipun jelas mendukung langkah-langkah menuju regulasi ini, Watson tidak terlalu percaya pada pengawasan. “Keseimbangan dan moderasi diperlukan untuk tata kelola AI yang efektif,” katanya.
Masalah tata kelola menjadi lebih rumit ketika Anda tidak memiliki staf untuk membuat dan memelihara standar. Watson prihatin dengan perusahaan Teknologi Besar yang telah memberhentikan staf etika mereka. “Saat perlombaan senjata memanas, ini adalah saat yang paling buruk,” katanya.
“Ini akan kembali menggigit mereka, karena mereka menyadari bahwa ada celah besar antara membuat sesuatu yang berfungsi di lab, atau sebagai mainan, dan sesuatu yang dapat digunakan dalam kondisi dunia nyata dengan cara yang memengaruhi orang sungguhan.”
Bagi Watson, “etika perlu menjadi departemen khusus dalam organisasi”. Dia melihat ini sebagai contoh dari beberapa pekerjaan yang dapat dibuat oleh AI, meskipun Watson setuju bahwa “banyak pekerjaan akan terganggu dan tidak akan kembali lagi”.
‘Menyeramkan adalah normal baru’
Dalam pandangan Watson, “kecepatan pengembangan AI yang sangat tinggi” saat ini berarti bahwa “sesuatu dapat dirancang, diterapkan, dan menyebabkan malapetaka dalam hitungan hari, mungkin berjam-jam, terlalu cepat bagi siapa pun untuk merespons secara berarti”.
Anehnya, “cyber 9/11” bukanlah yang paling dikhawatirkan Watson dalam hal AI. Sebaliknya, itu adalah “kemungkinan menjadi gila oleh sistem AI yang dapat memprediksi emosi kita dan menghasilkan konten dan interaksi yang mendorong kita dengan berbagai cara”.
“Demoralisasi semacam itu adalah taktik yang sangat efektif dan digunakan untuk mencoba menarik masyarakat dari dalam,” bantahnya.
Kemampuan prediksi mesin AI, yang diberi data dalam jumlah besar yang dikumpulkan dari media sosial dan aktivitas online lainnya, terus meningkat setiap saat.
Dalam bukunya I, Human: AI, Automation, and the Quest to Reclaim What Makes Us Unique, Dr Tomas Chamorro-Premuzic berpendapat bahwa kombinasi kumpulan data yang luas dan teknologi AI yang lebih murah dan lebih cepat telah menghasilkan “tatanan ekonomi baru” dari “ wawasan dan dorongan otomatis” yang dapat membentuk “aktivitas manusia dengan cara yang menguntungkan secara komersial”.
“Kami sekarang sangat menyadari apa yang diketahui atau mungkin diketahui oleh algoritme tentang diri kami dan orang lain; ketika berbicara tentang AI, menyeramkan adalah hal baru yang normal, ”kata Chamorro-Premuzic.
Watson melihat kekuatan AI prediktif yang tidak terkendali ini berpotensi sebagai “ancaman yang lebih besar bagi peradaban daripada sistem AI nakal”. Meskipun dia ingin menekankan bahwa “ancaman dari sistem semacam itu juga patut mendapat perhatian yang sangat serius”.
10 hal yang perlu Anda ketahui langsung ke kotak masuk Anda setiap hari kerja. Mendaftar untuk Singkat Harianintisari berita teknologi sains penting dari Silicon Republic.
Hasil prediksi hk bocoran merupakan informasi mutlak bagi para pemain togel sidney pools. Nomor keluaran sdy pools memegang guna signifikan dikarenakan hasil live draw sdy prize merupakan penentu utama. Dimana taruhan para bettor kalah atau menang terlalu terkait bersama dengan nomer pengeluaran sdy prize. Sehingga kami merangkum semua keluaran sdy pools ke dalam sebuah tabel data sdy 2021 terlengkap untuk para bettor.
