Prof Saurabh Bagchi dari Universitas Purdue menjelaskan tujuan kotak hitam AI dan mengapa para peneliti bergerak menuju ‘AI yang dapat dijelaskan’.
Bagi sebagian orang, istilah ‘kotak hitam’ mengingatkan pada alat perekam di pesawat terbang yang berharga untuk analisis postmortem jika hal yang tidak terpikirkan terjadi. Bagi yang lain, ini membangkitkan teater kecil dengan perlengkapan minimal. Namun ‘kotak hitam’ juga merupakan istilah penting dalam dunia kecerdasan buatan.
Kotak hitam AI mengacu pada sistem AI dengan cara kerja internal yang tidak terlihat oleh pengguna. Anda dapat memberi mereka masukan dan mendapatkan keluaran, tetapi Anda tidak dapat memeriksa kode sistem atau logika yang menghasilkan keluaran.
Pembelajaran mesin adalah bagian dominan dari kecerdasan buatan. Ini mendasari sistem AI generatif seperti ChatGPT dan DALL-E 2. Ada tiga komponen pembelajaran mesin: algoritme atau sekumpulan algoritme, data pelatihan, dan model.
Algoritma adalah sekumpulan prosedur. Dalam pembelajaran mesin, algoritme belajar untuk mengidentifikasi pola setelah dilatih pada sekumpulan besar contoh – data pelatihan. Setelah algoritme pembelajaran mesin dilatih, hasilnya adalah model pembelajaran mesin. Model adalah apa yang orang gunakan.
Misalnya, algoritme pembelajaran mesin dapat dirancang untuk mengidentifikasi pola dalam gambar dan data pelatihan dapat berupa gambar anjing. Model pembelajaran mesin yang dihasilkan akan menjadi pengintai anjing. Anda akan memberinya gambar sebagai input dan mendapatkan sebagai output apakah dan di mana dalam gambar satu set piksel mewakili seekor anjing.
Salah satu dari tiga komponen sistem pembelajaran mesin dapat disembunyikan, atau di dalam kotak hitam. Seperti yang sering terjadi, algoritme diketahui publik, yang membuatnya menjadi kotak hitam menjadi kurang efektif. Jadi, untuk melindungi kekayaan intelektualnya, pengembang AI sering kali memasukkan model ke dalam kotak hitam. Pendekatan lain yang diambil pengembang perangkat lunak adalah mengaburkan data yang digunakan untuk melatih model – dengan kata lain, memasukkan data pelatihan ke dalam kotak hitam.
Kebalikan dari kotak hitam terkadang disebut sebagai kotak kaca. Kotak kaca AI adalah sistem yang algoritme, data pelatihan, dan modelnya tersedia untuk dilihat semua orang. Tetapi para peneliti terkadang mencirikan aspek-aspek ini sebagai kotak hitam.
Itu karena peneliti tidak sepenuhnya memahami bagaimana algoritma pembelajaran mesin, khususnya algoritma pembelajaran dalam, beroperasi. Bidang AI yang dapat dijelaskan bekerja untuk mengembangkan algoritme yang, meskipun belum tentu kotak kaca, dapat dipahami dengan lebih baik oleh manusia.
Berpikir di luar kotak hitam
Dalam banyak kasus, ada alasan bagus untuk mewaspadai algoritme dan model pembelajaran mesin kotak hitam. Misalkan model pembelajaran mesin telah membuat diagnosis tentang kesehatan Anda. Apakah Anda ingin modelnya menjadi kotak hitam atau kotak kaca? Bagaimana dengan dokter yang meresepkan pengobatan Anda? Mungkin dia ingin tahu bagaimana model itu sampai pada keputusannya.
Bagaimana jika model pembelajaran mesin yang menentukan apakah Anda memenuhi syarat untuk mendapatkan pinjaman bisnis dari bank menolak Anda? Tidakkah Anda ingin tahu alasannya? Jika Anda melakukannya, Anda dapat mengajukan banding atas keputusan tersebut dengan lebih efektif, atau mengubah situasi Anda untuk meningkatkan peluang mendapatkan pinjaman di lain waktu.
Kotak hitam juga memiliki implikasi penting untuk keamanan sistem perangkat lunak. Selama bertahun-tahun, banyak orang di bidang komputasi berpikir bahwa menyimpan perangkat lunak dalam kotak hitam akan mencegah peretas memeriksanya dan oleh karena itu akan aman. Asumsi ini sebagian besar telah terbukti salah karena peretas dapat merekayasa ulang perangkat lunak – yaitu, membuat faksimili dengan mengamati secara cermat cara kerja perangkat lunak – dan menemukan kerentanan untuk dieksploitasi.
Jika perangkat lunak berada dalam kotak kaca, penguji perangkat lunak dan peretas yang bermaksud baik dapat memeriksanya dan menginformasikan kelemahan pembuatnya, sehingga meminimalkan serangan siber.
Oleh Prof Saurabh Bagchi
Saurabh Bagchi adalah profesor teknik elektro dan komputer dan direktur kemitraan korporat di School of Electrical and Computer Engineering di Universitas Purdue di AS. Minat penelitiannya meliputi komputasi yang dapat diandalkan dan sistem terdistribusi.
10 hal yang perlu Anda ketahui langsung ke kotak masuk Anda setiap hari kerja. Mendaftar untuk Singkat Harianintisari berita teknologi sains penting dari Silicon Republic.
Hasil prediksi hk jitu dan akurat merupakan informasi penting bagi para pemain togel sidney pools. Nomor keluaran sdy pools memegang fungsi penting gara-gara hasil live draw sdy prize merupakan penentu utama. Dimana taruhan para bettor kalah atau menang sangat tergantung bersama no pengeluaran sdy prize. Sehingga kita merangkum seluruh keluaran sdy pools ke didalam sebuah tabel information sdy 2021 terlengkap untuk para bettor.
