Bagaimana mengelola risiko dan keamanan kecerdasan buatan: Fokus pada lima prioritas
togel

Bagaimana mengelola risiko dan keamanan kecerdasan buatan: Fokus pada lima prioritas

Di sebagian besar organisasi, kecerdasan buatan model adalah “kotak hitam”, di mana hanya ilmuwan data yang memahami apa sebenarnya yang dilakukan AI. Itu dapat menciptakan risiko yang signifikan bagi organisasi.

Kumpulan data besar dan sensitif sering digunakan untuk melatih model AI, menciptakan privasi, dan risiko pelanggaran data. Penggunaan AI meningkatkan vektor ancaman organisasi dan memperluas permukaan serangannya. AI selanjutnya menciptakan peluang baru untuk kesalahan jinak yang berdampak buruk pada model dan hasil bisnis.

Risiko yang tidak dipahami tidak dapat dikurangi. Survei Gartner baru-baru ini tentang kepala petugas keamanan informasi mengungkapkan bahwa sebagian besar organisasi belum mempertimbangkan risiko keamanan dan bisnis baru yang ditimbulkan oleh AI atau kontrol baru yang harus mereka terapkan untuk mengurangi risiko tersebut. AI menuntut jenis baru tindakan manajemen risiko dan keamanan serta kerangka kerja untuk mitigasi.

Berikut adalah lima prioritas teratas yang pemimpin keamanan dan risiko harus fokus untuk mengelola risiko dan keamanan AI secara efektif dalam organisasi mereka:

1. Menangkap tingkat paparan AI

Model pembelajaran mesin tidak jelas bagi sebagian besar pengguna, dan tidak seperti sistem perangkat lunak normal, cara kerja bagian dalamnya sering kali buram bahkan oleh para ahli yang paling ahli sekalipun. Ilmuwan data dan pengembang model umumnya memahami apa yang coba dilakukan oleh model pembelajaran mesin mereka, tetapi mereka tidak selalu dapat menguraikan struktur internal atau cara algoritmik yang digunakan model untuk memproses data.

Kurangnya pemahaman ini sangat membatasi kemampuan organisasi untuk mengelola risiko AI. Langkah pertama dalam manajemen risiko AI adalah menginventarisasi semua model AI yang digunakan dalam organisasi, baik itu komponen perangkat lunak pihak ketiga, yang dikembangkan sendiri atau diakses melalui aplikasi perangkat lunak sebagai layanan. Ini harus mencakup mengidentifikasi saling ketergantungan di antara berbagai model. Kemudian membuat peringkat model berdasarkan dampak operasional, dengan gagasan bahwa pengendalian manajemen risiko dapat diterapkan dari waktu ke waktu berdasarkan prioritas yang diidentifikasi.

Setelah model diinventarisasi, langkah selanjutnya adalah membuatnya sejelas atau sedapat mungkin diinterpretasikan. “Dapat dijelaskan” berarti kemampuan untuk menghasilkan detail, alasan, atau interpretasi yang memperjelas fungsi model untuk audiens tertentu. Ini akan memberikan konteks manajer risiko dan keamanan untuk mengelola dan mengurangi risiko bisnis, sosial, kewajiban, dan keamanan yang ditimbulkan oleh hasil model.

2. Mendorong kesadaran melalui kampanye pendidikan risiko AI

Kesadaran staf adalah komponen penting dari manajemen risiko AI. Pertama, ajak semua peserta, termasuk CISO, chief privacy officer, chief data officer, dan petugas hukum dan kepatuhan, dan kalibrasi ulang pola pikir mereka tentang AI. Mereka harus memahami bahwa AI tidak “seperti aplikasi lain” – ini menimbulkan risiko unik dan memerlukan kontrol khusus untuk mengurangi risiko tersebut. Kemudian, kunjungi pemangku kepentingan bisnis untuk memperluas kesadaran akan risiko AI yang perlu Anda kelola.

Bersama dengan pemangku kepentingan ini, identifikasi cara terbaik untuk membangun pengetahuan AI di seluruh tim dan dari waktu ke waktu. Misalnya, lihat apakah Anda dapat menambahkan kursus tentang konsep AI dasar ke sistem manajemen pembelajaran perusahaan. Berkolaborasi dengan aplikasi dan rekan keamanan data untuk membantu mengembangkan pengetahuan AI di antara semua konstituen organisasi.

3. Hilangkan paparan data AI melalui program privasi

Menurut baru-baru ini Survei Gartner, privasi dan keamanan telah dipandang sebagai penghalang utama untuk implementasi AI. Mengadopsi perlindungan data dan program privasi dapat secara efektif menghilangkan eksposur data AI internal dan bersama.

Ada berbagai pendekatan yang dapat digunakan untuk mengakses dan berbagi data penting sambil tetap memenuhi persyaratan privasi dan perlindungan data. Tentukan teknik privasi data, atau kombinasi teknik, yang paling masuk akal untuk kasus penggunaan khusus organisasi. Misalnya, selidiki teknik seperti penyamaran data, pembuatan data sintetis atau privasi diferensial.

Mengatasi persyaratan privasi data saat mengekspor atau mengimpor data ke dan dari organisasi eksternal. Teknik seperti enkripsi homomorfik sepenuhnya dan komputasi multipartai yang aman harus lebih berguna dalam skenario ini daripada untuk melindungi data dari pengguna internal dan ilmuwan data.

4. Memasukkan manajemen risiko ke dalam operasi model

Model AI memerlukan proses tujuan khusus sebagai bagian dari operasi model, atau ModelOps, untuk membuat AI andal dan produktif. Model AI harus terus dipantau untuk kebocoran nilai bisnis dan hasil yang tidak terduga — terkadang merugikan —, karena faktor lingkungan terus berubah.

Pemantauan yang efektif membutuhkan pemahaman model AI. Proses manajemen risiko khusus harus menjadi komponen integral ModelOps untuk membuat AI lebih tepercaya, akurat, adil, dan tahan terhadap serangan permusuhan atau kesalahan ringan.

Kontrol harus diterapkan terus menerus — misalnya, selama pengembangan model, pengujian dan penerapan, dan operasi yang sedang berlangsung. Kontrol yang efektif akan mendeteksi tindakan jahat, kesalahan ringan, dan perubahan tak terduga pada data atau model AI yang mengakibatkan ketidakadilan, kerusakan, ketidakakuratan, kinerja dan prediksi model yang buruk, dan konsekuensi lain yang tidak diinginkan.

5. Mengadopsi langkah-langkah keamanan AI terhadap serangan musuh

Mendeteksi dan menghentikan serangan terhadap AI membutuhkan teknik baru. Serangan berbahaya terhadap AI dapat menyebabkan kerugian dan kerugian organisasi yang signifikan, termasuk keuangan, reputasi atau terkait dengan kekayaan intelektual, data pelanggan yang sensitif, atau data kepemilikan. Pemimpin aplikasi yang bekerja dengan rekan keamanan mereka harus menambahkan kontrol ke aplikasi AI mereka yang mendeteksi input data yang tidak wajar, serangan berbahaya, dan kesalahan input yang tidak berbahaya.

Terapkan rangkaian lengkap kontrol keamanan perusahaan konvensional di sekitar model dan data AI, serta langkah-langkah integritas khusus AI baru, seperti model pelatihan untuk menoleransi AI permusuhan. Terakhir, cegah keracunan data AI atau deteksi kesalahan input menggunakan teknik deteksi penipuan dan anomali serta deteksi bot.

Avivah Litan adalah VP analis terkemuka di Gartner Inc., yang mencakup inovasi blockchain, kepercayaan AI, manajemen risiko dan keamanan. Dia menulis artikel ini untuk SiliconANGLE. Litan dan lainnya Analis Gartner mempresentasikan penelitian dan saran terbaru untuk para pemimpin keamanan dan manajemen risiko di KTT Keamanan & Manajemen Risiko Gartner 2022berlangsung minggu ini di National Harbor, Maryland.

Gambar: geralt/Pixabay

Tunjukkan dukungan Anda untuk misi kami dengan bergabung dengan Cube Club dan Komunitas Pakar Acara Cube kami. Bergabunglah dengan komunitas yang mencakup Amazon Web Services dan CEO Amazon.com Andy Jassy, ​​pendiri dan CEO Dell Technologies Michael Dell, CEO Intel Pat Gelsinger dan banyak lagi tokoh dan pakar.

Untuk waktu ini bermain togel sidney dan togel sitni sangatlah mudah, para pemain lumayan bermodal smartphone dan jaringan internet untuk dapat melacak bandar togel sidney dan toto sgp di pencarian google. Namun, mesti anda sadar tidak seluruh situs togel sidney dan toto sgp yang tersedia di pencarian google sanggup kita percayai. Karena pada waktu ini udah terkandung ratusan situs togel online penipuan yang cuma menghendaki capai keuntungan sepihak. Oleh sebab itu kini kita merekomendasikan anda untuk bermain togel sidney dan togel singapore di web site terpercaya dan formal seperti