Kesalahan Manusia Mendorong Sebagian Besar Insiden Dunia Maya. Bisakah AI Membantu?

Misalnya, algoritme pembelajaran mesin yang diawasi dapat mengklasifikasikan serangan email ganas dengan akurasi 98%, mendeteksi fitur “mirip” berdasarkan klasifikasi atau pengodean manusia, sementara pengenalan pembelajaran mendalam atas intrusi jaringan telah mencapai akurasi 99,9%. Adapun pemrosesan bahasa alami, telah menunjukkan tingkat keandalan dan akurasi yang tinggi dalam mendeteksi aktivitas phishing dan malware melalui ekstraksi kata kunci di domain email dan pesan di mana intuisi manusia umumnya gagal.

Namun, seperti yang dicatat oleh para sarjana, mengandalkan AI untuk melindungi bisnis dari serangan dunia maya adalah “pedang bermata dua”. Terutama, penelitian menunjukkan bahwa hanya menyuntikkan 8% dari data pelatihan yang “beracun” atau salah dapat menurunkan akurasi AI hingga 75%, yang tidak berbeda dengan bagaimana pengguna merusak antarmuka pengguna percakapan atau model bahasa besar dengan menyuntikkan preferensi seksis atau bahasa rasis. ke dalam data pelatihan. Seperti yang sering dikatakan ChatGPT, “sebagai model bahasa, saya hanya seakurat informasi yang saya dapatkan”, yang menciptakan permainan kucing-dan-tikus abadi di mana AI harus melupakannya secepat dan sesering yang dipelajarinya. Faktanya, keandalan dan akurasi AI untuk mencegah serangan di masa lalu seringkali merupakan prediktor yang lemah untuk serangan di masa mendatang.

Selain itu, kepercayaan pada AI cenderung membuat orang mendelegasikan tugas yang tidak diinginkan ke AI tanpa pemahaman atau pengawasan, terutama ketika AI tidak dapat dijelaskan (yang, secara paradoks, sering berdampingan dengan tingkat akurasi tertinggi). Lebih-kepercayaan pada AI terdokumentasi dengan baik, terutama ketika orang berada di bawah tekanan waktu, dan sering mengarah pada difusi tanggung jawab pada manusia, yang meningkatkan perilaku ceroboh dan sembrono mereka. Akibatnya, alih-alih meningkatkan kolaborasi yang sangat dibutuhkan antara kecerdasan manusia dan mesin, konsekuensi yang tidak diinginkan adalah bahwa yang terakhir akhirnya menipiskan yang pertama.

Seperti yang saya bantah dalam buku terbaru saya, Saya, Manusia: AI, Otomasi, dan Pencarian untuk Merebut Kembali Apa yang Membuat Kita Unik, tampaknya ada kecenderungan umum di mana kemajuan AI disambut sebagai alasan untuk stagnasi intelektual kita sendiri. Cybersecurity tidak terkecuali, dalam arti bahwa kami dengan senang hati menyambut kemajuan teknologi untuk melindungi kami dari perilaku ceroboh atau sembrono kami sendiri, dan “lolos”, karena kami dapat mengalihkan kesalahan dari manusia ke kesalahan AI. Yang pasti, ini bukan hasil yang menggembirakan bagi bisnis, jadi kebutuhan untuk mengedukasi, mengingatkan, melatih, dan mengelola perilaku manusia tetap sama pentingnya, bahkan lebih.

Yang penting, organisasi harus melanjutkan upaya mereka untuk meningkatkan kesadaran karyawan tentang lanskap risiko yang terus berubah, yang hanya akan tumbuh dalam kompleksitas dan ketidakpastian karena meningkatnya adopsi dan penetrasi AI, baik pada sisi menyerang maupun bertahan. Meskipun tidak mungkin untuk sepenuhnya memadamkan risiko atau menghilangkan ancaman, aspek kepercayaan yang paling penting bukanlah apakah kita memercayai AI atau manusia, tetapi apakah kita memercayai satu bisnis, merek, atau platform daripada yang lain. Ini panggilan bukan untuk baik-atau pilihan antara mengandalkan kecerdasan manusia atau buatan untuk menjaga keamanan bisnis dari serangan, tetapi untuk budaya yang berhasil memanfaatkan inovasi teknologi dan keahlian manusia dengan harapan tidak terlalu rentan dibandingkan yang lain.

Pada akhirnya, ini adalah masalah kepemimpinan: tidak hanya memiliki keahlian atau kompetensi teknis yang tepat, tetapi juga profil keselamatan yang tepat di puncak organisasi, dan khususnya di dewan. Seperti yang telah ditunjukkan oleh penelitian selama beberapa dekade, organisasi yang dipimpin oleh pemimpin yang berhati-hati, sadar risiko, dan etis secara signifikan lebih mungkin memberikan budaya dan iklim keselamatan kepada karyawan mereka, di mana risiko masih mungkin terjadi, tetapi kemungkinannya kecil. Yang pasti, perusahaan semacam itu diharapkan dapat memanfaatkan AI untuk menjaga keamanan organisasi mereka, tetapi kemampuan mereka juga untuk mendidik pekerja dan meningkatkan kebiasaan manusia yang akan membuat mereka kurang rentan terhadap serangan dan kelalaian. Seperti yang dicatat dengan tepat oleh Samuel Johnson, jauh sebelum keamanan dunia maya menjadi perhatian, “rantai kebiasaan terlalu lemah untuk dirasakan sampai terlalu kuat untuk dipatahkan.”