Pandangan Ahli Etika AI Di ChatGPT

Di mana kita akan berada dalam lima tahun sebagai hasil dari AI generatif yang cerdas?

Pasti inovasi teknologi kita berasal dari industri Media dan Hiburan di mana AI membuang belenggu kendali manusia dan mengambil nyawanya sendiri, seperti yang dilakukan cyborg yang ditenagai oleh kecerdasan buatan di “Terminator 2”.

Fisikawan Stephen Hawking, yang meninggal pada tahun 2018, menggambarkan kebangkitan AI sebagai salah satu ancaman terbesar bagi masa depan umat manusia. Bahkan Elon Musk yang kontroversial dan lebih dari 1000 pemimpin teknologi telah menyerukan penghentian AI generatif dan untuk memajukan undang-undang.

Francois Chollet, peneliti AI di Google adalah salah satu ahli etika yang paling membumi dalam meremehkan dampak model bahasa besar (LLM) seperti ChatGPT, atau bot obrolan Bard Google di pasar. Begitu banyak orang berpikir bahwa jenis teknologi ini akan menghasilkan keuntungan 100X atau menciptakan “realitas atau hal alternatif masyarakat dan warga negara,” katanya.

Saya rasa saya belum pernah bertemu dengan seorang AI Ethicist yang tidak terlalu peduli dengan risiko yang melekat pada AI, tanpa visi dunia tempat kita ingin hidup dan lebih banyak kejelasan tentang kerangka hukum terpadu, dan undang-undang diberlakukan efektif untuk dihindari. menciptakan dunia di mana mesin lebih dominan daripada manusia.

Sam Altman, pendiri OpenView, Chat GPT juga menyatakan keprihatinannya pada siapa pun yang mengandalkan ChatGPT pada sesuatu yang signifikan, karena masih sangat baru. Namun hype terus berlanjut.

Teknologi ini pada dasarnya adalah pembuat pencocokan pola yang menyatukan potongan-potongan dengan menyerap volume besar data dari sumber seperti Reddit, buku, artikel berita, web, dan kemudian menguraikan potongan-potongan dari LLM yang kaya untuk menjawab pertanyaan pengguna akhir.

Siapa sangka kita bisa menghasilkan teks, gambar, suara, dan bentuk media lainnya untuk pertanyaan singkat atau prompt. Ini akan membawa gelombang interaksi baru, di mana kita dapat terus berkomunikasi dua arah seperti yang kita lakukan di antara manusia.

Kapitalis ventura berbondong-bondong untuk berinvestasi di perusahaan AI generatif, dan pada tahun 2022 sudah lebih dari $140 Miliar telah diinvestasikan. Investor terkemuka silikon di Sequoia Capital memperkirakan jenis teknologi ini akan menghasilkan nilai triliunan. Bahkan Radical Ventures, VC yang berbasis di Toronto sedang berinvestasi dalam teknologi AI generatif, dengan dana baru sebesar $US500 juta. Tak perlu dikatakan, ada banyak antusiasme dalam chatbots dan bukan hanya Chat GPT OpenAI, juga Replika, Character.ai, dan You.com adalah beberapa pemimpin pasar yang harus dilacak.

Terlepas dari kegembiraan pada AI generatif, ada masalah sulit yang harus diselesaikan, terutama dalam memproduksi konten beracun, memunculkan bias pada wanita, dan khususnya wanita kulit berwarna, pelanggaran hak cipta, pergeseran pasar tenaga kerja yang belum siap kami tangani adalah hal utama. masalah. Risiko lainnya adalah efek halusinasi dari teknologi AI generatif ini menciptakan jawaban yang tidak didasarkan pada data yang akurat, (yaitu: bersumber dari data palsu, berita palsu) dan tidak memiliki model bahasa besar berbasis AI (LLM’s) membersihkan kesalahan data, menciptakan kerugian, risiko merek, atau bahkan memengaruhi pasar saham.

Pemimpin AI dan pakar pembelajaran mendalam, Yoshua Bengio, mengadvokasi bahwa kemampuan AI telah meningkat secara signifikan dalam lima tahun terakhir, karena kemajuan dalam teknologi penghasil bahasa. Di Kanada baru-baru ini, lebih dari 75 peneliti AI dan CEO AI baru telah menandatangani surat yang menganjurkan agar Pemerintah Federal Kanada mengesahkan Undang-Undang AI dan Data, yang disebut AIDA, yang merupakan bagian dari Bill-C27. Future Institute of Life juga mengeluarkan pada bulan Maret tahun ini, surat terbuka dari lebih dari 1.000 pemimpin teknologi yang menganjurkan jeda 6 bulan untuk memajukan teknologi bot obrolan AI generatif. UE telah mempercepat permohonan bagi AS, Kanada, Inggris Raya, dan negara-negara demokratis lainnya untuk bersatu guna menyelesaikan kerangka hukum AI untuk menciptakan beberapa pagar pembatas di sekitar industri AI.

Jadi, apa pendapat ChatGPT tentang masalah etika AI?

• Ada beberapa masalah hukum dan etika seputar penggunaan ChatGPT dan model bahasa besar lainnya. Salah satu masalah hukum terkait dengan potensi pelanggaran hak cipta, karena model tersebut dapat menghasilkan teks yang mirip atau identik dengan konten berhak cipta yang sudah ada.
• Masalah hukum lainnya terkait dengan potensi pelanggaran privasi, karena model tersebut dapat menghasilkan informasi pribadi atau data sensitif yang dapat digunakan untuk mengidentifikasi atau membahayakan individu. Secara etis, ada kekhawatiran tentang potensi penyalahgunaan model, seperti pembuatan audio atau teks palsu yang dalam atau dalam menyebarkan informasi palsu atau menyesatkan.
• Ada juga kekhawatiran tentang bias yang tidak diinginkan dalam data pelatihan, yang dapat menyebabkan model melanggengkan stereotip atau diskriminasi yang berbahaya. Kekhawatiran etis lainnya terkait dengan transparansi proses pengambilan keputusan model, karena mungkin sulit bagi pengguna untuk memahami bagaimana model sampai pada keluaran tertentu.
• Selain itu, GPT-3 dan model serupa lainnya telah dilatih pada sejumlah besar data, yang mungkin berasal dari sumber yang dipertanyakan, seperti pengikisan situs web atau metode pengumpulan data lainnya yang dapat menimbulkan masalah hukum dan etika.
• Singkatnya, penggunaan ChatGPT menimbulkan masalah hukum dan etika terkait hak cipta, privasi, penyalahgunaan, bias, dan transparansi. Penting bagi pengguna untuk menyadari masalah ini dan mengambil langkah-langkah untuk menguranginya.

Saya terkesan dengan jawaban yang diberikan ChatGPT dan saat industri ini semakin matang, kami harus menjawab lebih banyak pertanyaan etis yang menantang tentang AI. Saya pikir sebagian besar dari ini berakar pada mendefinisikan apa artinya menjadi manusia dan apa yang kita inginkan sebagai manusia versus memiliki pemimpin teknologi yang terus membentuk masa depan kita. Film seperti The Terminator bukan tidak mungkin untuk dibayangkan, karena film seperti The Minority Report lebih akurat karena kemajuan teknologi perusahaan seperti SenseTime, yang dapat memantau perjalanan, lalu lintas, pembelian, dan data sosial ke dalam profil peringkat sosial. Meskipun dilarang di AS, implikasi etis dari tidak pernah bisa menjadi tidak diketahui atau membuat data pribadi saya secara sosial memberi peringkat pada kebiasaan saya memiliki nuansa Orwellian.