March 4, 2024

BGates yang sakit menguraikan bagaimana pendapatnya tentang risiko dari kecerdasan buatan (AI) dalam posting weblog pada hari Selasa. Sementara Gates tetap bersemangat dengan manfaat yang dapat diberikan oleh AI, dia membagikan pemikirannya tentang bidang risiko yang paling sering dia khawatirkan.

Dalam postingan berjudul Risiko AI nyata tetapi dapat dikelola, Gates secara khusus membahas lima risiko dari AI. Pertama, misinformasi dan deepfake yang dihasilkan AI dapat digunakan untuk menipu orang atau bahkan memengaruhi hasil pemilu. Kedua, AI dapat mengotomatiskan proses pencarian kerentanan dalam sistem komputer, yang secara drastis meningkatkan risiko serangan siber. Ketiga, AI dapat mengambil pekerjaan orang. Keempat, sistem AI telah ditemukan mengarang informasi dan menunjukkan bias. Terakhir, akses ke alat AI dapat berarti bahwa siswa tidak mempelajari keterampilan penting, seperti penulisan esai—serta memperlebar kesenjangan pencapaian pendidikan.

Meski Gates memang membahas risiko bahwa AI “mencerminkan atau bahkan memperburuk bias yang ada”, dia tidak membahas ketidaksetaraan yang terkait dengan pengembangan sistem AI. Misalnya, pekerja outsourcing untuk OpenAI di Kenya menghadapi kondisi kerja yang sulit dan dibayar kurang dari $2 per jam. Gates juga tidak membahas masalah hukum yang dihadapi pengembang AI yang menggunakan information dalam jumlah besar dari web untuk mengembangkan sistem mereka. Komedian Sarah Silverman dan dua penulis lainnya baru-baru ini menggugat Meta dan OpenAI atas pelanggaran hak cipta, menuduh perusahaan menggunakan buku mereka untuk melatih sistem AI mereka tanpa persetujuan mereka.

Gates memiliki banyak manfaat di masa depan AI. Microsoft — raksasa teknologi yang dia dirikan bersama dan masih memiliki saham — adalah salah satu investor terbesar di OpenAI, yang merupakan salah satu perusahaan yang memimpin pengembangan AI dan pencipta ChatGPT.

Baca selengkapnya: Mengapa Satya Nadella dari Microsoft Tidak Berpikir Sekarang Adalah Saatnya Berhenti Menggunakan AI

Sementara Gates mengakui bahwa “tidak ada yang memiliki semua jawaban,” dia tetap optimis bahwa manusia dapat mengelola risiko tersebut. “Masa depan AI tidak sesuram yang dipikirkan sebagian orang atau secerah yang dipikirkan orang lain,” tulisnya.

Baca selengkapnya: A sampai Z Kecerdasan Buatan

Berikut adalah takeaways utama:

Gates mencatat bahwa tindakan oleh pemerintah, perusahaan, dan orang-orang telah memungkinkan kami untuk mengurangi risiko dari teknologi baru di masa lalu, dan dia yakin hal ini juga akan terjadi pada AI.

Baca selengkapnya: Perlombaan Senjata AI Mengubah Segalanya

Ini bukan pertama kalinya masyarakat dibentuk kembali oleh teknologi baru yang kuat. Gates memberikan sejumlah contoh cara kita beradaptasi dan menghadapi perkembangan teknologi sebelumnya. Orang-orang telah belajar untuk menjadi lebih skeptis terhadap “penipuan di mana seseorang yang menyamar sebagai pangeran Nigeria menjanjikan imbalan besar sebagai imbalan untuk membagikan nomor kartu kredit Anda”. Agaknya, menurutnya, mereka akan mengembangkan naluri yang sama untuk misinformasi yang dihasilkan AI. Meskipun ada kekhawatiran bahwa upaya untuk mengembangkan senjata siber bertenaga AI dapat berubah menjadi perlombaan senjata, Gates menulis bahwa negara-negara telah berkoordinasi untuk mencegah perlombaan senjata di masa lalu. Demikian pula, teknologi baru telah membuat beberapa orang kehilangan pekerjaan, tetapi mereka juga menciptakan pekerjaan baru, catatnya.

Dalam posting blognya, Gates hanya membahas “risiko yang sudah ada, atau akan segera terjadi,” daripada risiko jangka panjang, seperti sistem AI yang sangat kuat yang mengembangkan tujuan mereka sendiri yang mungkin bertentangan dengan tujuan kemanusiaan. Ini tidak berarti bahwa Gates tidak menganggap serius risiko ini. Awal tahun ini, Gates, bersama dengan para pemimpin teknologi lainnya, menandatangani pernyataan publik yang memperingatkan bahwa “memitigasi risiko kepunahan AI harus menjadi prioritas world di samping risiko skala sosial lainnya seperti pandemi dan perang nuklir.” Tetapi seperti pemikir AI lainnya, seperti Margaret Mitchell, Gates percaya bahwa “memikirkan risiko jangka panjang ini tidak boleh mengorbankan risiko yang lebih cepat.”

Baca selengkapnya: Kolom: Menjeda Pengembangan AI Tidak Cukup. Kita Perlu Menutup Semuanya

Gates menyarankan bahwa AI mungkin akan berhenti memberikan solusi untuk masalah yang diciptakannya. Detektor deepfake bertenaga AI dapat melawan kesalahan informasi yang dihasilkan AI. AI dapat mendeteksi kerentanan keamanan siber dan menambalnya sebelum senjata siber bertenaga AI mengeksploitasinya, tulisnya.

Hal ini, bersama dengan keyakinannya pada kemampuan masyarakat untuk mengelola perubahan teknologi dan manfaat yang akan dihasilkan oleh perubahan teknologi, menjelaskan optimisme hati-hati Gates tentang AI dan seruannya untuk pengembangan lebih lanjut daripada jeda. Di sini, pemikirannya lebih sejalan dengan sistem AI yang sedang berkembang. Misalnya, OpenAI baru-baru ini mengumumkan akan meluncurkan tim “penyelarasan tremendous”, yang bertujuan untuk mengembangkan sistem AI yang dapat membantu “mengarahkan dan mengendalikan sistem AI jauh lebih pintar daripada [humans].”

Koreksi, 12 Juli