TKomisi Perdagangan Federal AS telah membuka penyelidikan terhadap OpenAI Inc., mempertanyakan apakah bot AI percakapan ChatGPT yang populer membahayakan reputasi dan information konsumen, menurut seseorang yang mengetahui masalah tersebut.
Penyelidikan terhadap startup yang didukung Microsoft Corp. menandai penyelidikan resmi pertama terhadap teknologi yang memiliki potensi untuk mengubah hampir setiap aspek kehidupan manusia dan telah menjadi hampir sama menariknya karena potensinya yang serba salah. Ketua FTC Lina Khan, yang bersaksi di depan Kongres Kamis, telah menyampaikan kekhawatiran tentang AI sebelumnya, dengan mengatakan bahwa penegak hukum “perlu waspada lebih awal” dengan alat transformatif seperti kecerdasan buatan.
Baca selengkapnya: CEO OpenAI Sam Altman Mendorong Keraguan Masa Lalu tentang Kecerdasan Buatan
Microsoft menolak berkomentar. Dalam serangkaian tweet Kamis, Chief Govt Officer OpenAI Sam Altman mengatakan “tentu saja kami akan bekerja dengan FTC,” dan bahwa “sangat penting” bagi perusahaan bahwa teknologinya “aman dan pro-konsumen.” Altman juga mengatakan OpenAI “yakin” itu mematuhi undang-undang AS.
“Kami melindungi privasi pengguna dan merancang sistem kami untuk mempelajari dunia, bukan individu pribadi,” katanya.
Washington Pos sebelumnya dilaporkan pada penyelidikan FTC.
Investigasi FTC membuka salvo peraturan yang kuat di OpenAI yang berbasis di San Francisco, pemimpin dalam teknologi AI generatif yang aplikasi ChatGPT-nya telah memicu perlombaan di antara perusahaan di hampir setiap industri untuk mengembangkan chatbot pesaing mereka sendiri. ChatGPT dibangun di atas mannequin bahasa besar, yang dilatih pada petak teks yang sangat besar dari web sehingga dapat menghasilkan respons terhadap pertanyaan dengan cara yang terdengar seperti manusia.
Penyelidikan “merupakan perkembangan signifikan yang dapat berimplikasi baik bagi perusahaan maupun sektor inovasi AI yang lebih luas,” kata Divyansh Kaushik, direktur asosiasi untuk teknologi baru dan keamanan nasional di Federasi Ilmuwan Amerika, sebuah wadah pemikir non-partisan di Washington. “Ini menandakan bahwa regulator menjadi lebih proaktif dalam memastikan bahwa perusahaan AI beroperasi secara etis dan bertanggung jawab.”
Peningkatan pesat teknologi dalam delapan bulan terakhir sejak ChatGPT tersedia secara luas, telah mendorong seruan untuk regulasi dan jeda dalam pelatihan sistem AI tingkat lanjut, bahkan di antara kepala beberapa perusahaan terkemuka di lapangan, seperti OpenAI, Anthropic, dan DeepMind Alphabet Inc.
Altman telah menjadi pendukung regulasi yang blak-blakan. Dalam sidang bulan Mei, Altman mengatakan Kongres harus membuat standar keamanan yang kuat untuk sistem AI tingkat lanjut. “Jika teknologi ini salah, bisa sangat salah,” kata Altman. Pemilik Twitter Elon Musk juga menjadi salah satu suara paling keras yang memperingatkan tentang konsekuensi potensial dari pengarusutamaan AI.
Baca selengkapnya: Yang Perlu Diketahui Tentang Perusahaan AI Baru Elon Musk, xAI
Grup etika teknologi terkemuka mengajukan keluhan pada bulan Maret mendesak FTC untuk menghentikan penyebaran komersial lebih lanjut dari teknologi yang mendukung ChatGPT. Keluhan dari Pusat Kecerdasan Buatan dan Kebijakan Digital, yang dipimpin oleh advokat privasi lama Marc Rotenberg, meminta FTC untuk membuka penyelidikan dan “memastikan pembentukan pagar yang diperlukan untuk melindungi konsumen, bisnis, dan pasar komersial.”
FTC, yang memberlakukan undang-undang antimonopoli dan perlindungan konsumen, juga mencermati bagaimana persaingan berkembang di ruang angkasa, kata Khan, untuk memastikan perusahaan dominan tidak menggunakan kekuatan mereka atas masukan utama seperti information untuk mendiskriminasi saingan. Badan tersebut juga memantau bagaimana alat AI digunakan oleh penipu dan akan menegakkan hukum, tidak hanya terhadap penipu, tetapi juga terhadap perusahaan yang memungkinkannya, katanya.
Baca selengkapnya: OpenAI Melobi UE untuk Mengurangi Regulasi AI
Dalam surat setebal 20 halaman yang ditujukan kepada OpenAI minggu ini, FTC meminta perusahaan untuk memberikan deskripsi terperinci tentang semua keluhan yang diterimanya tentang produknya yang membuat pernyataan “palsu, menyesatkan, meremehkan, atau berbahaya” tentang orang-orang, menurut Washington. Pos. FTC sedang menyelidiki apakah perusahaan terlibat dalam praktik yang tidak adil atau menipu yang menyebabkan “kerusakan reputasi” bagi konsumen, menurut laporan tersebut. Pos.
FTC juga meminta perusahaan untuk memberikan catatan terkait insiden keamanan yang diungkapkan perusahaan pada bulan Maret ketika bug dalam sistemnya memungkinkan beberapa pengguna untuk melihat informasi terkait pembayaran, serta beberapa information dari riwayat obrolan pengguna lain.
