CEO Tesla Elon Musk dan sekelompok pakar kecerdasan buatan dan eksekutif industri menyerukan jeda enam bulan dalam pengembangan sistem yang lebih kuat daripada GPT-4 OpenAI yang baru diluncurkan, dalam sebuah surat Terbuka mengutip potensi risiko bagi masyarakat dan kemanusiaan.
Surat tersebut, yang dikeluarkan oleh Future of Life Institute nirlaba dan ditandatangani oleh lebih dari 1.000 orang termasuk Musk, menyerukan penghentian pengembangan AI tingkat lanjut hingga protokol keamanan bersama untuk desain semacam itu dikembangkan, diterapkan, dan diaudit oleh pakar independen.
“Sistem AI yang kuat hanya boleh dikembangkan setelah kami yakin bahwa efeknya akan positif dan risikonya dapat dikelola,” kata surat itu.
Surat itu menguraikan potensi risiko bagi masyarakat dan peradaban yang ditimbulkan oleh sistem AI yang bersaing dengan manusia dalam bentuk gangguan ekonomi dan politik, dan meminta pengembang untuk bekerja dengan pembuat kebijakan di bidang tata kelola dan otoritas pengatur.
Penandatangan bersama termasuk Emad Mostaque, CEO Stability AI, peneliti di DeepMind milik Alphabet, serta kelas berat AI Yoshua Bengio dan Stuart Russell.
Menurut Uni Eropa daftar transparansiFuture of Life Institute terutama didanai oleh Musk Foundation, serta kelompok altruisme efektif yang berbasis di London Founders Pledge, dan Silicon Valley Community Foundation.
Kekhawatiran itu muncul ketika kepolisian UE Europol pada hari Senin bergabung dengan paduan suara masalah etika dan hukum tentang AI tingkat lanjut seperti ChatGPT, memperingatkan potensi penyalahgunaan sistem dalam upaya phishing, disinformasi, dan kejahatan dunia maya.
Sementara itu, pemerintah Inggris telah meluncurkan proposal untuk kerangka peraturan yang “dapat disesuaikan” seputar AI.
Pendekatan pemerintah, yang diuraikan dalam makalah kebijakan yang diterbitkan pada hari Rabu, akan membagi tanggung jawab untuk mengendalikan kecerdasan buatan (AI) antara hak asasi manusia, kesehatan dan keselamatan dan regulator persaingan, daripada membuat badan baru untuk teknologi yang didedikasikan.
Musk, yang pembuat mobilnya Tesla menggunakan AI untuk sistem autopilot, telah berbicara tentang kekhawatirannya tentang AI.
Sejak dirilis tahun lalu, ChatGPT OpenAI yang didukung Microsoft telah mendorong pesaing untuk mempercepat pengembangan model bahasa besar yang serupa, dan perusahaan untuk mengintegrasikan model AI generatif ke dalam produk mereka.
CEO OpenAI Sam Altman tidak menandatangani surat itu, kata juru bicara Future of Life kepada Reuters. OpenAI tidak segera menanggapi permintaan komentar.
“Suratnya tidak sempurna, tapi semangatnya benar: kita perlu pelan-pelan sampai kita lebih memahami konsekuensinya,” kata Gary Marcus, seorang profesor di New York University yang menandatangani surat tersebut. “Mereka dapat melakukan kerusakan serius … para pemain besar menjadi semakin merahasiakan apa yang mereka lakukan, sehingga sulit bagi masyarakat untuk mempertahankan diri dari kerusakan apa pun yang mungkin terjadi.”