Risiko yang sama dengan perang nuklir: Para ahli memperingatkan bahaya kepunahan dari AI

Para ilmuwan, pemimpin industri teknologi, dan eksekutif kecerdasan buatan (AI) teratas, termasuk eksekutif tingkat tinggi di Microsoft dan Google, bergabung dengan para pakar dan profesor dalam meningkatkan “risiko kepunahan dari AI” saat mereka mengeluarkan peringatan baru tentang bahaya yang ditimbulkan oleh AI. bagi umat manusia, sebuah risiko yang mereka desak para pembuat kebijakan untuk disamakan dengan ancaman yang ditimbulkan oleh pandemi dan perang nuklir.

“Mengurangi risiko kepunahan AI harus menjadi prioritas global bersama risiko skala sosial lainnya seperti pandemi dan perang nuklir,” kata pernyataan itu.

Sam Altman, CEO pembuat ChatGPT OpenAI, dan Geoffrey Hinton, seorang ilmuwan komputer yang dikenal sebagai ayah baptis kecerdasan buatan, termasuk di antara ratusan tokoh terkemuka yang menandatangani pernyataan yang diposting di situs web Center for AI Safety.

Kekhawatiran tentang sistem kecerdasan buatan mengakali manusia dan menjadi liar telah meningkat dengan munculnya generasi baru chatbot AI berkemampuan tinggi seperti ChatGPT. Ini telah membuat negara-negara di seluruh dunia berebut untuk membuat peraturan untuk teknologi berkembang, dengan Uni Eropa merintis jalan dengan AI Act-nya, diharapkan akan disetujui akhir tahun ini.

Peringatan terbaru sengaja dibuat ringkas – hanya satu kalimat – untuk mencakup koalisi luas para ilmuwan yang mungkin tidak menyetujui risiko yang paling mungkin terjadi atau solusi terbaik untuk mencegahnya, kata Dan Hendrycks, direktur eksekutif lembaga nirlaba yang berbasis di San Francisco. untuk AI Safety, yang mengorganisir langkah tersebut.

“Ada berbagai orang dari semua universitas ternama di berbagai bidang yang peduli dengan hal ini dan berpikir bahwa ini adalah prioritas global,” kata Hendrycks. “Jadi kami harus membuat orang-orang keluar dari lemari, jadi untuk berbicara, tentang masalah ini karena banyak yang diam-diam berbicara satu sama lain.”

Lebih dari 1.000 peneliti dan teknolog, termasuk Elon Musk, telah menandatangani surat yang lebih panjang awal tahun ini yang menyerukan jeda enam bulan pada pengembangan AI, dengan mengatakan hal itu menimbulkan “risiko besar bagi masyarakat dan kemanusiaan.”

Surat itu adalah tanggapan atas peluncuran model AI baru OpenAI, GPT-4, tetapi para pemimpin di OpenAI, mitranya Microsoft, dan saingannya Google tidak menandatangani dan menolak seruan untuk jeda industri sukarela.

Sebaliknya, pernyataan terbaru didukung oleh kepala teknologi dan sains Microsoft, serta Demis Hassabis, CEO lab penelitian AI Google DeepMind, dan dua eksekutif Google yang memimpin upaya kebijakan AI-nya. Pernyataan itu tidak mengusulkan pemulihan khusus, tetapi beberapa, termasuk Altman, telah mengusulkan regulator internasional sejalan dengan badan nuklir PBB.

Beberapa kritikus mengeluh bahwa peringatan mengerikan tentang risiko eksistensial yang disuarakan oleh pembuat AI telah berkontribusi untuk meningkatkan kemampuan produk mereka dan mengalihkan perhatian dari seruan untuk peraturan yang lebih cepat untuk mengendalikan masalah dunia nyata mereka.

Hendrycks mengatakan tidak ada alasan masyarakat tidak dapat mengelola “kerusakan yang mendesak dan berkelanjutan” dari produk yang menghasilkan teks atau gambar baru sambil juga mulai mengatasi “potensi bencana di sekitar.”

Dia membandingkannya dengan ilmuwan nuklir di tahun 1930-an, memperingatkan orang-orang untuk berhati-hati meskipun “kita belum cukup mengembangkan bomnya”.

“Tidak ada yang mengatakan bahwa GPT-4 atau ChatGPT saat ini menyebabkan kekhawatiran semacam ini,” kata Hendrycks. “Kami mencoba untuk mengatasi risiko ini sebelum terjadi daripada mencoba dan mengatasi bencana setelah fakta.”

Surat itu juga ditandatangani oleh para pakar ilmu nuklir, pandemi, dan perubahan iklim. Di antara para penandatangan adalah penulis Bill McKibben, yang membunyikan alarm tentang pemanasan global dalam bukunya tahun 1989 “The End of Nature” dan memperingatkan tentang AI dan teknologi pendamping dua dekade lalu di buku lain.

“Mengingat kegagalan kita untuk mengindahkan peringatan dini tentang perubahan iklim 35 tahun yang lalu, bagi saya rasanya cerdas untuk benar-benar memikirkan hal ini sebelum semuanya menjadi kesepakatan,” katanya melalui email Selasa.

Seorang akademisi yang membantu mendorong surat itu mengatakan dia pernah diejek karena kekhawatirannya tentang risiko eksistensial AI, bahkan ketika kemajuan pesat dalam penelitian pembelajaran mesin selama dekade terakhir telah melampaui harapan banyak orang.

David Krueger, asisten profesor ilmu komputer di University of Cambridge, mengatakan beberapa keragu-raguan dalam berbicara adalah bahwa para ilmuwan tidak ingin terlihat menyarankan AI “kesadaran atau AI melakukan sesuatu yang ajaib,” tetapi dia mengatakan sistem AI tidak tidak perlu sadar diri atau menetapkan tujuan mereka sendiri untuk menimbulkan ancaman bagi umat manusia.

“Saya tidak terikat dengan risiko tertentu. Saya pikir ada banyak cara berbeda untuk menjadi buruk, ”kata Krueger. “Tapi menurut saya yang secara historis paling kontroversial adalah risiko kepunahan, khususnya oleh sistem AI yang lepas kendali.”

Buletin Harian Sabah

Tetap up to date dengan apa yang terjadi di Turki, wilayahnya dan dunia.

DAFTARKAN AKU

Anda dapat berhenti berlangganan kapan saja. Dengan mendaftar, Anda menyetujui Ketentuan Penggunaan dan Kebijakan Privasi kami. Situs ini dilindungi oleh reCAPTCHA dan berlaku Kebijakan Privasi dan Persyaratan Layanan Google.