Apakah Anda ingin melihat diri Anda berakting dalam film atau serial TV? Apakah Anda ingin melihat sahabat, kolega, atau bos Anda menari? Pernahkah Anda bertanya-tanya bagaimana penampilan Anda jika wajah Anda ditukar dengan wajah teman atau selebriti?
Semua ini ada dalam deskripsi satu aplikasi di toko online, menawarkan pengguna kesempatan untuk membuat media sintetis yang dihasilkan Artificial Intelligence (AI) yang juga dikenal sebagai deepfake seperti karakter virtual palsu dan video palsu.
Aplikasi yang sama juga diiklankan secara berbeda di lusinan situs dewasa: “Buat deepfake porno dalam sekejap,” kata iklan tersebut. “Deepfake siapa saja.”
AI akan menjadi bagian besar dari kehidupan kita di masa depan, namun teknologi memiliki sisi gelap: Dapatkah AI digunakan untuk pornografi deepfake non-konsensual?
“Begitu titik masuknya sangat rendah sehingga tidak memerlukan usaha sama sekali, dan orang yang tidak canggih dapat membuat video porno palsu tanpa persetujuan yang sangat canggih – itulah titik perubahannya,” kata Adam Dodge, seorang pengacara dan pendiri keamanan online. perusahaan EndTab.
“Di situlah kita mulai mendapat masalah,” tambahnya.
Bagaimana teknologi yang semakin canggih diterapkan adalah salah satu kompleksitas yang dihadapi perangkat lunak media sintetis, di mana pembelajaran mesin digunakan untuk memodelkan wajah secara digital dari gambar dan kemudian menukarnya menjadi film semulus mungkin.
Teknologi, yang baru berusia empat tahun, mungkin berada pada titik penting, menurut wawancara Reuters dengan perusahaan, peneliti, pembuat kebijakan, dan juru kampanye.
Sekarang sudah cukup maju sehingga pemirsa umum akan berjuang untuk membedakan banyak video palsu dari kenyataan, kata para ahli, dan telah berkembang biak sejauh itu tersedia untuk hampir semua orang yang memiliki smartphone, tanpa perlu keahlian khusus.
Dengan jin teknologi keluar dari botol, banyak juru kampanye keamanan online, peneliti dan pengembang perangkat lunak mengatakan kuncinya adalah memastikan persetujuan dari mereka yang disimulasikan, meskipun ini lebih mudah diucapkan daripada dilakukan. Beberapa pendukung mengambil pendekatan yang lebih keras dalam hal pornografi sintetik, mengingat risiko penyalahgunaan.
Pornografi deepfake non-konsensual menyumbang 96% dari studi sampel lebih dari 14.000 video deepfake yang diposting online, menurut laporan 2019 oleh Sensity, sebuah perusahaan yang mendeteksi dan memantau media sintetis. Ia menambahkan bahwa jumlah video deepfake online kira-kira dua kali lipat setiap enam bulan.
“Sebagian besar, sebagian besar kerugian yang disebabkan oleh deepfake saat ini adalah bentuk kekerasan digital berbasis gender,” kata Ajder, salah satu penulis studi dan kepala kebijakan dan kemitraan di perusahaan AI Metaphysic, menambahkan bahwa penelitiannya menunjukkan bahwa jutaan perempuan telah ditargetkan di seluruh dunia.
Akibatnya, ada “perbedaan besar” antara apakah sebuah aplikasi secara eksplisit dipasarkan sebagai alat pornografi atau tidak, katanya.
Aplikasi Sumbu Jaringan Iklan
ExoClick, jaringan periklanan online yang digunakan oleh aplikasi “Make deepfake porn in a sec”, mengatakan kepada Reuters bahwa mereka tidak terbiasa dengan perangkat lunak pertukaran wajah AI semacam ini. Dikatakan telah menangguhkan aplikasi dari mengambil iklan dan tidak akan mempromosikan teknologi pertukaran wajah dengan cara yang tidak bertanggung jawab.
“Ini adalah jenis produk yang baru bagi kami,” kata Bryan McDonald, kepala kepatuhan iklan di ExoClick, yang seperti jaringan iklan besar lainnya menawarkan kepada klien dasbor situs yang dapat mereka sesuaikan sendiri untuk memutuskan di mana menempatkan iklan.
“Setelah meninjau materi pemasaran, kami memutuskan bahwa kata-kata yang digunakan pada materi pemasaran tidak dapat diterima. Kami yakin sebagian besar pengguna aplikasi semacam itu menggunakannya untuk hiburan tanpa niat buruk, tetapi kami lebih lanjut mengakui itu juga bisa digunakan untuk tujuan jahat.”
Enam jaringan iklan online besar lainnya yang didekati oleh Reuters tidak menanggapi permintaan komentar tentang apakah mereka menemukan perangkat lunak deepfake atau memiliki kebijakan mengenainya.
Tidak disebutkan kemungkinan penggunaan pornografi aplikasi dalam deskripsinya di App Store Apple atau Google Play Store, di mana itu tersedia untuk siapa saja yang berusia di atas 12 tahun.
Apple mengatakan tidak memiliki aturan khusus tentang aplikasi deepfake tetapi pedoman yang lebih luas melarang aplikasi yang menyertakan konten yang memfitnah, diskriminatif, atau cenderung mempermalukan, mengintimidasi, atau merugikan siapa pun.
Ia menambahkan bahwa pengembang dilarang memasarkan produk mereka dengan cara yang menyesatkan, di dalam atau di luar App Store, dan bahwa ia bekerja dengan perusahaan pengembang aplikasi untuk memastikan mereka mematuhi pedomannya.
Google tidak menanggapi permintaan komentar. Setelah dihubungi oleh Reuters tentang iklan “Deepfake porn” di situs dewasa, Google untuk sementara menghapus halaman Play Store untuk aplikasi tersebut, yang telah diberi peringkat E untuk Semua Orang. Halaman tersebut dipulihkan setelah sekitar dua minggu, dengan aplikasi sekarang diberi peringkat T untuk Remaja karena “Konten seksual”.
Filter dan tanda air
Meskipun ada aktor jahat dalam industri perangkat lunak pertukaran wajah yang berkembang, ada berbagai macam aplikasi yang tersedia untuk konsumen dan banyak yang mengambil langkah untuk mencoba mencegah penyalahgunaan, kata Ajder, yang memperjuangkan penggunaan media sintetis secara etis sebagai bagian dari Grup industri Synthetic Futures.
Beberapa aplikasi hanya memungkinkan pengguna untuk menukar gambar ke adegan yang telah dipilih sebelumnya, misalnya, atau memerlukan verifikasi ID dari orang yang ditukar, atau menggunakan AI untuk mendeteksi unggahan pornografi, meskipun ini tidak selalu efektif, tambahnya.
Reface adalah salah satu aplikasi pertukaran wajah paling populer di dunia, telah menarik lebih dari 100 juta unduhan secara global sejak 2019, dengan pengguna didorong untuk bertukar wajah dengan selebriti, pahlawan super, dan karakter meme untuk membuat klip video yang menyenangkan.
Perusahaan yang berbasis di AS itu mengatakan kepada Reuters bahwa mereka menggunakan moderasi konten secara otomatis dan manusiawi, termasuk filter pornografi, plus memiliki kontrol lain untuk mencegah penyalahgunaan, termasuk pelabelan dan tanda air visual untuk menandai video sebagai sintetis.
“Sejak awal teknologi dan pendirian Reface sebagai sebuah perusahaan, telah ada pengakuan bahwa teknologi media sintetis dapat disalahgunakan atau disalahgunakan,” katanya.
‘Hanya pelaku yang bertanggung jawab’
Meluasnya akses konsumen ke komputasi yang kuat melalui smartphone disertai dengan kemajuan teknologi deepfake dan kualitas media sintetis.
Misalnya, pendiri EndTab, Dodge, dan pakar lain yang diwawancarai oleh Reuters mengatakan bahwa pada awal kemunculan alat ini di tahun 2017, mereka membutuhkan input data dalam jumlah besar, seringkali berjumlah ribuan gambar untuk mencapai kualitas yang sama seperti yang dapat dihasilkan saat ini dari hanya satu gambar.
“Dengan kualitas gambar-gambar ini menjadi begitu tinggi, protes ‘Ini bukan saya!’ tidak cukup, dan jika terlihat seperti Anda, maka dampaknya sama seperti jika itu Anda,” kata Sophie Mortimer, manajer di Revenge Porn Helpline yang berbasis di Inggris.
Pembuat kebijakan yang ingin mengatur teknologi deepfake membuat kemajuan yang tidak merata, juga menghadapi gangguan teknis dan etika baru.
Undang-undang yang secara khusus ditujukan untuk penyalahgunaan online menggunakan teknologi deepfake telah disahkan di beberapa yurisdiksi, termasuk China, Korea Selatan, dan California, di mana dengan jahat menggambarkan seseorang dalam pornografi tanpa persetujuan mereka, atau mendistribusikan materi tersebut, dapat membawa kerugian menurut undang-undang sebesar $ 150.000.
“Intervensi legislatif khusus atau kriminalisasi pornografi deepfake masih kurang,” kata peneliti di Parlemen Eropa dalam sebuah penelitian yang dipresentasikan kepada panel anggota parlemen pada bulan Oktober bahwa undang-undang yang disarankan harus memberikan tanggung jawab yang lebih luas untuk memasukkan aktor seperti pengembang atau distributor, serta pelaku.
“Seperti yang terjadi saat ini, hanya pelaku yang bertanggung jawab. Namun, banyak pelaku berusaha keras untuk memulai serangan semacam itu pada tingkat anonim sehingga baik penegak hukum maupun platform tidak dapat mengidentifikasi mereka.”
Marietje Schaake, direktur kebijakan internasional di Pusat Kebijakan Siber Universitas Stanford dan mantan anggota Parlemen Eropa, mengatakan undang-undang digital baru yang luas termasuk Undang-Undang AI yang diusulkan di Amerika Serikat dan GDPR di Eropa dapat mengatur elemen teknologi deepfake, tetapi ada kesenjangan.
“Meskipun kedengarannya ada banyak pilihan hukum yang harus ditempuh, dalam praktiknya merupakan tantangan bagi korban untuk diberdayakan untuk melakukannya,” kata Schaake.
“Draf Undang-Undang AI yang sedang dipertimbangkan memperkirakan bahwa konten yang dimanipulasi harus diungkapkan,” tambahnya.
“Tetapi pertanyaannya adalah apakah kesadaran cukup untuk menghentikan dampak berbahaya. Jika viralitas teori konspirasi menjadi indikator, informasi yang terlalu absurd untuk menjadi kenyataan masih bisa berdampak luas dan berbahaya bagi masyarakat.”
Posted By : togel hongkonģ hari ini
