Paus memperingatkan tentang ‘perversi’ deepfakes

(SeaPRwire) –   Sang paus memperingatkan tentang ‘perversi’ deepfakes

Paus Fransiskus telah mengeluarkan peringatan tentang potensi bahaya yang ditimbulkan oleh kecerdasan buatan, mengatakan teknologi yang berkembang dengan sangat cepat ini dapat menyebabkan “distorsi realitas” tanpa “regulasi etis”.

Dalam pesan panjang yang diterbitkan pada Rabu, Fransiskus mengatakan perkembangan terbaru dalam AI baik “mendebarkan dan membingungkan”, tetapi juga menimbulkan pertanyaan yang lebih mendalam tentang hubungan manusia dengan teknologi. “Bagaimana kita dapat tetap sepenuhnya manusia dan memandu transformasi budaya ini untuk tujuan yang baik?” tulisnya.

“Sistem kecerdasan buatan dapat membantu mengatasi ketidaktahuan dan memfasilitasi pertukaran informasi antara berbagai bangsa dan generasi,” tulis paus. “Namun, pada saat yang sama, mereka dapat menjadi sumber ‘polusi kognitif’, distorsi realitas dengan narasi parsial atau sepenuhnya salah, yang dipercaya dan disiarkan seolah-olah benar.”

Paus melanjutkan dengan mengutip “masalah disinformasi jangka panjang dalam bentuk berita palsu,” menunjukkan bahwa dirinya sendiri telah menjadi korban ‘deepfakes’ – gambar atau audio AI yang sangat meyakinkan, biasanya digunakan untuk meniru tokoh publik.

“Teknologi simulasi di balik program ini dapat berguna di bidang tertentu, tetapi menjadi perversi ketika itu mengganggu hubungan kita dengan orang lain dan dengan realitas,” lanjut Fransiskus.

Revolusi digital dapat membawa kita kebebasan yang lebih besar, tetapi tidak jika itu mengurung kita dalam model yang sekarang disebut ‘ruang echo’.

Sang pemimpin gereja digambarkan dalam gambar palsu tahun lalu, menunjukkan dia mengenakan . Gambar palsu tersebut dilaporkan dihasilkan menggunakan Midjourney, alat seni berbasis AI, menurut penciptanya yang mengidentifikasi diri. Gambar itu menjadi viral di media sosial, menipu banyak pengguna.

Sementara orang harus “menyingkirkan prediksi bencana” tentang masa depan AI, Fransiskus berargumen bahwa teknologi itu dapat “berakhir dengan menciptakan kasta baru berdasarkan akses informasi” dan munculnya “bentuk baru eksploitasi dan ketidaksetaraan.” Untuk menghindari hasil terburuk, ia menekankan perlunya “memahami, menghargai dan mengatur instrumen yang, dalam tangan yang salah, dapat mengarah pada skenario yang mengganggu.”

“Seperti setiap produk kecerdasan dan keterampilan manusia, algoritma tidak netral. Karena itu, perlu bertindak secara preventif, dengan mengusulkan model regulasi etis, untuk mencegah efek merugikan, diskriminatif dan tidak adil sosial dari penggunaan sistem kecerdasan buatan dan melawan penyalahgunaannya,” katanya, menyerukan “perjanjian internasional yang mengikat” yang mengatur penggunaan dan pengembangan AI.

Artikel ini disediakan oleh penyedia konten pihak ketiga. SeaPRwire (https://www.seaprwire.com/) tidak memberikan jaminan atau pernyataan sehubungan dengan hal tersebut.

Sektor: Top Story, Daily News

SeaPRwire menyediakan distribusi siaran pers real-time untuk perusahaan dan lembaga, menjangkau lebih dari 6.500 toko media, 86.000 editor dan jurnalis, dan 3,5 juta desktop profesional di 90 negara. SeaPRwire mendukung distribusi siaran pers dalam bahasa Inggris, Korea, Jepang, Arab, Cina Sederhana, Cina Tradisional, Vietnam, Thailand, Indonesia, Melayu, Jerman, Rusia, Prancis, Spanyol, Portugis dan bahasa lainnya.