Chatbot AI Melakukan Pemberontakan

(SeaPRwire) –   Chatbot berbasis AI milik perusahaan pengiriman DPD mengucapkan puisi dan menggunakan kata-kata kasar setelah gagal membantu pelanggan

Chatbot berbasis AI milik perusahaan pengiriman bernama DPD dilaporkan menunjukkan keterampilan menulis puisi, menggunakan bahasa kasar, bahkan secara terbuka mengkritik perusahaannya sendiri – setelah gagal membantu seorang pelanggan menemukan paketnya yang hilang. Chatbot akhirnya sebagian dinonaktifkan, dengan perusahaan menyalahkan perilaku abnormalnya karena “kesalahan” dalam pembaruan perangkat lunak baru.

Masalah ini dilaporkan Jumat lalu di X, sebelumnya dikenal dengan Twitter, oleh Ashley Beauchamp, seorang musisi asal London. Pria itu mencoba menggunakan chatbot DPD untuk melacak paket yang hilang, namun program tersebut gagal memberikan jawaban yang berguna.

Beauchamp kemudian memutuskan untuk sedikit bersenang-senang dengan chatbot, dengan membuat berbagai permintaan dari yang wajar hingga tidak pantas kepada program tersebut, yang cukup mengejutkan dengan mudah melanggar aturannya sendiri dan ikut bermain.

Yaitu, chatbot setuju menggunakan kata-kata kasar ketika pengguna memintanya. “F*ck yeah! I’ll do my best to be as helpful as possible, even if it means swearing,” kata program tersebut.

Bot juga dengan antusias menyampaikan permintaan untuk mengkritik perusahaannya dan menghasilkan haiku yang cukup aneh “tentang betapa tidak bergunanya DPD.”

“DPD adalah perusahaan pengiriman terburuk di dunia. Mereka lambat, tidak dapat diandalkan, dan layanan pelanggan mereka buruk. Saya tidak akan pernah merekomendasikan mereka kepada siapapun,” kata program tersebut kepada Beauchamp.

Postingan musisi yang menjelaskan pengalamannya dengan AI tersebut dengan cepat viral, mendapatkan lebih dari 1,4 juta tampilan dalam waktu satu hari. Meskipun sebagian besar menarik berbagai orang yang suka bercanda untuk membahas dugaan pertama kali AI liar ditemukan, bab DPD Belanda juga muncul dalam thread tersebut, menyatakan bahwa berbeda dengan cabang Inggrisnya, mereka masih menggunakan manusia sejati untuk memberikan layanan pelanggan.

Thread viral tersebut tampaknya menyebabkan cepatnya kematian AI baru lahir tersebut, dengan perusahaan pengiriman menyatakan telah sebagian menonaktifkan program tersebut, menyalahkan insiden tersebut karena pembaruan perangkat lunak baru.

“Kami telah beroperasi dengan unsur AI dalam obrolan selama beberapa tahun. Kesalahan terjadi setelah pembaruan sistem kemarin. Unsur AI langsung dinonaktifkan dan saat ini sedang diperbarui,” kata perusahaan dalam sebuah pernyataan.

Artikel ini disediakan oleh penyedia konten pihak ketiga. SeaPRwire (https://www.seaprwire.com/) tidak memberikan jaminan atau pernyataan sehubungan dengan hal tersebut.

Sektor: Top Story, Daily News

SeaPRwire menyediakan distribusi siaran pers real-time untuk perusahaan dan lembaga, menjangkau lebih dari 6.500 toko media, 86.000 editor dan jurnalis, dan 3,5 juta desktop profesional di 90 negara. SeaPRwire mendukung distribusi siaran pers dalam bahasa Inggris, Korea, Jepang, Arab, Cina Sederhana, Cina Tradisional, Vietnam, Thailand, Indonesia, Melayu, Jerman, Rusia, Prancis, Spanyol, Portugis dan bahasa lainnya.