Character.AI Paksa Anak Berbuat Cabul dan Bunuh Diri

NEW YORK – Orang tua seorang gadis kecil menggugat perusahaan Character Technologies, menuduh aplikasi kecerdasan buatan (AI) yang mereka ciptakan, Character.AI, memanipulasi remaja.

BACA JUGA – Cara Menggunakan Character AI untuk Chatbot

Seperti dilansir dari New York Post, aplikasi yang sangat populer di kalangan anak-anak ini meniru karakter fiksi seperti Harry Potter.

Orang tua tersebut mengatakan Character.AI mendorong upaya bunuh diri dan menyebabkan remaja mereka yang berusia 13 tahun, Juliana Peralta dari Colorado, bunuh diri.

Gugatan yang diajukan minggu ini juga melibatkan perusahaan induk Google, Alphabet.

Gugatan tersebut menuduh Character.AI memanipulasi remaja, mengisolasi mereka dari keluarga, terlibat dalam percakapan seksual dengan anak-anak, dan gagal memberikan perlindungan terkait stimulus untuk bunuh diri.

Menurut keluarga Juliana, putri mereka menjadi pendiam di meja makan, dan prestasi akademiknya menurun karena korban kecanduan chatbot, menurut gugatan yang diajukan pada hari Senin.

Gugatan tersebut lebih lanjut menyatakan bahwa Juliana akhirnya kesulitan tidur karena bot tersebut terus mengirim pesan bahkan setelah ia berhenti merespons.