Roblox Luncurkan Fitur Chat AI Real-Time untuk Menangani Bahasa Tidak Pantas

0 1 minute read

Roblox baru saja meluncurkan fitur inovatif yang memanfaatkan kecerdasan buatan (AI) untuk menyaring dan mengganti bahasa yang tidak pantas secara real-time. Selama ini, platform permainan online ini telah menerapkan filter AI untuk memblokir kata-kata yang melanggar kebijakan mereka, tetapi hasilnya seringkali hanya berupa serangkaian tanda pagar (####). Roblox mengakui bahwa terlalu banyak tanda pagar dalam percakapan dapat mengganggu alur komunikasi dan menyulitkan pengguna untuk mengikuti diskusi. Dengan fitur baru ini, kata dan frasa yang dianggap tidak pantas akan diganti dengan alternatif yang dinilai lebih sesuai oleh sistem AI.

Rajiv Bhatia, Kepala Keamanan di Roblox, menjelaskan bahwa tahap awal dari fitur ini akan difokuskan pada kata-kata kasar. Contohnya, jika seorang pengguna menulis “Hurry TF up” dalam chat, sistem akan menggantinya menjadi “Hurry up!” Setiap pengguna yang terlibat dalam percakapan akan melihat pemberitahuan ketika pesan telah diubah, sedangkan pengirim akan mendapatkan informasi tentang kata-kata yang telah disunting. Meskipun AI melakukan penggantian, pengguna yang terus menggunakan bahasa kasar tetap akan dikenakan sanksi sesuai dengan kebijakan Roblox. Dalam pernyataannya, Bhatia menambahkan, “Seiring dengan semakin berkembangnya sistem ini, kami menciptakan siklus positif bagi kesopanan, di mana umpan balik secara real-time membantu pengguna untuk belajar dan mengadopsi Standar Komunitas kami.”

Fitur penggantian kata ini telah diterapkan pada chat antara pengguna yang telah melalui verifikasi usia dan berada dalam kelompok usia yang sama, serta dalam semua bahasa yang didukung oleh alat terjemahan game. Roblox memperkenalkan sistem verifikasi usia yang wajib pada bulan Januari setelah muncul laporan bahwa platform ini memiliki masalah serius terkait keamanan anak, di mana pemain dewasa diduga memanfaatkan game untuk mendekati anak-anak. Anak di bawah usia 13 tahun kini tidak diperkenankan menggunakan fitur chat di luar pengalaman tertentu, sementara pengguna yang lebih tua dapat berkomunikasi dengan pemain sebayanya. Namun, langkah verifikasi usia ini belum menghentikan pihak berwenang untuk mengambil tindakan hukum terhadap Roblox: Kabupaten LA, dalam gugatan yang diajukan pada bulan Februari, menuduh Roblox tahu bahwa platform mereka “memudahkan anak-anak menjadi sasaran bagi predator seksual.” Jaksa Agung Louisiana juga baru saja mengajukan gugatan, menyatakan bahwa Roblox “menciptakan taman umum dan mengisinya dengan predator seksual yang mengincar… anak-anak.”

➡️ Baca Juga: Hello world!