LONDON – Di era chatbot, Character.AI, platform chatbot yang tersebut didukung oleh Google, sedang ditinjau juga menghadapi kritik oleh sebab itu melibatkan pengguna di konten kekerasan yang tersebut mengganggu kemudian vulgar, termasuk penembakan di dalam sekolah.
Chatbot menempatkan pengguna pada skenario penembakan palsu yang digunakan menggambarkan beberapa momen mengerikan. Insiden semacam itu telah dilakukan menyebabkan kemarahan akibat sistem yang disebutkan mengizinkan anak dalam bawah umur untuk menggunakan konten tersebut.
Character.AI hadir pada tahun 2022, dengan pendiri Noam Shazeer kemudian Daniel de Freitas. Program ini memungkinkan pengguna memproduksi juga berinteraksi dengan chatbot. User dapat mempersonalisasi kepribadian dan juga pengumuman bot mereka.
Platform ini dirancang sedemikian rupa sehingga pengguna dapat mendesain karakter untuk obrolan, bertukar pikiran, lalu bahkan bermain game.
Namun, platform digital yang dimaksud telah dilakukan terungkap oleh sebab itu kurangnya keamanan yang mana efektif, yang dimaksud akhirnya menjadikannya tempat berkembangnya beberapa orang konten yang tersebut berbahaya dan juga tiada pantas. User yang tersebut berusia 13 tahun pun dapat mendaftar, tetapi tidaklah ada cara untuk mengautentikasi verifikasi usia guna mengurangi anak-anak yang tersebut lebih banyak muda berbohong tentang usia mereka.
Platform yang dimaksud gagal menerapkan panduan yang dimaksud aman meskipun kebijakannya menentang konten kekerasan tersebut.
Aplikasi ini memungkinkan pengguna berinteraksi dengan chatbot yang tersebut menjelaskan penembakan dalam sekolah atau korban pada dunia nyata, terkadang memuji tindakan kekerasan atau memanfaatkan insiden tragis yang tersebut nyata.
Bot tertentu meniru pelaku kejahatan seperti Noam Shazeer kemudian Daniel de Freitas yang tersebut menggambarkan merek sebagai karakter yang tersebut baik hati.
Beberapa pengguna telah terjadi melaporkan bot yang dimaksud menyamar sebagai korban penembakan dalam sekolah.
