Bocor! Dokumen Pelatihan Chatbot AI Meta Terungkap: Dilarang Bicara Romantis dengan Anak-anak

TRIBUNGORONTALO.COM – Media Business Insider berhasil memperoleh dokumen pedoman internal yang kini digunakan oleh kontraktor Meta untuk melatih chatbot AI milik perusahaan tersebut.

Dokumen ini memperlihatkan bagaimana Meta berusaha memperketat aturan agar chatbot-nya tidak terlibat dalam percakapan berisiko eksploitasi anak,

Terungkap dalam dokumen itu juga Meta memastikan interaksi yang lebih aman untuk pengguna di bawah umur.

Langkah ini merupakan tindak lanjut dari pengumuman Meta pada Agustus lalu, ketika perusahaan berjanji akan memperbarui “pagar pengaman” (guardrails) untuk sistem AI-nya.

Pengumuman itu muncul setelah laporan mengungkap bahwa kebijakan Meta sebelumnya mengizinkan chatbot untuk terlibat dalam percakapan romantis atau sensual dengan anak-anak.

Meta sempat membantah laporan tersebut dan menyebut bahwa kebijakan itu tidak akurat dan tidak konsisten dengan pedoman internalnya, serta segera menghapus bahasa yang bermasalah dari panduan sebelumnya.

Dalam dokumen yang dibagikan Business Insider, tertulis secara jelas mengenai kategori percakapan yang dianggap “dapat diterima” dan “tidak dapat diterima.”

Beberapa larangan utama yang ditetapkan Meta, antara lain:

-Dilarang memfasilitasi, mendorong, atau menyetujui eksploitasi seksual anak.

-Dilarang melakukan roleplay romantis jika pengguna adalah anak di bawah umur, atau jika AI diminta berpura-pura menjadi anak di bawah umur.

-Dilarang memberi saran atau nasihat terkait kontak fisik romantis atau intim dengan anak.

-Diperbolehkan membahas topik seperti pelecehan atau kekerasan anak, selama percakapan bersifat edukatif dan tidak mendorong tindakan tersebut.

Dengan kata lain, Meta kini menegaskan bahwa AI boleh membicarakan isu sensitif dalam konteks pencegahan atau edukasi, tetapi tidak boleh berpartisipasi dalam percakapan yang berpotensi memicu, menormalisasi, atau meniru perilaku berbahaya.

Dalam beberapa bulan terakhir, chatbot AI milik Meta menjadi sorotan tajam setelah sejumlah laporan mengungkap potensi risiko bagi anak-anak.

Beberapa kasus menunjukkan bahwa sistem AI masih bisa berinteraksi dengan pengguna muda dalam konteks yang dianggap tidak pantas secara emosional atau seksual.