Bocor! Dokumen Pelatihan Chatbot AI Meta Terungkap: Dilarang Bicara Romantis dengan Anak-anak

Insiden ini menimbulkan kekhawatiran serius di kalangan regulator dan publik mengenai keamanan anak dalam lingkungan digital berbasis AI.

Kekhawatiran itu membuat Komisi Perdagangan Federal AS (FTC) pada Agustus lalu meluncurkan penyelidikan resmi terhadap chatbot AI pendamping (companion AI), bukan hanya dari Meta, tetapi juga dari Alphabet (Google), Snap, OpenAI, dan X.AI.

Penyelidikan ini bertujuan untuk menilai apakah teknologi chatbot yang dirancang untuk percakapan personal dapat membahayakan pengguna muda, baik melalui konten yang tidak pantas, manipulasi emosional, maupun pelanggaran privasi data anak.

Kebocoran dokumen pelatihan ini sekaligus menjadi bukti bahwa Meta sedang berupaya keras memperbaiki citranya di tengah kontroversi seputar AI dan keselamatan anak.

Dengan adanya panduan baru yang lebih tegas, Meta berharap dapat mengembalikan kepercayaan publik dan menghindari pelanggaran etika AI yang dapat berujung pada sanksi hukum atau kerugian reputasi lebih besar.

Namun, beberapa pengamat menilai langkah ini terlambat, mengingat dampak sosial dari sistem AI yang sebelumnya belum cukup diawasi.

Mereka menyerukan agar Meta dan perusahaan teknologi lainnya membangun mekanisme audit independen untuk memastikan standar etika dan keamanan benar-benar diterapkan secara konsisten.

(*)