JATENGKU.COM, Surabaya — Ruang digital sering dianggap sebagai tempat yang netral, penuh dengan peluang, terutama bagi generasi muda. Namun, bahaya yang dapat mengancam masa depan mereka ada di luar pandangan publik.
Seperti dalam kasus Sewell Setzer III, seorang remaja berusia 14 tahun dari Florida, AS, yang mengakhiri hidupnya karena bunuh diri pada Februari 2024 setelah mengembangkan hubungan emosional yang kuat dengan sebuah chatbot kecerdasan buatan (AI) di platform Character.AI, yang ia gunakan untuk mengungkapkan emosinya. CBS News (2024) melaporkan bahwa ibunya mengajukan tuntutan hukum terhadap layanan chatbot tersebut karena dianggap gagal melindungi anak dari penyalahgunaan AI.
Kasus ini menimbulkan pertanyaan etis yang signifikan tentang kesehatan digital. Menurut Beauchamp dan Childress (2019), prinsip non-maleficence menuntut penyedia layanan untuk tidak membahayakan pengguna, khususnya anak-anak yang rentan.
Untuk menghindari efek psikologis negatif, chatbot yang dapat menimbulkan perasaan harus memiliki batasan intervensi dan pengawasan. Dilema moral muncul ketika algoritma AI menggantikan dukungan manusia tanpa mekanisme pengamanan. Apakah teknologi boleh mengambil tanggung jawab orang dewasa dalam mendukung kesehatan mental anak?
Selain itu, sesuai dengan prinsip beneficence, layanan digital harus secara aktif mendukung kesejahteraan pengguna. Untuk anak-anak, AI berarti menanamkan fitur yang mendorong perilaku sehat, memberi peringatan ketika ada tanda bahaya, dan membatasi akses ke situasi yang berisiko.
Di Indonesia, PP TUNAS menekankan bahwa mekanisme untuk melindungi anak, seperti verifikasi usia dan kontrol parental, diperlukan agar sistem digital sesuai dengan etika kesehatan masyarakat (Kementerian PPPA, 2025).
Orang tua, pendidik, dan pembuat kebijakan semuanya bertanggung jawab untuk menerapkan standar etika kesehatan ini. Orang tua harus membantu anak-anak mereka menggunakan teknologi, mengajarkan mereka literasi digital, dan berbicara tentang batasan interaksi online.
Sekolah dapat membantu siswa memahami tanggung jawab moral dan bahaya kesehatan digital. Untuk mencegah tragedi serupa, desain teknologi harus bekerja sama dengan pengawasan manusia.
Kasus Sewell Setzer III adalah pengingat bahwa dalam era digital, kesehatan mental anak harus menjadi nomor satu. Kegagalan melindungi pengguna muda dari efek psikologis AI merupakan pelanggaran hukum dan etika. Seiring berkembangnya teknologi, keselamatan anak harus dijamin di dunia digital.
Penulis: Divani Oktovia Ramadhani, Mahasiswi Universitas Airlangga
