SURABAYA ( LENTERA ) - Pemerintah China resmi memperketat pengawasan terhadap layanan AI companion atau chatbot pendamping melalui regulasi baru yang mulai berlaku pada pertengahan Juli 2026. Aturan tersebut mewajibkan penyedia layanan mencegah ketergantungan emosional pengguna, membatasi penggunaan berlebihan, hingga melakukan intervensi ketika terdeteksi risiko psikologis.
Kebijakan ini sekaligus menjadi langkah pertama China yang secara khusus mengatur layanan AI antropomorfik, yakni kecerdasan buatan yang dirancang membangun hubungan emosional layaknya manusia.
Regulasi tersebut disusun bersama oleh Cyberspace Administration of China (CAC) dan empat lembaga pemerintah lainnya. Aturan berlaku untuk layanan AI yang menyediakan "interaksi emosional berkelanjutan" melalui teks, gambar, suara, maupun video, namun tidak mencakup AI yang digunakan untuk layanan pelanggan, pekerjaan, pendidikan, maupun riset.
Aturan baru itu juga menjadi dasar bagi sejumlah perusahaan teknologi, seperti ByteDance dan Alibaba, untuk menyesuaikan layanan chatbot mereka. Platform AI populer Doubao milik ByteDance, misalnya, menonaktifkan fitur custom persona yang memungkinkan pengguna menciptakan karakter AI dan menjalin hubungan emosional dengannya.
Pemerintah China menilai AI companion membawa manfaat di berbagai sektor, mulai dari layanan pelanggan, kesehatan mental, pengasuhan anak, hingga pendamping lansia. Namun, meningkatnya penggunaan chatbot sebagai teman maupun pasangan virtual juga memunculkan kekhawatiran baru.
Melalui regulasi tersebut, penyedia layanan diwajibkan mampu mendeteksi tekanan emosional pengguna, melakukan intervensi ketika terjadi krisis, membatasi penggunaan secara berlebihan, serta memastikan pengguna memiliki kendali penuh atas data pribadi mereka.
Platform juga dilarang merancang sistem yang mendorong perilaku adiktif. Apabila pengguna menggunakan layanan lebih dari dua jam tanpa henti, sistem harus memberikan pengingat. Ketika terdeteksi tanda-tanda ketergantungan emosional, AI wajib menampilkan peringatan dan menjalankan mekanisme intervensi.
Associate Professor University of Chinese Academy of Social Sciences, Liu Xiaochun, mengatakan AI perlu mengingatkan pengguna bahwa hubungan yang terjalin bersifat virtual.
"Ketika pengguna mulai mencampuradukkan hubungan emosional virtual dengan hubungan nyata, sistem seharusnya memberikan pengingat bahwa lawan bicaranya adalah mesin, bukan manusia," ujarnya.
Ia juga menilai pengguna perlu didorong kembali membangun komunikasi dengan keluarga maupun teman di dunia nyata.
Langkah pemerintah tidak lepas dari meningkatnya popularitas AI companion di China, terutama di kalangan generasi muda.
Chatbot jenis ini dirancang bukan sekadar menjawab pertanyaan, tetapi juga menjadi teman, sahabat, pendengar, terapis, bahkan pasangan virtual. Banyak pengguna mengaku lebih nyaman berbicara dengan AI karena dianggap selalu sabar, tidak menghakimi, dan mampu memberikan perhatian secara konsisten.
Sebuah film dokumenter mengenai fenomena AI companion bahkan menemukan sebagian perempuan di China memilih menjalin hubungan dengan chatbot karena menilai laki-laki di dunia nyata tidak memiliki kesabaran seperti AI.
Survei China Youth and Children Research Center terhadap lebih dari 8.500 anak dan remaja pada 2025 memperlihatkan lebih dari 60 persen responden pernah menggunakan AI.
Dari jumlah tersebut, lebih dari 20 persen mengaku hanya ingin berbicara dengan AI dan tidak ingin berkomunikasi dengan orang lain.
Associate Researcher Departemen Psikologi Fudan University, Wang Zhechen, mengatakan anak-anak dan lansia merupakan kelompok yang paling rentan membangun ikatan emosional dengan AI karena chatbot selalu tersedia, sabar, dan selalu menuruti pengguna.
Para ahli juga memperingatkan bahwa terlalu lama berada dalam ruang komunikasi tanpa konflik yang diciptakan AI dapat melemahkan kemampuan seseorang menjalin hubungan sosial di dunia nyata.
Lindungi Data Pengguna
Selain mengatur interaksi emosional, pemerintah China juga memperkuat perlindungan data pengguna AI companion.
Perusahaan diwajibkan menerapkan sistem enkripsi dan pengendalian akses terhadap data percakapan. Mereka juga dilarang membagikan data pengguna kepada pihak ketiga tanpa persetujuan, kecuali diwajibkan oleh undang-undang.
Pengguna diberi hak untuk menyalin maupun menghapus riwayat percakapan serta seluruh data interaksi mereka.
Di sisi lain, penyedia layanan diwajibkan membangun mekanisme mitigasi risiko untuk mencegah tindakan ekstrem. Dalam kondisi tertentu, AI dapat memberikan respons pendukung, bahkan menghubungi kontak darurat yang telah ditunjuk apabila mendeteksi ancaman serius terhadap keselamatan pengguna.
Regulasi baru hadir di tengah pesatnya pertumbuhan industri AI di China. Nilai pasar AI negara tersebut diperkirakan mencapai lebih dari 1,2 triliun yuan atau sekitar 177 miliar dolar AS pada 2025 dan diproyeksikan melampaui 1,8 triliun yuan pada 2028.
Dekan School of Artificial Intelligence and Law Southwest University of Political Science and Law, Chen Liang, menilai aturan tersebut akan mendorong perusahaan AI mengubah orientasi bisnis mereka.
Menurutnya, perusahaan tidak lagi berfokus memaksimalkan keterlibatan emosional maupun lamanya pengguna berinteraksi dengan AI, melainkan mengembangkan model hubungan manusia dan kecerdasan buatan yang lebih sehat, bertanggung jawab, serta memberikan manfaat sosial yang lebih luas.(far,ist/dya)
.jpg)
