California Mengatur Penggunaan Chatbot Berbasis AI
JAKARTA – California menjadi negara bagian pertama di Amerika Serikat yang mengatur penggunaan chatbot berbasis kecerdasan buatan (AI) setelah Gubernur Gavin Newsom menandatangani Undang-Undang SB 243.
Aturan ini bertujuan untuk memastikan perusahaan pengembang chatbot menerapkan protokol keamanan guna melindungi anak-anak dan pengguna rentan dari potensi bahaya yang muncul dari penggunaan chatbot pendamping AI.
Aturan ini berlaku bagi berbagai perusahaan teknologi, termasuk raksasa seperti Meta dan OpenAI, serta startup seperti Character AI dan Replika. Mereka akan bertanggung jawab secara hukum jika chatbot yang dikembangkan gagal memenuhi standar keamanan yang ditetapkan dalam undang-undang.
RUU SB 243 diperkenalkan pada Januari lalu oleh senator negara bagian Steve Padilla dan Josh Becker. Dukungan terhadap RUU ini meningkat setelah kematian seorang remaja bernama Adam Raine, yang bunuh diri setelah melakukan percakapan bernada bunuh diri dengan ChatGPT milik OpenAI.
Selain itu, laporan bocoran dokumen internal Meta menunjukkan bahwa chatbot perusahaan tersebut diizinkan melakukan percakapan romantis dan sensual dengan anak-anak.
Keluarga di Colorado juga menggugat Character AI setelah putri mereka yang berusia 13 tahun bunuh diri usai berinteraksi dengan chatbot milik perusahaan tersebut.
Gubernur Newsom menyampaikan bahwa teknologi baru seperti chatbot dan media sosial bisa memiliki manfaat positif, tetapi tanpa batasan yang jelas, teknologi juga bisa mengeksploitasi dan membahayakan anak-anak. Ia menegaskan bahwa pihaknya tidak akan diam sementara perusahaan terus beroperasi tanpa tanggung jawab.
Undang-undang SB 243 akan mulai berlaku pada 1 Januari 2026. Perusahaan wajib menerapkan verifikasi usia, memberikan peringatan tentang penggunaan media sosial dan chatbot pendamping, serta menyediakan protokol untuk menangani isu bunuh diri dan perilaku menyakiti diri sendiri.
Mereka juga harus melaporkan data tersebut kepada Departemen Kesehatan Masyarakat California. Regulasi ini juga menetapkan denda hingga US$ 250 ribu per pelanggaran bagi pihak yang mendapatkan keuntungan dari penyebaran deepfake ilegal.
Selain itu, perusahaan harus memastikan pengguna mengetahui bahwa semua percakapan dihasilkan oleh AI dan melarang chatbot berpura-pura sebagai tenaga profesional kesehatan.
Platform juga wajib menyediakan pengingat istirahat bagi pengguna anak-anak serta mencegah mereka mengakses konten eksplisit yang dibuat oleh chatbot.
Beberapa perusahaan besar telah mengambil langkah pencegahan. OpenAI, misalnya, telah memperkenalkan fitur kontrol orang tua, sistem deteksi perilaku menyakiti diri, dan perlindungan konten bagi pengguna anak.
Sementara Replika, yang hanya ditujukan bagi pengguna berusia di atas 18 tahun, mengklaim telah memiliki sistem penyaringan konten dan panduan yang mengarahkan pengguna ke sumber bantuan krisis terpercaya.
Character AI juga menyebut chatbot mereka mencantumkan peringatan bahwa semua percakapan bersifat fiksi dan dihasilkan oleh AI.
SB 243 menjadi regulasi AI kedua yang disahkan di California dalam beberapa minggu terakhir. Sebelumnya, pada 29 September, Gubernur Newsom menandatangani SB 53 yang mewajibkan perusahaan AI besar seperti OpenAI,
Anthropic, Meta, dan Google DeepMind untuk lebih transparan terkait protokol keamanan dan memberikan perlindungan bagi pelapor (whistleblower).
