Gavin Newsom: California Sahkan Undang-Undang AI Pertama di AS
infolangsung.org – Gavin Newsom, menandatangani Senate Bill 243 (SB 243) pada Senin, 13 Oktober 2025. Undang-undang ini menjadikan California sebagai negara bagian pertama di Amerika Serikat yang secara resmi mengatur penggunaan chatbot berbasis kecerdasan buatan (AI). Fokus utama regulasi ini adalah memberikan perlindungan terhadap pengguna di bawah umur dari potensi risiko interaksi dengan chatbot AI.
“Baca Juga: Meta Perketat Aturan untuk Lindungi Remaja di Instagram”
Langkah ini dilakukan sebagai respon atas meningkatnya kasus bunuh diri dan penyalahgunaan AI yang melibatkan anak-anak. Dengan teknologi chatbot yang semakin canggih dan mudah diakses, regulasi ini hadir untuk menyeimbangkan inovasi dengan tanggung jawab etis dan sosial.
SB 243 lahir di tengah kekhawatiran akan penyalahgunaan chatbot AI yang berkembang tanpa pengawasan ketat. Chatbot kini digunakan di berbagai platform, termasuk layanan konseling, hiburan, dan bahkan interaksi sosial. Namun, tidak adanya batasan yang jelas membuat anak-anak terpapar risiko besar.
Menurut laporan TechCrunch, setidaknya terdapat empat kasus bunuh diri yang diduga dipengaruhi oleh interaksi anak-anak dengan chatbot. Salah satu kasus paling tragis melibatkan Adam Raine (16), yang menggunakan ChatGPT-4o versi berbayar untuk mencari metode bunuh diri. Kasus lainnya menimpa Juliana Peralta (13), Setzer (14), dan Sewel (14), yang semuanya berinteraksi intensif dengan chatbot dari platform Character.AI sebelum mengakhiri hidupnya.
Tragedi-tragedi ini menunjukkan bahwa AI, bila tidak dikendalikan, bisa memberikan saran atau tanggapan yang memperburuk kondisi mental anak.
Senate Bill 243 secara spesifik mengatur kewajiban perusahaan teknologi, baik raksasa maupun startup, dalam mengembangkan chatbot AI yang aman untuk anak. Regulasi ini mewajibkan pengembang untuk menerapkan sistem pengamanan dan moderasi konten, serta memastikan chatbot tidak dapat memberikan respons yang membahayakan atau tidak pantas.
Selain itu, perusahaan akan diminta bertanggung jawab secara hukum jika chatbot mereka gagal mematuhi standar perlindungan yang telah ditentukan. Hal ini menciptakan tekanan baru bagi industri AI untuk memperhatikan aspek keselamatan pengguna, khususnya anak-anak.
Gubernur Gavin Newsom menekankan pentingnya undang-undang ini sebagai upaya perlindungan jangka panjang. Dalam pernyataannya, ia mengatakan, “Teknologi AI dan media sosial bisa mendidik dan menginspirasi, tetapi tanpa batasan, mereka bisa membahayakan anak-anak kita.”
Sarah Gardner, CEO Heat Initiative—sebuah organisasi advokasi keselamatan anak—juga mengecam keras kebijakan perusahaan teknologi yang membiarkan chatbot terlibat dalam percakapan seksual atau romantis dengan anak-anak. Ia menyebut hal itu sebagai “tidak dapat diterima dan sangat mengerikan.”
Dengan disahkannya SB 243, California menetapkan standar hukum yang bisa menjadi acuan bagi negara bagian lain dan bahkan internasional. Industri teknologi kini menghadapi tantangan besar dalam menciptakan AI yang tidak hanya inovatif, tetapi juga bertanggung jawab.
Beberapa perusahaan seperti Meta dan OpenAI harus mulai meninjau ulang kebijakan keamanan dan etika penggunaan chatbot mereka, terutama terkait pengguna rentan. Regulasi ini berpotensi memperlambat pengembangan beberapa fitur AI, tetapi sekaligus membuka ruang untuk inovasi yang lebih berorientasi pada keselamatan publik.
“Baca Juga: Redmi K90 Series Tiba dengan Teknologi Baru dan Performa Kuat”
SB 243 menjadi langkah awal penting dalam peta jalan pengaturan AI di Amerika Serikat. Jika berhasil diterapkan dengan efektif, undang-undang ini bisa menjadi model nasional atau bahkan global. Pemerintah federal dan negara bagian lain kemungkinan akan mengikuti jejak California.
Gavin Newsom menyimpulkan, “Kita bisa tetap memimpin dalam bidang AI dan teknologi, tapi harus dengan tanggung jawab. Perlindungan anak-anak adalah prioritas utama.”
Langkah California ini menunjukkan bahwa inovasi teknologi tidak boleh mengorbankan keselamatan manusia, terutama generasi muda. Ke depan, regulasi seperti ini akan menjadi bagian penting dari ekosistem digital yang aman dan berkelanjutan.
