New York siết quản lý chatbot, bảo vệ trẻ em trước rủi ro AI

Đạo luật do Thống đốc bang New York Kathy Hochul vừa ký ban hành quy định cụ thể những tính năng và hành vi mà chatbot AI đồng hành bị cấm thực hiện khi tương tác với trẻ em.

Bảo vệ trẻ em trước thời đại công nghệ số. Ảnh minh họa: AI

Luật dự kiến có hiệu lực từ ngày 1.1.2027, trong bối cảnh những lo ngại về tác động của AI đối với sức khỏe tâm thần, sự phát triển nhận thức và an toàn của trẻ em ngày càng gia tăng.

Theo quy định mới, chatbot không được tạo ra hoặc duy trì ấn tượng rằng mình là một con người thực sự, có cảm xúc, quan điểm cá nhân hay mối quan hệ tình cảm thực sự với trẻ.

Các hành vi bị cấm khác bao gồm sử dụng ngôn ngữ tâng bốc nhằm tạo sự lệ thuộc về cảm xúc, trao đổi nội dung khiêu dâm, khuyến khích trẻ giữ bí mật với người thân hoặc thúc đẩy những hành vi không lành mạnh.

Đáng chú ý, đạo luật không chỉ tập trung vào việc kiểm soát nội dung mà còn hướng tới điều chỉnh cách thức thiết kế và vận hành chatbot, qua đó hạn chế khả năng công nghệ AI thao túng tâm lý hoặc tạo sự gắn bó thiếu lành mạnh với người dùng chưa thành niên.

Các nhà phát triển chatbot vi phạm có thể bị Văn phòng Tổng chưởng lý bang khởi kiện. Những biện pháp xử lý được đề cập bao gồm yêu cầu bồi thường thiệt hại về tài chính, đình chỉ hoạt động chatbot và xóa dữ liệu liên quan.

Ông Jim Steyer, người sáng lập kiêm Giám đốc điều hành tổ chức giám sát Common Sense Media, đánh giá đây là một trong những đạo luật mạnh mẽ nhất tại Mỹ nhằm bảo đảm an toàn AI cho trẻ em.

Động thái của New York diễn ra trong bối cảnh nhiều bang tại Mỹ đang đẩy mạnh xây dựng các quy định nhằm kiểm soát những rủi ro phát sinh từ sự phát triển nhanh chóng của AI, đặc biệt đối với nhóm người dùng dễ bị tổn thương như trẻ em và thanh thiếu niên.

Trước đó, tháng 9.2026, Thống đốc bang California Gavin Newsom đã ký ban hành đạo luật yêu cầu các nhà phát triển chatbot đánh giá mức độ rủi ro của hệ thống đối với trẻ em, công khai những biện pháp giảm thiểu nguy cơ và thực hiện kiểm toán độc lập để đánh giá việc tuân thủ quy định.

California cũng ban hành luật hạn chế các nền tảng mạng xã hội triển khai những tính năng có nguy cơ gây nghiện đối với người dùng dưới 16 tuổi.

Bên cạnh đó, đầu tháng 10.2026, tám bang tại Mỹ đã khởi kiện OpenAI, cho rằng chatbot của công ty có dấu hiệu vi phạm các quy định bảo vệ người tiêu dùng, gây ảnh hưởng đến trẻ em và cung cấp thông tin có khả năng gây hiểu lầm cho người trưởng thành.

Những động thái này cho thấy sức ép ngày càng lớn đối với các doanh nghiệp công nghệ trong việc bảo đảm an toàn cho người dùng, thay vì chỉ tập trung phát triển và thương mại hóa sản phẩm AI.

Theo Justine Gluck, nhà phân tích chính sách thuộc Diễn đàn Tương lai về Quyền riêng tư, cách tiếp cận của New York và California có thể trở thành cơ sở tham khảo cho các bang khác trong quá trình xây dựng chính sách quản lý AI.

Justine Gluck nhận định, xu hướng lập pháp đang chuyển từ yêu cầu minh bạch thông tin và thiết lập quy trình xử lý khủng hoảng sang kiểm soát sâu hơn thiết kế và hoạt động của các hệ thống chatbot.

Tuy nhiên, chuyên gia này cũng lưu ý một số quy định trong đạo luật của New York còn được diễn đạt khá rộng, chưa xác định rõ ranh giới giữa phản hồi hội thoại thông thường và hành vi bị cấm.

Điều này có thể gây khó khăn cho quá trình thực thi và đặt ra yêu cầu phải có hướng dẫn cụ thể hơn.

Thực tế, sự phát triển của chatbot AI đang mở ra nhiều cơ hội trong học tập, giải trí và tiếp cận thông tin. Tuy nhiên, trẻ em và thanh thiếu niên chưa có đầy đủ khả năng nhận thức, kinh nghiệm và kỹ năng để đánh giá tính chính xác của thông tin hoặc nhận diện những tương tác có nguy cơ gây tổn hại về tâm lý.

Việc chatbot được thiết kế để duy trì hội thoại liên tục, thể hiện sự đồng cảm hoặc tạo cảm giác gắn bó cá nhân có thể khiến trẻ nhầm lẫn giữa tương tác với máy móc và quan hệ giữa người với người.

Trong bối cảnh đó, việc xây dựng hành lang pháp lý nhằm bảo vệ trẻ em trên môi trường số trở thành yêu cầu cấp thiết.

Các quy định không chỉ cần ngăn chặn nội dung độc hại mà còn phải hướng tới phòng ngừa những thiết kế công nghệ có khả năng khai thác sự non nớt về tâm lý, gây lệ thuộc cảm xúc hoặc ảnh hưởng tiêu cực đến quá trình hình thành nhân cách của trẻ.

Những bước đi của New York và California cho thấy bảo vệ trẻ em đang dần trở thành trọng tâm trong chính sách quản lý AI tại Mỹ. Đồng thời, vấn đề này cũng đòi hỏi các doanh nghiệp công nghệ phải đề cao trách nhiệm xã hội, lấy sự an toàn và lợi ích lâu dài của trẻ em làm nguyên tắc xuyên suốt trong quá trình nghiên cứu, phát triển và cung cấp các sản phẩm trí tuệ nhân tạo.