Anh cân nhắc siết chặt quản lý chatbot AI để bảo vệ trẻ em

Các bộ trưởng Anh đang xem xét siết chặt quy định đối với chatbot AI trong bối cảnh lo ngại ngày càng tăng rằng các hệ thống này có thể gây hại cho trẻ em. Bộ trưởng Công nghệ Liz Kendall cho biết bà đặc biệt quan ngại về khả năng trẻ nhỏ hình thành những mối quan hệ không lành mạnh với các chatbot do trí tuệ nhân tạo tạo ra - một rủi ro chưa được quản lý đầy đủ theo khuôn khổ hiện hành.

Hiện nay, một số ứng dụng AI vẫn nằm ngoài phạm vi điều chỉnh của Đạo luật An toàn Trực tuyến. Vì vậy, bà Kendall đang xem xét các phương án để bổ sung những mô hình này vào khuôn khổ pháp lý.

Đạo luật, được thông qua năm 2023 và có hiệu lực trong năm nay, yêu cầu các nền tảng phải xác minh độ tuổi người dùng trước khi họ tiếp cận nội dung dành cho người lớn, đồng thời cho phép cơ quan quản lý giám sát cách các công ty xử lý nội dung bất hợp pháp hoặc nội dung có thể gây hại cho trẻ em.

Trình bày trước Ủy ban Khoa học và Công nghệ của Hạ viện, bà Kendall khẳng định chính phủ sẽ hành động để lấp đầy các khoảng trống pháp lý. Bà nhấn mạnh nếu cần thêm quy định để bảo vệ trẻ em, chính phủ sẵn sàng triển khai ngay. Những lo ngại này trở nên cấp bách hơn sau cái chết của Sewell Setzer III, 14 tuổi, vào năm ngoái. Gia đình cho rằng việc em tương tác với một chatbot mô phỏng nhân vật trong Game of Thrones có thể đã góp phần dẫn tới bi kịch.

Các bộ trưởng Anh đang xem xét siết chặt quy định đối với chatbot AI trong bối cảnh lo ngại ngày càng tăng rằng các hệ thống này có thể gây hại cho trẻ em. Ảnh: UNICEF

Bên cạnh đó, bà Kendall cho rằng cơ chế bảo vệ trẻ em trên một số nền tảng lớn vẫn chưa đủ mạnh. Bà sẽ đề nghị cơ quan quản lý truyền thông Ofcom làm rõ kỳ vọng đối với các chatbot thuộc phạm vi của Đạo luật An toàn Trực tuyến, bảo đảm trẻ em được bảo vệ nhất quán giữa các nền tảng. Chính phủ cũng lên kế hoạch triển khai chiến dịch cung cấp thông tin cho công chúng vào đầu năm tới nhằm nâng cao nhận thức về rủi ro AI đối với trẻ vị thành niên.

Trong khi các rủi ro đối với trẻ em là mối quan tâm hàng đầu, các nghiên cứu gần đây cũng chỉ ra những hệ quả đáng lo ngại đối với người trưởng thành, đặc biệt trong các lĩnh vực tài chính, thuế và bảo hiểm. Tổ chức bảo vệ người tiêu dùng Which? cho biết nhiều chatbot phổ biến đã đưa ra các hướng dẫn thiếu chính xác, trong đó có việc gợi ý người dùng vi phạm giới hạn đầu tư ISA của HMRC, khuyến nghị mua bảo hiểm du lịch không cần thiết hoặc cung cấp thông tin sai về thủ tục bồi thường chuyến bay.

Which? cảnh báo một số công cụ AI còn đưa ra nội dung có thể khiến người dùng gặp rủi ro tranh chấp hợp đồng. Khảo sát 40 câu hỏi với nhiều hệ thống AI đã ghi nhận tỷ lệ đáng kể câu trả lời sai hoặc gây hiểu lầm, đặc biệt trong các vấn đề tài chính hoặc pháp lý - nơi người dùng dễ dựa vào lời khuyên mà không kiểm chứng.

Trên thực tế, người dân Anh và Ireland đang ngày càng sử dụng AI cho các quyết định cá nhân như quản lý chi tiêu, lựa chọn thẻ tín dụng, giảm phí đầu tư hay mua thiết bị gia dụng. Một số người nhận được thông tin hữu ích, nhưng cũng có trường hợp gặp dữ liệu lỗi thời.

Bà Kathryn Boyd, 65 tuổi, sống tại Ireland, cho biết bà nhờ chatbot tư vấn mã số thuế tự kinh doanh nhưng nhận được thông tin đã hết hiệu lực, buộc bà phải sửa lại nhiều lần.

Nhiều công ty công nghệ cho biết họ đang nỗ lực cải thiện độ chính xác của các mô hình AI. Đại diện Google cho hay hệ thống Gemini luôn nhắc người dùng kiểm tra lại thông tin và tham khảo ý kiến chuyên gia khi xử lý những vấn đề pháp lý, tài chính hoặc y tế. Microsoft cũng khuyến cáo người dùng xác minh dữ liệu trước khi áp dụng. Đại diện OpenAI cho biết độ chính xác là ưu tiên chung của toàn ngành và cho rằng GPT 5.1 là phiên bản thông minh nhất mà họ từng phát triển. Meta cũng đã được liên hệ để phản hồi.

Trong thời gian tới, chính phủ, quốc hội và các cơ quan quản lý dự kiến sẽ tiếp tục thảo luận để cập nhật khung pháp lý, bảo đảm theo kịp sự phát triển nhanh của trí tuệ nhân tạo và hạn chế tối đa rủi ro đối với trẻ em - nhóm được bảo vệ trước tiên -và đối với cộng đồng người dùng rộng hơn.

Tùng Lâm (Theo Financial Times, CNN)