AI của Google bị xếp hạng 'Rủi ro không thể chấp nhận' đối với học sinh

Một báo cáo mới từ tổ chức phi lợi nhuận Common Sense Media đã đưa ra cảnh báo mạnh mẽ về các tính năng AI trên Google Search, cho rằng chúng tiềm ẩn "rủi ro không thể chấp nhận được" đối với trẻ em và thanh thiếu niên. Báo cáo cho biết AI của Google không chỉ có thể hoàn thành bài tập thay học sinh mà còn phản hồi chưa nhất quán với các tình huống liên quan đến sức khỏe tâm thần, đồng thời đưa ra hướng dẫn tạo nội dung deepfake có thể bị lạm dụng để bắt nạt trực tuyến.

AI Overview cũng bỏ sót hoặc phản hồi không phù hợp với ý định tự tử gián tiếp, ngay cả khi nhận thức được ngữ cảnh rằng người dùng phải "chủ động thiết lập các tùy chọn khôi phục tài khoản… trong khi [họ] vẫn còn sống " [nhấn mạnh]. Ảnh chụp màn hình nguyên bản tiếng Anh.

AI có thể làm bài tập thay học sinh và phản hồi chưa phù hợp

Theo báo cáo, một trong những vấn đề đáng lo ngại nhất là Chế độ AI (AI Mode) có thể hoàn thành toàn bộ bài tập về nhà theo yêu cầu của học sinh, thay vì hướng dẫn các em tự tìm lời giải hoặc phát triển kỹ năng học tập.

Common Sense Media cho rằng điều này có nguy cơ làm giảm khả năng tư duy độc lập và khiến học sinh phụ thuộc vào AI trong quá trình học tập.

Ngoài giáo dục, nhóm nghiên cứu còn ghi nhận nhiều trường hợp AI phản hồi chưa phù hợp với các truy vấn liên quan đến sức khỏe tâm thần.

Báo cáo cho biết AI của Google không phải lúc nào cũng nhận diện được các dấu hiệu rõ ràng của khủng hoảng tâm lý, bao gồm những biểu hiện liên quan đến ý định tự tử. Trong một số trường hợp, hệ thống còn đưa người dùng đến các diễn đàn trực tuyến hoặc nguồn thông tin không phù hợp thay vì ưu tiên các nguồn hỗ trợ chuyên môn.

Các nhà nghiên cứu cũng phát hiện AI đôi khi đưa ra phản hồi có thể củng cố suy nghĩ hoang tưởng, hoặc xử lý chưa phù hợp với các truy vấn liên quan đến rối loạn ăn uống.

Hướng dẫn tạo deepfake và nhiều câu trả lời thiếu nhất quán

Một phát hiện khác khiến Common Sense Media lo ngại là Tìm kiếm AI (AI Search) đã cung cấp hướng dẫn tạo deepfake trong một số truy vấn thử nghiệm.

Theo tổ chức này, những hướng dẫn như vậy có thể bị lợi dụng để tạo nội dung giả mạo phục vụ hành vi quấy rối hoặc bắt nạt trực tuyến, đặc biệt khi người sử dụng là thanh thiếu niên.

Báo cáo nhấn mạnh vấn đề không chỉ nằm ở một vài câu trả lời sai, mà ở tính không nhất quán của AI tạo sinh. Với cùng một loại truy vấn, AI có thể đưa ra các phản hồi khác nhau ở những thời điểm khác nhau, khiến phụ huynh và nhà trường khó dự đoán cũng như kiểm soát những gì học sinh sẽ nhận được.

75% trẻ em Mỹ đã sử dụng AI trong Google Search

Những cảnh báo trên càng đáng chú ý khi AI của Google đang được tiếp cận rất rộng rãi.

Theo khảo sát của Common Sense Media công bố đầu năm nay, 75% trẻ em Mỹ từ 9-17 tuổi cho biết đã sử dụng các bản tóm tắt do AI tạo ra xuất hiện trong kết quả tìm kiếm.

Ông Robbie Torney, Trưởng bộ phận AI và Đánh giá kỹ thuật số của Viện An toàn AI dành cho Thanh thiếu niên, cho biết đây là tính năng được Google bật mặc định, đồng thời các công cụ của Google hiện đã được triển khai tại hàng nghìn trường học trên thế giới. Điều đó đồng nghĩa nhiều học sinh tiếp xúc với AI Search mà không chủ động lựa chọn sử dụng.

Theo Common Sense Media, hiện phụ huynh và các trường học cũng không thể vô hiệu hóa hoàn toàn AI Overview và AI Mode trên Google Search, khiến việc hạn chế học sinh tiếp cận các câu trả lời do AI tạo ra trở nên khó khăn hơn.

Google bác bỏ kết luận

Google không đồng tình với kết quả đánh giá của Common Sense Media.

Đại diện công ty cho rằng nghiên cứu sử dụng một tập hợp truy vấn "mơ hồ và gượng ép", không phản ánh cách người dùng thực tế sử dụng Google Search, nên không phải là phương pháp phù hợp để đánh giá mức độ an toàn và hữu ích của sản phẩm.

Google cũng khẳng định các tính năng AI Search đã được bổ sung nhiều lớp bảo vệ dành cho trẻ em và sẽ hạn chế hoặc từ chối phản hồi trong nhiều trường hợp có nguy cơ gây hại.

Dù còn nhiều tranh cãi, báo cáo của Common Sense Media tiếp tục làm nóng cuộc thảo luận về việc AI tạo sinh đang được tích hợp ngày càng sâu vào các công cụ tìm kiếm phổ biến.

Khi hàng triệu học sinh coi Google Search là điểm khởi đầu cho việc học tập và tra cứu thông tin, các chuyên gia cho rằng yêu cầu về độ chính xác, tính nhất quán và các cơ chế bảo vệ trẻ em sẽ ngày càng trở thành yếu tố then chốt đối với các nền tảng AI.