TikTok và YouTube không thể bảo vệ trẻ em trước nội dung độc hại?

Dữ liệu mới nhất cho thấy tình trạng trẻ em tiếp xúc với các video tiêu cực trên TikTok và YouTube đang lan rộng mạnh mẽ, buộc cơ quan chức năng phải khẩn trương vào cuộc để tìm ra giải pháp quản lý hiệu quả hơn.

Rất nhiều trẻ em nghiện TikTok và YouTube.

Hệ thống kiểm duyệt còn nhiều lỗ hổng của TikTok và YouTube

Ofcom cho biết cả hai công ty công nghệ khổng lồ này đều chưa đưa ra bất kỳ cam kết mới nào đáng kể để làm cho nguồn cấp dữ liệu đề xuất trở nên an toàn hơn. Vấn đề này đặc biệt nghiêm trọng vì bằng chứng thu thập được cho thấy các nguồn cấp dữ liệu tự động chính là con đường chính khiến trẻ em vô tình gặp phải những nội dung xấu. Những thuật toán được thiết kế để giữ chân người dùng càng lâu càng tốt đã vô tình trở thành công cụ phát tán nội dung tiêu cực đến với tâm trí non nớt của giới trẻ.

Chính phủ Anh đang tăng cường nỗ lực nhằm cải thiện mức độ an toàn trực tuyến. Đích thân Thủ tướng Keir Starmer đã lên tiếng yêu cầu các công ty mạng xã hội phải gánh vác trách nhiệm lớn hơn đối với xã hội. Nước Anh cũng đang lấy ý kiến rộng rãi về việc áp dụng các biện pháp kiểm soát chặt chẽ hơn, bao gồm cả khả năng ban hành lệnh cấm người dưới 16 tuổi sử dụng mạng xã hội. Biện pháp này được mô phỏng theo động thái của chính phủ Australia, nhằm giải quyết triệt để những tính năng thiết kế gây nghiện đang hiện diện trên các nền tảng kỹ thuật số.

Nghiên cứu chi tiết của Ofcom phát hiện ra rằng 73% thanh thiếu niên từ 11 đến 17 tuổi đã tiếp xúc với nội dung độc hại trong khoảng thời gian bốn tuần. Phần lớn sự tiếp xúc này diễn ra thông qua các nguồn cấp dữ liệu được cá nhân hóa. Trong số đó, TikTok là nền tảng bị nhắc đến nhiều nhất, tiếp theo là YouTube, ứng dụng Instagram của Meta và ứng dụng Snapchat.

Bất chấp những số liệu đáng báo động đó, đại diện của TikTok và YouTube vẫn khẳng định các hệ thống hiện tại của họ là đủ sức giải quyết vấn đề. Tuy nhiên, cơ quan quản lý thẳng thắn bác bỏ lập luận này, cho rằng bằng chứng thực tế chứng minh các nguồn cấp dữ liệu của họ vẫn chưa đạt mức an toàn cần thiết.

Một người phát ngôn của YouTube chia sẻ rằng công ty luôn cung cấp trải nghiệm chất lượng cao, phù hợp với lứa tuổi cho khán giả nhỏ tuổi và làm việc với các chuyên gia an toàn để hỗ trợ hàng triệu gia đình trên khắp nước Anh. Phía TikTok lại bày tỏ sự thất vọng khi Ofcom không ghi nhận cả những tính năng an toàn lâu năm lẫn những tính năng mới ra mắt của họ, đồng thời cam kết sẽ tiếp tục đầu tư nguồn lực vào các biện pháp bảo vệ người dùng.

Kêu gọi siết chặt luật an toàn trực tuyến

Trái ngược với thái độ của TikTok và YouTube, các nền tảng khác như Snap, Meta và Roblox đều đã đồng ý áp dụng các biện pháp bảo vệ mạnh mẽ hơn sau khi nhận được yêu cầu từ cơ quan quản lý vào tháng trước. Dựa trên các cam kết mới, Snap sẽ mặc định chặn những người trưởng thành xa lạ liên lạc với trẻ em và mở rộng hệ thống kiểm tra độ tuổi tại Anh.

Meta lên kế hoạch đưa ra các biện pháp kiểm soát mới đối với tài khoản của thanh thiếu niên, đồng thời sử dụng các công cụ trí tuệ nhân tạo để nhanh chóng phát hiện các cuộc trò chuyện đáng ngờ. Trong khi đó, Roblox sẽ cấp quyền cho phụ huynh vô hiệu hóa hoàn toàn tính năng nhắn tin trực tiếp đối với người dùng dưới 16 tuổi.

Gần một năm sau khi các nghĩa vụ an toàn trẻ em mới được quy định trong Đạo luật An toàn Trực tuyến chính thức có hiệu lực, Ofcom đánh giá rằng tổng thể mức độ cải thiện trong việc giảm bớt rủi ro tiếp xúc với nội dung xấu của trẻ em vẫn còn rất mờ nhạt. Cơ quan này chỉ ra rằng các nền tảng lớn đang thống trị tuyệt đối hoạt động trực tuyến của giới trẻ. Cụ thể, có tới 67% trẻ em sử dụng YouTube và 60% sử dụng TikTok. Nhìn chung, 95% trẻ em đang sử dụng ít nhất một dịch vụ mạng xã hội hoặc nền tảng chia sẻ video trong đời sống hằng ngày.

Việc thực thi các quy định về độ tuổi tối thiểu cũng bị đánh giá là rất lỏng lẻo. Báo cáo ghi nhận 84% trẻ em từ 8 đến 12 tuổi đang thoải mái sử dụng các dịch vụ có quy định yêu cầu người dùng phải ít nhất 13 tuổi. Ofcom nhận định luật pháp hiện hành không đưa ra yêu cầu đủ rõ ràng buộc các công ty phải loại bỏ hoàn toàn những người dùng chưa đủ tuổi khỏi nền tảng của họ. Vì lý do đó, họ hối thúc chính phủ cần sớm sửa đổi và củng cố hệ thống luật pháp.

Ở một diễn biến khác, mạng xã hội X của ông Elon Musk đã đồng ý tăng cường các biện pháp xử lý đối với những phát ngôn mang tính thù hận bất hợp pháp và nội dung khủng bố. Thỏa thuận này bao gồm việc nền tảng sẽ phải xem xét các tài liệu vi phạm trong thời gian trung bình 24 giờ và chia sẻ dữ liệu hằng quý với cơ quan quản lý.

Mặc dù vậy, Ofcom hiện vẫn tiếp tục kiểm tra hệ thống của X và đặc biệt là công cụ trí tuệ nhân tạo Grok. Động thái này xuất hiện sau khi một báo cáo vào đầu năm nay cho thấy công cụ này có khả năng tạo ra những hình ảnh gợi dục trong nhiều trường hợp, bất chấp những cảnh báo từ phía người dùng.