Meta khắc phục lỗi sau khi Instagram tràn ngập nội dung bạo lực và nhạy cảm

Theo thông tin từ CNBC, nhiều người dùng Instagram đã lên tiếng trên mạng xã hội về hiện tượng liên tục nhận được các đề xuất nội dung mang tính bạo lực hoặc không phù hợp. Một số bài đăng được gắn nhãn "Sensitive Content", hiển thị hình ảnh nhạy cảm, chấn thương nghiêm trọng và các vụ hành hung.

Phát ngôn viên của Meta thừa nhận lỗi và đã có biện pháp khắc phục. "Chúng tôi đã sửa lỗi khiến một số người dùng thấy nội dung trên Reels mà lẽ ra không nên được đề xuất. Chúng tôi xin lỗi về sự cố này," đại diện Meta chia sẻ.

Chính sách kiểm duyệt nội dung của Meta

Theo quy định của Meta, công ty có chính sách kiểm soát nội dung để bảo vệ người dùng khỏi các hình ảnh gây sốc, đồng thời loại bỏ các nội dung vi phạm như hình ảnh mất kiểm soát. Những nội dung có tính chất mỉa mai, chế giễu nạn nhân của các vụ bạo lực cũng nằm trong danh sách cấm.

Tuy nhiên, Meta vẫn cho phép một số nội dung mang tính bạo lực nếu nó được sử dụng để lên án hoặc nâng cao nhận thức về các vấn đề quan trọng như vi phạm nhân quyền, xung đột vũ trang hoặc khủng bố. Những bài đăng này có thể đi kèm với cảnh báo nội dung để người dùng cân nhắc trước khi xem.

Trên trang web chính thức, Meta khẳng định họ sử dụng công nghệ trí tuệ nhân tạo (AI) và máy học kết hợp với đội ngũ hơn 15.000 kiểm duyệt viên để giám sát nội dung. Hệ thống này giúp xác định và loại bỏ phần lớn nội dung vi phạm trước khi người dùng báo cáo.

Tuy nhiên, sự cố vừa qua đặt ra nhiều dấu hỏi về tính hiệu quả của hệ thống kiểm duyệt AI. Dù được thiết kế để tự động quét và gỡ bỏ nội dung vi phạm, nhưng việc hàng loạt hình ảnh phản cảm vẫn lọt qua hệ thống cho thấy lỗ hổng đáng lo ngại. Nhiều chuyên gia nhận định rằng AI vẫn chưa thể thay thế hoàn toàn con người trong việc kiểm soát nội dung, đặc biệt là khi các thuật toán có thể mắc sai sót hoặc bị khai thác bởi những cá nhân có ý đồ xấu.

Thay đổi trong chính sách kiểm duyệt nội dung

Sự cố lần này xảy ra chỉ một tháng sau khi Meta tuyên bố thay đổi phương thức kiểm duyệt nội dung trên nền tảng của mình. Trong tuyên bố ngày 7/1, Meta cho biết họ sẽ điều chỉnh cách thực thi chính sách nhằm giảm thiểu lỗi kiểm duyệt quá mức. Thay vì quét tất cả vi phạm chính sách, hệ thống kiểm duyệt tự động sẽ tập trung vào các hành vi vi phạm nghiêm trọng như khủng bố, bóc lột trẻ em, buôn bán ma túy, gian lận và lừa đảo. Với các vi phạm nhẹ hơn, Meta sẽ dựa vào báo cáo của người dùng trước khi thực hiện các biện pháp xử lý.

Tuy nhiên, việc giảm bớt sự can thiệp của hệ thống kiểm duyệt tự động cũng dẫn đến nguy cơ nội dung nhạy cảm xuất hiện nhiều hơn trước khi bị phát hiện. Một số chuyên gia trong ngành cảnh báo rằng, cách tiếp cận này có thể khiến nền tảng trở nên kém an toàn hơn, đặc biệt là đối với người dùng trẻ tuổi. Ngoài ra, Meta còn đang đối mặt với nhiều áp lực từ các nhà lập pháp và cơ quan quản lý. Nhiều tổ chức đã lên tiếng yêu cầu Meta tăng cường trách nhiệm trong việc kiểm soát nội dung, đặc biệt trong bối cảnh mạng xã hội ngày càng trở thành môi trường lan truyền thông tin sai lệch, nội dung gây hại và kích động bạo lực.

Sự cố lần này một lần nữa làm dấy lên tranh cãi về cách thức kiểm duyệt nội dung của các nền tảng mạng xã hội lớn, khi mà ranh giới giữa kiểm soát nội dung và quyền tự do ngôn luận vẫn là một bài toán chưa có lời giải trọn vẹn.

Hải Anh