Ấn Độ siết gọng kìm quản lý AI trên các nền tảng mạng xã hội

Trong một động thái sửa đổi luật được công bố vào đầu tuần qua, New Delhi đã chính thức yêu cầu các nền tảng mạng xã hội phải dán nhãn nhận diện đối với các nội dung AI, đồng thời rút ngắn thời gian bắt buộc phải gỡ bỏ các nội dung vi phạm pháp luật xuống còn vỏn vẹn 3 giờ kể từ khi nhận được thông báo từ cơ quan chức năng.

Ấn Độ muốn kiểm soát chặt mạng xã hội trước làn sóng AI

Quy định mới này thay thế cho khung thời gian 36 giờ vốn đã được coi là khá chặt chẽ trước đây, đặt các gã khổng lồ công nghệ như Google, Meta và X vào một tình thế "tiến thoái lưỡng nan" với áp lực tuân thủ cực lớn. Các chuyên gia nhận định rằng đây là một trong những quy định khắt khe nhất trên thế giới hiện nay, phản ánh nỗi lo ngại sâu sắc của quốc gia tỷ dân trước làn sóng tin giả và deepfake đang bùng nổ không kiểm soát.

Cuộc chạy đua với thời gian và những rào cản kỹ thuật vô hình

Quyết định rút ngắn thời gian xử lý từ hơn một ngày xuống chỉ còn vài tiếng đồng hồ không phải là một thay đổi ngẫu hứng, mà xuất phát từ thực tế đáng báo động về tốc độ lan truyền của thông tin xấu độc. Theo các nghiên cứu gần đây, thời gian cần thiết để tạo ra và phát tán các nội dung giả mạo, bao gồm cả hình ảnh khiêu dâm không đồng thuận (deepfake porn), đã giảm đi đáng kể nhờ sự hỗ trợ của các ứng dụng AI tiên tiến. Đối với nạn nhân, đặc biệt là tại một quốc gia có kết cấu xã hội truyền thống và coi trọng danh dự như Ấn Độ, mỗi phút trôi qua khi nội dung xấu còn tồn tại trên mạng đều có thể gây ra những hậu quả không thể cứu vãn.

Nikhil Pahwa, nhà sáng lập trang tin chính sách công nghệ Medianama, đã chỉ ra một thực tế đau lòng rằng tại các thị trấn nhỏ ở Ấn Độ, tác động của những hình ảnh nhạy cảm bị phát tán trái phép có thể hủy hoại hoàn toàn danh tiếng và thậm chí đe dọa đến sự an toàn tính mạng của nạn nhân. Dưới góc độ bảo vệ người dùng, ngay cả con số 3 giờ đồng hồ cũng có thể bị coi là quá dài khi tốc độ chia sẻ trên mạng xã hội là tức thời. Chính sức ép từ dư luận và các vụ việc nghiêm trọng liên quan đến deepfake đã thúc đẩy chính phủ phải hành động mạnh tay hơn để bảo vệ công dân của mình.

Tuy nhiên, thách thức không chỉ nằm ở tốc độ gỡ bỏ mà còn nằm ở khả năng nhận diện và dán nhãn nội dung. Chính phủ Ấn Độ trước đó đã từng đề xuất một quy tắc cứng nhắc yêu cầu dán nhãn AI nếu nội dung có ít nhất 10% yếu tố nhân tạo. Tuy nhiên, sau khi tham vấn với các giám đốc điều hành trong ngành, quy định này đã được nới lỏng thành yêu cầu dán nhãn "nổi bật" để linh hoạt hơn. Mặc dù vậy, việc thiếu vắng một tiêu chuẩn kỹ thuật chung hay một ngôn ngữ kỹ thuật chia sẻ giữa các nền tảng đang biến yêu cầu này thành một bài toán nan giải.

Dhruv Garg, chuyên gia tại Dự án Chính sách và Quản trị Ấn Độ, nhận định rằng sự không tương thích về dữ liệu meta giữa các trình tạo nội dung và các nền tảng mạng xã hội sẽ khiến việc dán nhãn tự động và phát hiện vi phạm trở nên vô cùng khó khăn. Các công ty công nghệ giờ đây buộc phải tự mình xây dựng các biện pháp kỹ thuật để phân biệt giữa nội dung thiện chí – vốn được phép chia sẻ – và các nội dung gây hại, một ranh giới vốn rất mong manh và đầy tính chủ quan.

Một trong những động lực chính dẫn đến sự ra đời của các quy định mới này được cho là xuất phát từ sự cố liên quan đến mô hình Grok AI của Elon Musk trên nền tảng X. Việc công cụ này bị lợi dụng để tạo ra hàng loạt hình ảnh khiêu dâm không đồng thuận đã khiến chính phủ Ấn Độ tức giận và ra lệnh chặn các nội dung này vào tháng trước. Quy định mới giờ đây yêu cầu các nền tảng phải chủ động ngăn chặn người dùng tạo ra các nội dung AI vi phạm pháp luật Ấn Độ, bao gồm quấy rối tình dục hay hướng dẫn chế tạo chất nổ. Điều này đồng nghĩa với việc trách nhiệm kiểm duyệt không còn chỉ nằm ở khâu hậu kiểm (gỡ bỏ) mà phải được thực hiện ngay từ khâu tiền kiểm (ngăn chặn tạo ra), đặt lên vai các nền tảng một gánh nặng công nghệ khổng lồ.

Áp lực tuân thủ và nguy cơ của sự vội vã

Việc áp đặt khung thời gian 3 giờ cho việc gỡ bỏ nội dung đang gây ra những lo ngại sâu sắc về tính khả thi và tác động tiêu cực đến quyền tự do ngôn luận. Tarun Pathak, Giám đốc nghiên cứu tại Counterpoint Research, đã so sánh quy định này với tiêu chuẩn 24 giờ của Liên minh châu Âu (EU) để thấy rõ sự "hung hăng" trong cách tiếp cận của Ấn Độ. Trong khi EU dành cho các nền tảng một khoảng thời gian đủ dài để xem xét và đánh giá tính hợp pháp của yêu cầu gỡ bỏ, thì Ấn Độ dường như đang đặt ưu tiên tuyệt đối vào tốc độ hành động.

Bối cảnh lịch sử cũng cho thấy mối quan hệ "cơm không lành, canh không ngọt" giữa các nền tảng mạng xã hội và chính quyền New Delhi. Trong nửa đầu năm 2025, nền tảng X của Elon Musk đã nhận được tới 29.118 yêu cầu gỡ bỏ nội dung từ chính phủ và đã từng lôi nhau ra tòa để tranh cãi về tính hợp pháp của các yêu cầu này. Cùng thời kỳ, Meta cũng đã hạn chế quyền truy cập đối với 28.000 nội dung dựa trên luật pháp địa phương, con số cao nhất trong ít nhất 12 năm qua. Những con số này cho thấy khối lượng công việc kiểm duyệt là khổng lồ, và việc ép tiến độ xử lý xuống còn 3 giờ có thể dẫn đến sự quá tải hệ thống.

Hệ quả nhãn tiền của quy định này là các nền tảng sẽ không còn đủ thời gian để suy nghĩ hay xác minh xem một yêu cầu gỡ bỏ có thực sự hợp pháp hay tuân thủ các quy tắc cộng đồng của chính họ hay không. Khi đứng trước nguy cơ bị phạt nặng hoặc chịu trách nhiệm pháp lý hình sự, phản ứng tự nhiên của các công ty công nghệ sẽ là "thà giết nhầm còn hơn bỏ sót".

Họ sẽ chỉ có đủ thời gian để hành động theo mệnh lệnh thay vì thực hiện quy trình thẩm định nội dung kỹ lưỡng. Điều này, theo nhà báo Nikhil Pahwa, sẽ tước đi khả năng tự bảo vệ của các nền tảng và có thể dẫn đến việc kiểm duyệt thái quá, ảnh hưởng đến quyền tiếp cận thông tin đa chiều của người dùng.

Quy định mới của Ấn Độ là một phép thử lớn đối với khả năng thích ứng của các tập đoàn công nghệ toàn cầu trong bối cảnh chủ quyền số ngày càng được đề cao. Trong khi mục tiêu bảo vệ người dùng khỏi các nội dung độc hại là hoàn toàn chính đáng, cách thức thực hiện có phần cực đoan này đang đặt ra câu hỏi lớn về sự cân bằng giữa an ninh mạng và tự do internet. Các nền tảng giờ đây sẽ phải chạy đua với thời gian theo đúng nghĩa đen, và trong cuộc đua 3 giờ đồng hồ đó, rủi ro về sai sót kỹ thuật và pháp lý là điều khó tránh khỏi.

Bùi Tú