ChatGPT bị nghi tiếp tay phát tán thông tin sai lệch, chuyên gia nói gì?

Các nhà nghiên cứu lo ngại rằng khi ChatGPT rơi vào tay kẻ xấu có thể tạo ra thông tin sai lệch với quy mô lớn.

Chatbot AI ChatGPT đang trở thành chủ đề thảo luận trên khắp thế giới. Chỉ trong vòng 2 tháng ra mắt, công cụ này đã đạt 100 triệu người dùng và trở thành ứng dụng đạt được thành tích này nhanh nhất, theo dữ liệu từ UBS.

Chatbot AI ChatGPT đang trở thành chủ đề thảo luận trên khắp thế giới. Chỉ trong vòng 2 tháng ra mắt, công cụ này đã đạt 100 triệu người dùng và trở thành ứng dụng đạt được thành tích này nhanh nhất, theo dữ liệu từ UBS.

Người dùng bị thu hút bởi các khả năng đưa ra các câu trả lời hoàn chỉnh trong nhiều lĩnh vực của chatbot này. Điều này cũng làm dấy lên lo ngại về việc liệu ChatGPT có thay thế được con người hay không.

Người dùng bị thu hút bởi các khả năng đưa ra các câu trả lời hoàn chỉnh trong nhiều lĩnh vực của chatbot này. Điều này cũng làm dấy lên lo ngại về việc liệu ChatGPT có thay thế được con người hay không.

Sau khi ChatGPT ra mắt, các nhà nghiên cứu đã hỏi những câu hỏi có nhiều thuyết âm mưu và lời kể sai sự thật để kiểm tra chatbot này sẽ đưa ra những câu trả lời như thế nào. Kết quả, phần trả lời do ChatGPT đưa ra - dưới dạng bài báo, tiểu luận, kịch bản truyền hình - lộn xộn đến mức các nhà nghiên cứu không thể phân tích nổi.

Sau khi ChatGPT ra mắt, các nhà nghiên cứu đã hỏi những câu hỏi có nhiều thuyết âm mưu và lời kể sai sự thật để kiểm tra chatbot này sẽ đưa ra những câu trả lời như thế nào. Kết quả, phần trả lời do ChatGPT đưa ra - dưới dạng bài báo, tiểu luận, kịch bản truyền hình - lộn xộn đến mức các nhà nghiên cứu không thể phân tích nổi.

Gordon Crovitz, đồng giám đốc điều hành của NewsGuard (công ty theo dõi thông tin sai lệch trên mạng) đã tiến hành một thử nghiệm tương tự vào tháng trước. Ông nhận định sản phẩm của công ty OpenAI sẽ trở thành công cụ phát tán thông tin sai lệch mạnh nhất từng có trên Internet.

Gordon Crovitz, đồng giám đốc điều hành của NewsGuard (công ty theo dõi thông tin sai lệch trên mạng) đã tiến hành một thử nghiệm tương tự vào tháng trước. Ông nhận định sản phẩm của công ty OpenAI sẽ trở thành công cụ phát tán thông tin sai lệch mạnh nhất từng có trên Internet.

"Việc tạo ra một câu chuyện sai lệch giờ đây có thể được thực hiện ở quy mô lớn và tần suất thường xuyên hơn nhiều. Giống như việc có cả một 'đại lý AI' để đóng góp cho những thông tin sai lệch đó", ông Crovitz nói.

"Việc tạo ra một câu chuyện sai lệch giờ đây có thể được thực hiện ở quy mô lớn và tần suất thường xuyên hơn nhiều. Giống như việc có cả một 'đại lý AI' để đóng góp cho những thông tin sai lệch đó", ông Crovitz nói.

Các nhà nghiên cứu cho biết các chatbot real-time được cá nhân hóa và có thể chia sẻ các thuyết âm mưu theo những cách ngày càng đáng tin và thuyết phục hơn. Chúng có thể xóa đi những nỗi lo ngại như dịch sai, viết sai ngữ pháp... Họ cũng nói rằng không có chiến thuật nào có thể chống lại vấn đề này một cách hiệu quả.

Các nhà nghiên cứu cho biết các chatbot real-time được cá nhân hóa và có thể chia sẻ các thuyết âm mưu theo những cách ngày càng đáng tin và thuyết phục hơn. Chúng có thể xóa đi những nỗi lo ngại như dịch sai, viết sai ngữ pháp... Họ cũng nói rằng không có chiến thuật nào có thể chống lại vấn đề này một cách hiệu quả.

Năm 2016, Microsoft giới thiệu một chatbot tên là Tay. Nhưng chỉ 24 giờ sau khi ra mắt, công ty đã phải cho Tay tạm dừng hoạt động vì nhiều người phá rối đã cố dạy Tay những lời lẽ phân biệt chủng tộc và bài ngoại.

Năm 2016, Microsoft giới thiệu một chatbot tên là Tay. Nhưng chỉ 24 giờ sau khi ra mắt, công ty đã phải cho Tay tạm dừng hoạt động vì nhiều người phá rối đã cố dạy Tay những lời lẽ phân biệt chủng tộc và bài ngoại.

Sau 6 năm, ChatGPT ra đời nhưng mạnh mẽ và tinh vi hơn nhiều. Dù người dùng cung cấp những câu hỏi chứa đầy thông tin sai lệch, ChatGPT vẫn có thể tạo ra những biến thể đầy thuyết phục trong vòng vài giây mà không tiết lộ nguồn.

Sau 6 năm, ChatGPT ra đời nhưng mạnh mẽ và tinh vi hơn nhiều. Dù người dùng cung cấp những câu hỏi chứa đầy thông tin sai lệch, ChatGPT vẫn có thể tạo ra những biến thể đầy thuyết phục trong vòng vài giây mà không tiết lộ nguồn.

Thực tế từ lâu, các nhà nghiên cứu của OpenAI đã lo lắng về việc chatbot rơi vào tay kẻ xấu.

Thực tế từ lâu, các nhà nghiên cứu của OpenAI đã lo lắng về việc chatbot rơi vào tay kẻ xấu.

Vào năm 2020, các nhà nghiên cứu tại Viện Nghiên cứu Quốc tế Middlebury cũng phát hiện GPT-3, công nghệ cơ sở của ChatGPT, có kiến thức sâu rộng về các cộng đồng cực đoan và có thể được thúc đẩy để tạo ra các cuộc luận chiến, các chủ đề thảo luận về Đức Quốc xã, thậm chí tạo ra các văn bản cực đoan đa ngôn ngữ.

Vào năm 2020, các nhà nghiên cứu tại Viện Nghiên cứu Quốc tế Middlebury cũng phát hiện GPT-3, công nghệ cơ sở của ChatGPT, có kiến thức sâu rộng về các cộng đồng cực đoan và có thể được thúc đẩy để tạo ra các cuộc luận chiến, các chủ đề thảo luận về Đức Quốc xã, thậm chí tạo ra các văn bản cực đoan đa ngôn ngữ.

Một số chuyên gia tin rằng, ChatGPT là điểm bùng phát của AI, đưa công nghệ này trở thành công cụ thay đổi cách con người làm việc, học tập và thậm chí là suy nghĩ. Bất chấp những lợi ích tiềm năng của công cụ này, OpenAI vẫn là một công ty tư nhân vì lợi nhuận.

Một số chuyên gia tin rằng, ChatGPT là điểm bùng phát của AI, đưa công nghệ này trở thành công cụ thay đổi cách con người làm việc, học tập và thậm chí là suy nghĩ. Bất chấp những lợi ích tiềm năng của công cụ này, OpenAI vẫn là một công ty tư nhân vì lợi nhuận.

Giáo sư Uri Gal tại Đại học Sydney (Úc) cho biết: "Những mối đe dọa đi kèm ChatGPT nên được coi là hồi chuông cảnh báo về bảo mật riêng tư, người dùng cần cẩn trọng với những gì họ chia sẻ trên những công cụ như chatbot này".

Giáo sư Uri Gal tại Đại học Sydney (Úc) cho biết: "Những mối đe dọa đi kèm ChatGPT nên được coi là hồi chuông cảnh báo về bảo mật riêng tư, người dùng cần cẩn trọng với những gì họ chia sẻ trên những công cụ như chatbot này".

Xem thêm video: ChatGPT, trí tuệ nhân tạo, nhiều ngành nghề sẽ trở nên lỗi thời. Nguồn: Kienthucnet.

Thiên Trang (TH)

Nguồn Tri Thức & Cuộc Sống: https://kienthuc.net.vn/khoa-hoc-cong-nghe/chatgpt-bi-nghi-tiep-tay-phat-tan-thong-tin-sai-lech-chuyen-gia-noi-gi-1806336.html