Hiện tại nhiều bằng chứng cho thấy các tài khoản có liên kết với chính phủ Trung Quốc đăng tại hình ảnh sai lệch do AI tạo ra nhằm ảnh hưởng đến bầu cử.
Lần thứ hai chỉ trong hơn sáu tháng, Microsoft lại cảnh báo về việc Trung Quốc đang sử dụng trí tuệ nhân tạo (AI) nhằm đưa những thông tin sai lệch trong quá trình bầu cử tại Mỹ.
Công ty cũng cho rằng các nhóm được hậu thuẫn bởi chính phủ, đồng thời có sự ủng hộ từ Triều Tiên, cũng sẽ tập trung vào các cuộc bầu cử tại Hàn Quốc và Ấn Độ. Trước đó, trong cuộc bầu cử tổng thống ở Đài Loan vào tháng 1, các nhóm này đã triển khai một chiến dịch tương tự.
Báo cáo của Microsoft nhấn mạnh rằng Trung Quốc đã tiếp tục cải thiện nội dung tạo ra bằng AI, bao gồm video, meme, âm thanh và nhiều loại nội dung khác. Dù tác động của chúng có thể chưa lớn ở thời điểm hiện tại, nhưng có thể trở nên nguy hiểm hơn trong tương lai.
Microsoft cũng đã nhấn mạnh về một số nội dung giả mạo được tạo ra bằng AI, như các tuyên bố không chính xác về chính trị và các vấn đề khác. Điều này bao gồm cả việc đăng tải những video, meme và thông tin giả mạo để tạo ra sự xáo trộn trong dư luận và ảnh hưởng đến kết quả của cuộc bầu cử.
Việc sử dụng trí tuệ nhân tạo để tạo ra thông tin sai lệch là một thách thức lớn trong việc chống lại sự lan truyền tin tức giả mạo, đặc biệt là khi mọi người khó lòng phân biệt được thông tin thật và thông tin giả mạo, đặc biệt khi nó phù hợp với niềm tin và giá trị của họ.