Deepfake sẽ đe doạ bầu cử Mỹ như thế nào?

Theo báo cáo của Reuters, cuộc bầu cử ở Mỹ diễn ra vào năm 2024 khả năng cao sẽ bị ảnh hưởng bời công nghệ deepfake tinh vi. Sự gia tăng của các công cụ trí tuệ nhân tạo (AI) như Midjourney và FakeYou có thể tạo tạo ra các hình ảnh, video và âm thanh giống như thật đôi khi rất khó phân biệt với thực tế.

Reuters cho biết, hàng nghìn video deepfake về các nhân vật nổi tiếng như Hillary Clinton, Donald Trump đang xuất hiện trên mạng xã hội, xoá bỏ ranh giới giữa sự thật và hư cấu. Công nghệ này đã xuất hiện trước đó, tuy nhiên do những tiến bộ công nghệ gần đây đã khiến việc sử dụng deepfake dễ dàng hơn và giá cả phải chăng hơn. 

Để hiểu rõ hơn về vấn đề tiềm ẩn, Reuters đã thu thập thông tin đầu vào từ khoảng 24 chuyên gia trong các lĩnh vực khác nhau, bao gồm AI, hoạt động chính trị và thông tin sai lệch trực tuyến, để xác định mức độ nghiêm trọng của các vụ giả mạo AI deepfake.

Theo DeepMedia, một công ty đang phát triển các công cụ phát hiện phương tiện tổng hợp, số lượng video và âm thanh sử dụng deep fakes được đăng trực tuyến lần lượt tăng gấp 3 lần và gấp 8 lần so với cùng kỳ năm ngoái. 

Theo ước tính của họ, khoảng 500.000 video và giọng nói giả bị lưu hành trên các nền tản mạng xã hội khắp toàn cầu vào năm 2023. Trước đó, để copy giọng nói người dùng phải chi 10.000 USD cho công ty để máy chủ và AI. Tuy nhiên, hiện tại các start-up hiện cung cấp dịch vụ tương tự với giá chỉ vài USD.

Không ai dám chắc AI tạo sinh sẽ dẫn đến điều gì hay làm thế nào để chống lại khả năng sáng tác thông tin sai sự thật số lượng lớn của nó.

Các cố vấn chính trị cũng muốn tận dụng AI, càng làm rối thêm ranh giới giữa thật và giả. Numinar Analytics, công ty dữ liệu chính trị đã bắt đầu thử nghiệm dùng AI tạo các tin nhắn cá nhân hóa bằng giọng của ứng cử viên. Trong khi đó, công ty khảo sát Honan Strategy muốn phát triển bot khảo sát AI giọng nữ, ra mắt kịp vào cuộc bầu cử thành phố năm 2023.