Deepfakes là gì - và làm thế nào bạn có thể phát hiện ra chúng?

Deepfake là gì?

Bạn đã từng thấy Barack Obama gọi Donald Trump là “đồ nhảm nhí ”, hay Mark Zuckerberg khoe khoang về việc có “ toàn quyền kiểm soát hàng tỷ dữ liệu bị đánh cắp của mọi người ”, hay chứng kiến lời xin lỗi xúc động của Jon Snow vì cái kết ảm đạm của Game of Thrones? Câu trả lời của thế kỷ 21 chính là công nghệ deepfake. Vậy deepfake được tạo ra như thế nào?

Deepfakes ra đời vào năm 2017 khi một người dùng Reddit có cùng tên đăng các clip khiêu dâm được kiểm duyệt lên trang web. Các video đã hoán đổi khuôn mặt của những người nổi tiếng - Gal Gadot, Taylor Swift, Scarlett Johansson và những người khác - thành những người biểu diễn khiêu dâm. 

Cần một vài bước để tạo một video hoán đổi khuôn mặt. Đầu tiên, bạn chạy hàng nghìn bức ảnh chụp khuôn mặt của hai người thông qua một thuật toán AI được gọi là bộ mã hóa. Bộ mã hóa tìm và học các điểm tương đồng giữa hai khuôn mặt và giảm xuống các đặc điểm chung được chia sẻ của chúng, nén hình ảnh trong quá trình này. Thuật toán AI thứ hai được gọi là bộ giải mã sau đó được dạy để khôi phục các khuôn mặt từ các hình ảnh đã nén. Vì các khuôn mặt khác nhau, bạn tạo một bộ giải mã để khôi phục khuôn mặt của người đầu tiên và một bộ giải mã khác để khôi phục khuôn mặt của người thứ hai.

Tại sao Deepfakes lại nguy hiểm?

Nếu chúng ta quên thực tế rằng có hơn 30 quốc gia tích cực tham gia vào chiến tranh mạng bất cứ lúc nào. Mối quan tâm hàng đầu với những trò lừa đảo có thể là những thứ như trang web Deepnudes, nơi khuôn mặt của người nổi tiếng và khuôn mặt của phụ nữ bình thường có thể bị ghép lên ảnh hoặc video khiêu dâm.

 Người sáng lập của Deepnudes cuối cùng đã hủy bỏ việc ra mắt trang web, vì lo ngại “xác suất người dùng sai mục đích là quá cao”. 

Nhiều nội dung khiêu dâm. Công ty AI Deeptrace đã tìm thấy 15.000 video deepfake trực tuyến vào tháng 9 năm 2019, tăng gần gấp đôi trong vòng 9 tháng. Một con số đáng kinh ngạc 96% là phim khiêu dâm và 99% trong số đó được deepfake từ những người nổi tiếng nữ đến các ngôi sao khiêu dâm. Khi các kỹ thuật mới cho phép những người không có kinh nghiệm tạo ra những bức ảnh fake bằng một số ảnh real, các video giả mạo có khả năng lan rộng ra ngoài thế giới. Như Danielle Citron, một giáo sư luật tại Đại học Boston, đã nói: “Công nghệ Deepfake đang được vũ khí hóa để chống lại phụ nữ”. Ngoài nội dung khiêu dâm ra, còn có rất nhiều nội dung giả mạo, châm biếm và đùa giỡn.

Làm thế nào để bạn phát hiện ra một deepfake?

Nó trở nên khó hơn khi công nghệ được cải thiện. Vào năm 2018, các nhà nghiên cứu Hoa Kỳ đã phát hiện ra rằng khuôn mặt trong ảnh fake không nhấp nháy mắt như người bình thường. Không có gì ngạc nhiên ở đó: phần lớn các hình ảnh cho thấy mọi người đang mở mắt, vì vậy các thuật toán không thể giúp người trong ảnh chớp mắt. Ban đầu, đây có vẻ như một viên đạn bạc phá huỷ deepfake. Nhưng không lâu sau khi nghiên cứu được công bố, deepfakes xuất hiện chỉ bằng một cái chớp mắt. Đó là bản chất của trò chơi: ngay sau khi một điểm yếu được tiết lộ, nó sẽ được sửa chữa.

Một số lỗi nhỏ kém chất lượng cũng bị phát hiện. Phần hát nhép có thể không tốt hoặc màu da loang lổ. Có thể có nhấp nháy xung quanh các cạnh của các mặt được chuyển vị. Và các chi tiết nhỏ, chẳng hạn như tóc, đặc biệt khó để các chi tiết sâu có thể hiển thị tốt, đặc biệt là ở những nơi có thể nhìn thấy các sợi trên rìa. 

Làm gì để chống lại Deepfakes?

Mùa hè năm ngoái, Ủy ban Tình báo của Hạ viện Hoa Kỳ đã gửi một lá thư tới Twitter, Facebook và Google để hỏi cách các trang web truyền thông xã hội lên kế hoạch chống lại deepfakes trong cuộc bầu cử năm 2020. 

Đầu năm nay, Facebook đã thực hiện một bước tích cực trong việc cấm deepfakes. Trong một bài đăng trên blog ngày 6 tháng 1 năm 2020 , Monika Bickert, phó chủ tịch quản lý chính sách toàn cầu của Facebook, đã viết rằng công ty đang thực hiện những nỗ lực mới để "loại bỏ các phương tiện truyền thông bị thao túng gây hiểu lầm."

Tuy nhiên, các video châm biếm và nhại lại vẫn an toàn, cũng như các video đã được chỉnh sửa chỉ để bỏ qua hoặc thay đổi thứ tự của các từ. Điều đó có nghĩa là phương tiện được chế tác vẫn có thể lọt qua các lỗ hổng. Đáng chú ý, TikTok và Twitter cũng có chính sách tương tự.

Deepfakes có luôn độc hại không?

Không hoàn toàn là độc hại.  Một số là giải trí, tuy nhiên một số thì hữu ích. Kỹ thuật nhân bản giọng nói có thể khôi phục giọng nói của con người khi họ mất đi vì bệnh tật. Video Deepfake có thể làm sống động các phòng trưng bày và bảo tàng. Ở Florida, bảo tàng Dali có một bức ảnh sâu về họa sĩ siêu thực, người giới thiệu nghệ thuật của mình và chụp ảnh selfie với du khách . Đối với ngành giải trí, công nghệ có thể được sử dụng để cải thiện việc lồng tiếng cho phim cần sub, và gây tranh cãi hơn là hồi sinh các diễn viên đã chết. Ví dụ, James Dean quá cố là do đóng vai chính trong Finding Jack, một bộ phim chiến tranh Việt Nam.