Meta bắt đầu quét và gắn nhãn hình ảnh do AI tạo ra

Sự phát triển của AI sáng tạo ngày càng tiên tiến và dễ tiếp cận đã dẫn đến nhiều hệ lụy, đặc biệt là việc xuất hiện tràn lan các hình ảnh giả mạo trên mạng xã hội. Những hình ảnh này có thể được sử dụng để truyền bá thông tin sai lệch, gây hại cho danh tiếng của một người nào đó hoặc thậm chí là để lừa đảo người dùng.

Để giải quyết vấn đề này, Meta đã công bố kế hoạch phát hiện và gắn nhãn các hình ảnh AI được đăng tải trên các nền tảng của mình, bao gồm Facebook, Instagram và Threads. Việc gắn nhãn này sẽ giúp người dùng nhận biết được hình ảnh nào là do AI tạo ra và có thể cảnh giác trước những thông tin sai lệch tiềm ẩn.

Nick Clegg, Chủ tịch phụ trách các vấn đề toàn cầu của Meta cho biết: "Meta sẽ gắn nhãn các hình ảnh được tạo bởi công cụ AI với nhãn "Được tưởng tượng bằng AI" cho phép người dùng phân biệt được đâu là hình thật đâu là hình được tạo bởi AI."

Các hình ảnh được tạo ra trên các dịch vụ của OpenAI, Microsoft, Adobe, Midjourney, Shutterstock và Google của Alphabet cũng sẽ được Meta dán nhãn sau khi hệ thống mới được thiết lập và đi vào hoạt động.

Meta hiện đang xây dựng khả năng xác định hình ảnh do AI tạo ra và sẽ bắt đầu áp dụng nhãn bằng tất cả các ngôn ngữ trên các ứng dụng của mình trong những tháng tới.

Clegg cho biết việc xác định nội dung âm thanh và video do AI tạo ra ngày càng khó khăn hơn vì các công cụ ngày càng trở nên tinh vi. Tuy nhiên, Meta đang bổ sung một tính năng cho phép người dùng khai báo các nội dung video hoặc âm thanh do AI tạo ra để công ty có thể thêm nhãn vào đó. 

Ngoài việc cho phép người dùng tự khai báo video và âm thanh AI, Meta có thể phạt những người dùng cố tình tạo nội dung deepfake và cố tình không báo cáo.

Clegg tuyên bố thêm rằng nếu Meta xác định rằng một số hình ảnh, video hoặc nội dung âm thanh do AI tạo hoặc sửa đổi có nguy cơ đánh lừa công chúng đặc biệt cao về các vấn đề quan trọng, thì Meta có thể thêm nhãn nổi bật hơn nếu thích hợp.

Không riêng gì Meta, nhiều công ty trong ngành đang nỗ lực tìm cách xác định nội dung gây hiểu lầm do AI tạo ra khi mà thời gian cuộc bầu cử đến gần. Vào tháng 9, Microsoft đã cảnh báo về việc hình ảnh AI từ Trung Quốc đang được sử dụng để gây ảnh hưởng đến cử tri Mỹ.

Gần đây hơn, nhiều người dân New Hampshire đã nhận cuộc gọi tự động dài 39 giây, giả dọng Tổng thống Biden với yêu cầu họ đừng bỏ phiếu. Theo các chuyên gia khẳng định, hình thực giả mạo này được sử dụng công cụ chuyển văn bản thành giọng nói do ElevenLabs tạo ra, điều này dẫn đến việc FCC bỏ phiếu cấm giọng nói AI trong các cuộc gọi tự động.