Meta bắt đầu quét và gắn nhãn hình ảnh do AI tạo ra

Tính năng này sẽ xuất hiện trên Facebook, Instagram và Threads trong những tháng tới.

Sự phát triển của AI sáng tạo ngày càng tiên tiến và dễ tiếp cận đã dẫn đến nhiều hệ lụy, đặc biệt là việc xuất hiện tràn lan các hình ảnh giả mạo trên mạng xã hội. Những hình ảnh này có thể được sử dụng để truyền bá thông tin sai lệch, gây hại cho danh tiếng của một người nào đó hoặc thậm chí là để lừa đảo người dùng.

Để giải quyết vấn đề này, Meta đã công bố kế hoạch phát hiện và gắn nhãn các hình ảnh AI được đăng tải trên các nền tảng của mình, bao gồm Facebook, Instagram và Threads. Việc gắn nhãn này sẽ giúp người dùng nhận biết được hình ảnh nào là do AI tạo ra và có thể cảnh giác trước những thông tin sai lệch tiềm ẩn.

Meta bắt đầu quét và gắn nhãn hình ảnh do AI tạo ra

Nick Clegg, Chủ tịch phụ trách các vấn đề toàn cầu của Meta cho biết: "Meta sẽ gắn nhãn các hình ảnh được tạo bởi công cụ AI với nhãn "Được tưởng tượng bằng AI" cho phép người dùng phân biệt được đâu là hình thật đâu là hình được tạo bởi AI."

Các hình ảnh được tạo ra trên các dịch vụ của OpenAI, Microsoft, Adobe, Midjourney, Shutterstock và Google của Alphabet cũng sẽ được Meta dán nhãn sau khi hệ thống mới được thiết lập và đi vào hoạt động.

Meta hiện đang xây dựng khả năng xác định hình ảnh do AI tạo ra và sẽ bắt đầu áp dụng nhãn bằng tất cả các ngôn ngữ trên các ứng dụng của mình trong những tháng tới.

Meta bắt đầu quét và gắn nhãn hình ảnh do AI tạo ra

Clegg cho biết việc xác định nội dung âm thanh và video do AI tạo ra ngày càng khó khăn hơn vì các công cụ ngày càng trở nên tinh vi. Tuy nhiên, Meta đang bổ sung một tính năng cho phép người dùng khai báo các nội dung video hoặc âm thanh do AI tạo ra để công ty có thể thêm nhãn vào đó. 

Ngoài việc cho phép người dùng tự khai báo video và âm thanh AI, Meta có thể phạt những người dùng cố tình tạo nội dung deepfake và cố tình không báo cáo.

Meta bắt đầu quét và gắn nhãn hình ảnh do AI tạo ra

Clegg tuyên bố thêm rằng nếu Meta xác định rằng một số hình ảnh, video hoặc nội dung âm thanh do AI tạo hoặc sửa đổi có nguy cơ đánh lừa công chúng đặc biệt cao về các vấn đề quan trọng, thì Meta có thể thêm nhãn nổi bật hơn nếu thích hợp.

Không riêng gì Meta, nhiều công ty trong ngành đang nỗ lực tìm cách xác định nội dung gây hiểu lầm do AI tạo ra khi mà thời gian cuộc bầu cử đến gần. Vào tháng 9, Microsoft đã cảnh báo về việc hình ảnh AI từ Trung Quốc đang được sử dụng để gây ảnh hưởng đến cử tri Mỹ.

Meta bắt đầu quét và gắn nhãn hình ảnh do AI tạo ra

Gần đây hơn, nhiều người dân New Hampshire đã nhận cuộc gọi tự động dài 39 giây, giả dọng Tổng thống Biden với yêu cầu họ đừng bỏ phiếu. Theo các chuyên gia khẳng định, hình thực giả mạo này được sử dụng công cụ chuyển văn bản thành giọng nói do ElevenLabs tạo ra, điều này dẫn đến việc FCC bỏ phiếu cấm giọng nói AI trong các cuộc gọi tự động. 

Bài viết liên quan

Bài viết đọc nhiều nhất

Bài viết mới trong ngày

Cơn sốt "Sát thủ về vườn" trở lại đầy bùng nổ: Anime "Sakamoto Days" mùa 2 tung trailer mãn nhãn, chốt lịch lên sóng ngày 18/1/2027 cùng ca khúc mở đầu do bộ đôi Creepy Nuts thể hiện

Cơn sốt "Sát thủ về vườn" trở lại đầy bùng nổ: Anime "Sakamoto Days" mùa 2 tung trailer mãn nhãn, chốt lịch lên sóng ngày 18/1/2027 cùng ca khúc mở đầu do bộ đôi Creepy Nuts thể hiện

hoanlagvn

Một tin vui lớn vừa làm nức lòng hàng triệu người hâm mộ dòng phim hoạt hình hành động - hài hước (action-comedy) trên toàn thế giới. Tài khoản mạng xã hội X chính thức của dự án anime truyền hình đình đám "Sakamoto Days" (tựa phát hành tại Việt Nam: Sát thủ về vườn) mới đây đã mang đến màn công bố đầy phấn khích với hàng loạt thông tin trọng điểm dành cho mùa phim thứ hai.

Giải trí
Razer ra mắt Soma Pro và Soma Sensa HD Haptics: Ghế gaming tích hợp công nghệ rung phản hồi HD

Razer ra mắt Soma Pro và Soma Sensa HD Haptics: Ghế gaming tích hợp công nghệ rung phản hồi HD

quân

Razer vừa giới thiệu hai mẫu ghế gaming không dây mới mang tên Soma Pro và Soma Sensa HD Haptics. Cả hai đều được trang bị công nghệ phản hồi xúc giác Razer Sensa HD Haptics, trong khi phiên bản Soma Pro còn sở hữu hệ thống âm thanh THX Spatial Audio và đèn RGB Chroma, hướng đến trải nghiệm giải trí sống động hơn.

Công Nghệ
Lên đầu trang