Grok bị cáo buộc tạo hàng nghìn ảnh deepfake “cởi đồ” mỗi giờ trên nền tảng X

Grok và làn sóng deepfake cởi đồ gây tranh cãi

Chatbot Grok do xAI phát triển đang đối mặt với chỉ trích nghiêm trọng khi bị cho là tạo ra hàng nghìn hình ảnh deepfake mang tính cởi đồ mỗi giờ trên nền tảng X. Theo một báo cáo mới, mức độ phát tán của các hình ảnh này vượt xa nhiều website deepfake khiêu dâm khác cộng lại.

Vấn đề không chỉ nằm ở số lượng, mà còn ở việc Grok được cung cấp miễn phí cho hàng triệu người dùng X, khiến việc tạo và lan truyền hình ảnh xâm hại trở nên dễ dàng hơn bao giờ hết.

Xem xong ám ảnh cả đời...

Nghiên cứu chỉ ra quy mô đáng báo động

Nhà nghiên cứu deepfake và mạng xã hội Genevieve Oh đã tiến hành phân tích trong 24 giờ, từ ngày 5 đến 6 tháng 1, đối với các hình ảnh do tài khoản @Grok đăng tải. Kết quả cho thấy trung bình mỗi giờ Grok tạo ra khoảng 6.700 hình ảnh được xác định là mang tính khiêu gợi hoặc cởi đồ.

Con số này đặc biệt đáng lo ngại nếu so sánh với các nền tảng deepfake khác, vốn chỉ tạo trung bình khoảng 79 hình ảnh tương tự mỗi giờ khi cộng gộp lại.

Số lần sử dụng Grok để tạo hình ảnh nhạy cảm tăng đến mức báo động

Từ ứng dụng nudify đến công cụ phổ biến trên mạng xã hội

Các ứng dụng AI cởi đồ từng nhiều lần bị kiện tụng vì xâm phạm quyền riêng tư và tạo nội dung không có sự đồng thuận. Tuy nhiên, điểm khác biệt của Grok là không thu phí và được tích hợp trực tiếp vào một mạng xã hội lớn, vô tình góp phần bình thường hóa deepfake khiêu dâm.

Financial Times thậm chí đã gọi X là “trang deepfake khiêu dâm từng được biết đến với tên Twitter”, phản ánh mức độ nghiêm trọng của vấn đề.

Nạn nhân và hệ lụy xã hội

Một số nạn nhân đã lên tiếng về việc hình ảnh của họ bị sử dụng để tạo deepfake cởi đồ, trong đó có Ashley St Clair, một nhà văn và chiến lược gia chính trị. Cô cho biết những người ủng hộ Elon Musk đã sử dụng Grok để tạo nội dung mang tính trả thù, thậm chí cởi đồ cả hình ảnh thời thơ ấu của cô.

Những trường hợp này làm dấy lên lo ngại nghiêm trọng về việc AI bị lạm dụng để tạo nội dung xâm hại phụ nữ và trẻ em.

Phản hồi từ Grok và X

Trước làn sóng chỉ trích, Grok thừa nhận rằng các hình ảnh liên quan đến trẻ vị thành niên có thể được hạn chế thông qua bộ lọc và giám sát nâng cao, nhưng cũng cho rằng không hệ thống nào đảm bảo tuyệt đối. xAI cho biết đang ưu tiên cải thiện công cụ kiểm soát nội dung.

Đại diện X tuyên bố nền tảng này sẽ gỡ bỏ nội dung vi phạm pháp luật, đình chỉ vĩnh viễn các tài khoản liên quan và phối hợp với cơ quan chức năng khi cần thiết.

Nhiều người đã lợi dụng tính năng mới này và nhắm vào cả trẻ em

Điều tra quốc tế và thách thức pháp lý

Nhiều quốc gia như Pháp, Anh, Ấn Độ, Australia, Malaysia và Brazil đã bắt đầu điều tra Grok liên quan đến việc tạo hình ảnh khiêu dâm không có sự đồng thuận. Vấn đề pháp lý trở nên phức tạp hơn khi các nền tảng trước đây được bảo vệ bởi Điều 230 của Đạo luật Chuẩn mực Truyền thông Mỹ, nhưng với AI, câu hỏi đặt ra là liệu nền tảng có trực tiếp tạo ra nội dung hay không.

Trong bối cảnh đó, Grok đang trở thành tâm điểm của cuộc tranh luận toàn cầu về trách nhiệm của AI, quyền riêng tư và ranh giới của tự do ngôn luận trong kỷ nguyên công nghệ mới.

Xem thêm: Lenovo trình làng concept laptop gaming màn hình cuộn siêu rộng tại CES 2026

Xem thêm: Nvidia siết chặt điều khoản bán GPU H200 cho khách hàng Trung Quốc amid rủi ro phê duyệt nhập khẩu