Bị lạm dụng tạo ra những tác phẩm "gây sốc", Midjourney tạm ngưng bản miễn phí

Công cụ chuyển văn bản sang hình ảnh bằng AI buộc phải tạm dừng nhằm hạn chế những tác phẩm gây tranh cãi.

Mô hình AI tạo hình ảnh Midjourney thông báo sẽ tạm dừng các bản dùng thử miễn phí vì bị lạm dụng tạo ra những sản phẩm gây tranh cãi.

David Holz, người sáng lập Midjourney, đã viết trên máy chủ Discord của công ty vào đầu tuần này: “Do sự kết hợp giữa nhu cầu đặc biệt và lạm dụng bản dùng thử, chúng tôi tạm thời vô hiệu hóa các bản dùng thử miễn phí cho đến khi chúng tôi triển khai các cải tiến tiếp theo cho hệ thống."

Tuy nhiên, Theo Washington Post việc tạm dừng bản beta miễn phí của Midjourney nhằm hạn chế các tác phẩm giả, chứa thông tin sai lệch.

Bị lạm dụng tạo ra những tác phẩm "gây sốc" , Midjourney tạm ngưng thử nghiệm miễn phí

Xem thêm: Loạt ảnh Donald Trump bị bắt do AI tạo tràn ngập trên Twitter

Midjourney đã trở thành công cụ AI phổ biến trong những tuần gần đây. Người dùng đã dựa vào mô hình AI này để tạo ra những sản phẩm không có thật.

Đầu tuần này, tràn ngập những bức ảnh chụp Giáo hoàng Francis khoác trên mình một chiếc áo phao cực kỳ cực kỳ sành điệu đến từ thương hiệu nổi tiếng Balenciaga và đeo một chiếc vòng cổ nạm kim cương. Tiếp đó, khi các trang tin tức chính thống đưa tin cựu Tổng thống Mỹ Donald Trump sắp bị bắt ở New York, một loạt bức ảnh cho thấy cựu tổng thống bị cảnh sát truy đuổi đã lan truyền chóng mặt.

Bị lạm dụng tạo ra những tác phẩm "gây sốc" , Midjourney tạm ngưng thử nghiệm miễn phí

Xem thêm: CẢNH BÁO: Siêu AI bị lạm dụng để tạo ra những sự kiện chưa từng xảy ra

Mặc dù các bức ảnh nhanh chóng được xác định là không có thật, nhưng vẫn có lo ngại rằng các công cụ AI Midjourney, DALL-E của OpenAI có thể bị làm dụng để tạo ra những tác phẩm nhằm tuyên truyền thông tin sai lệch.

Nhiều trang web AI khác, bao gồm cả Midjourney và Playground AI, đã đặt ra các hạn chế đối với những văn bản đưa ra có chứa nội dung khiêu dâm. Tuy nhiên, người dùng có thể "lách" các lệnh cấm này để tạo ra các hình ảnh đồi truỵ bằng cách sử dụng các cách viết khác nhau của từ, hoặc cách nói "bóng gió" khác cho nội dung khiêu dâm.

Việc tạo ra nội dung chứa thông tin sai lệch không phải là vấn đề duy nhất đối các mô hình AI xuất hình ảnh. Từ lâu đã có những lo ngại rằng các công cụ AI đánh cắp các tác phẩm hiện có để làm nguồn cho sản phẩm của mình.