Midjourney chặn người dùng tạo hình ảnh AI của chủ tịch nước Trung Quốc

Midjourney, một công cụ tạo hình ảnh AI có thể tạo ra những hình ảnh deep fakes vô cùng chân thực. Tuy nhiên, bên cạnh việc tạm dừng các bản dùng thử miễn phí, Midjourney cũng đưa ra một số biện pháp mới, trong đó bao gồm việc cấm tạo hình ảnh của một số nhà lãnh đạo như Chủ tịch Trung Quốc Tập Cận Bình.

Giám đốc điều hành của Midjourney, David Holz, đã chia sẻ vấn đề này trên máy chủ Midjourney Discord vào tháng 6 năm 2022. Holz nhấn mạnh sự khác biệt trong cách các quốc gia phương Tây và Trung Quốc liên quan đến chính trị. Ông cũng nhận thức được rằng châm biếm chính trị phổ biến ở phương Tây có thể gây khó khăn cho Trung Quốc và có thể đe dọa người dùng.

Ở Mỹ, việc tạo hình ảnh châm biếm các nhà lãnh đạo là quá quen thuộc vì đây là quốc gia bảo vệ quyền tự do ngôn luận và tự do biểu đạt mạnh mẽ. Tuy nhiên, điều này không phải là phù hợp với nhiều quốc gia khác, nơi mà đưa ra ý kiến chung là không được phép.

Mặc dù các chính sách của Midjourney đã gây ra nhiều tranh cãi, nhưng các công cụ AI như Midjourney đã trở nên rất phổ biến trên toàn thế giới. Nhiều người tin rằng công cụ AI này giúp công việc của họ trở dễ dàng hơn, mặc dù ở bất kỳ lĩnh vực nào.

Tuy nhiên, những người khác cho rằng những thiết bị như vậy có thể lan truyền thông tin sai lệch và gây nhầm lẫn. Lo ngại này đã trở thành hiện thực, khi gần đây những hình ảnh giả mạo của Giáo hoàng Francis khoác áo phao thương hiệu nổi tiếng Balenciaga và loạt ảnh cựu Tổng thống Donald Trump bị bắt được lan truyền rộng rãi.

Để đối phó với những hình ảnh lan truyền giả mạo và tranh cãi đó, Midjourney đã ngừng cung cấp bản dùng thử miễn phí công cụ tạo hình ảnh của mình trong một thời gian vì "nhu cầu bất thường và lạm dụng bản dùng thử".

David Holz đã công bố thông tin này trên Discord, cho rằng việc tạm dừng tính khả dụng của bản dùng thử là do những người tạo tài khoản dùng một lần để có được hình ảnh miễn phí. Holz nói, "Chúng tôi nghĩ rằng đó có thể là một video hướng dẫn phổ biến ở Trung Quốc." Đồng thời, việc thiếu GPU tạm thời, gây ra sự cố cho người dùng trả phí cũng là một phần khiến Midjourney tạm dừng các bản dùng thử miễn phí

Khi các công cụ AI như Midjourney ngày càng trở nên phổ biến và được sử dụng rộng rãi, vẫn có những lo ngại về những mặt trái có thể xảy ra, chẳng hạn như thông tin sai lệch và thành kiến ​​chính trị. Sử dụng Midjourney để châm biếm chính trị và đưa ra những hình ảnh gây sai lệch của các quan chức cấp cao là minh chứng những những lo ngại mà các chuyên gia đưa ra trước đó, đặc biệt là sự phụ thuộc ngày càng nhiều vào trí tuệ nhân tạo.