Hàn Quốc bỏ tù người đàn ông sử dụng AI tạo ra ảnh 18+ của trẻ em

Văn phòng công tố và Toà án quận Busan cho biết một đàn ông giấu tên, khoảng 40 tuổi, bị buộc tội vì vi phạm Đạo luật Bảo vệ Trẻ em và Thanh thiếu niên và bị kết án hai năm rưỡi tù giam khi sử dụng công cụ AI tạo hình ảnh để tạo ra khoảng 360 bức ảnh có nội dung khiêu dâm.

Theo CNN, người đàn ông này đã sử dụng những từ khoá như "trẻ em", "10 tuổi" để tạo ra những hình ảnh như thật. Rất may nhhững hình ảnh này chưa kịp phát tán thì đã bị cảnh sát tịch thu.

Vụ việc này xảy ra trong bối cảnh chính phủ trên khắp thế giới đang tìm cách quản lý thị trường AI, sau một loạt hệ luỵ ảnh hưởng đến bản quyền sở hữu trí tuệ, an ninh quốc gia và quyền riêng tư về nội dung khiêu dâm.

Đầu tháng này, một thị trấn nhỏ ở Tây Ban Nha đã mở một cuộc điều tra sau khi một loạt hình ảnh 18+ của các cô gái chưa đủ thành niên do AI tạo ra đã bị phát tán. Hơn 20 bé gái từ 11 đến 17 tuổi được xác định là nạn nhân ở thị trấn Almendralejo, vùng Extremadura phía Tây.

Những hình ảnh deepfake được cho là được tạo bằng cách sử dụng Fabricoff, một ứng dụng hỗ trợ AI cho phép người dùng " xoá quần áo" một cách miễn phí và những bức ảnh gốc, chủ yếu được thu từ các tài khoản mạng xã hội.

Ban đầu, công nghệ Deepfake được sử dụng để tạo ra các video giải trí như đổi mặt các diễn viên nổi tiếng, hoặc thay đổi giọng nói của nhân vật nổi tiếng để tạo ra những video giải trí.

Tuy nhiên, công cụ này dần cho phép người dùng dễ tiếp cận hơn, từ đó việc sử dụng Deepfake mang lại nhiều hậu quả nghiêm trọng trong những năm gần đây. 

Deepfake thực chất là một kỹ thuật rất tiên tiến và tiềm năng, nhưng nếu sử dụng không đúng thì nó sẽ trở thành một vũ khí nguy hiểm có thể thay đổi cả nhân loại.