Cảnh giác chiêu trò lừa đảo sử dụng AI giả giọng người thân, nhiều người mất sạch cả trăm triệu

Cuộc chiến AI đang nóng lên trong làng công nghệ, dẫn đến việc các công cụ AI mọc lên như nấm sau mưa để đáp ứng nhu cầu của người dùng. Tuy nhiên, điều này cũng dẫn đến nhiều hệ luỵ, trong đó bao gồm các vụ lừa đảo gây thiệt hại từ tinh thần đến vật chất. 

Gần đây nhất, cha mẹ của Benjamin Perkin người (Canada) đã chuyển 15.000 USD cho một kẻ lừa đảo, sau khi nhận được cuộc gọi từ con trai, thực chất là AI giả giọng. 

Cụ thể, AI giả giọng "Perkin" nói anh đã gây ra vụ tai nạn xe hơi, khiến một nhà ngoại giao Mỹ tử vong. Trong cuộc gọi, "Perkin" cho biết đang trong tù và cần tiền cho các chi phí pháp lý. 

Sau vài giờ, một "luật sư" được giả giọng bởi AI đã hối thúc cha mẹ anh chuyển tiền, nên họ đã ra ngân hàng rút và gửi đi 15.449 USD thông qua một hệ thống chuyển đổi sang Bitcoin. Cuối cùng, mọi chuyện vỡ lẻ Perkin gọi điện vào tối hôm đó.

Perkin cho biết, anh có một tài khoản YouTuber dùng để chia sẻ những khoảnh khắc bên gia đình của mình và đó cũng là nguồn âm thanh giúp cho kẻ lừa đảo huấn luyện AI giả giọng của mình. 

Những vụ lừa đảo liên quan đến công nghệ AI có trước sự xuất hiện của ChatGPT và các bot AI khác hiện đang phổ biến gần đây. Vào năm 2019, CEO của một công ty năng lượng của Anh được cho là đã chuyển hơn 240.000 USD vào một tài khoản ở Hungary sau khi anh được sếp của mình bị giả giọng bởi AI, đã yêu cầu anh thông qua điện thoại.

Đại diện FTC, Juliana Gruenwald cho biết:

“Chúng tôi cũng lo ngại về nguy cơ deepfakes và các phương tiện tổng hợp dựa trên AI khác đang trở nên dễ tạo và phổ biến hơn, sẽ được sử dụng để lừa đảo. Các công cụ AI tạo ra video, ảnh, âm thanh và văn bản giả mạo người thật, trở thành công cụ "tiếp tay" cho những kẻ lừa đảo dễ thực hiện hành vi phạm pháp của chúng hơn."

Theo Ủy ban Thương mại Liên bang cho biết, đây là thủ đoạn lừa được báo cáo thường xuyên nhất vào năm 2022 và gây ra tổn thất cao thứ hai cho những đối tượng bị nhắm mục tiêu. Trong số 36.000 báo cáo, hơn 5.000 nạn nhân đã bị lừa 11 triệu USD qua điện thoại.