AI Google có thể tạo hàng triệu câu trả lời sai mỗi giờ

AI đang thay đổi cách người dùng tìm kiếm thông tin

Trong vài năm gần đây, các công cụ tìm kiếm đã chuyển dần từ việc hiển thị danh sách liên kết sang cung cấp câu trả lời trực tiếp do AI tạo ra. Điều này giúp người dùng tiết kiệm thời gian, nhưng đồng thời cũng làm dấy lên lo ngại về độ chính xác của thông tin và lượng truy cập bị giảm đối với các trang web nguồn.

Theo báo cáo của The New York Times, các thử nghiệm độc lập cho thấy khoảng 10% bản tóm tắt AI trong kết quả tìm kiếm của Google chứa thông tin sai lệch. Với khoảng 5 nghìn tỷ truy vấn được xử lý mỗi năm, con số này tương đương hàng chục triệu câu trả lời không chính xác mỗi giờ.

Quy mô khổng lồ của hệ thống tìm kiếm khiến ngay cả tỷ lệ lỗi nhỏ cũng có thể tạo ra tác động rất lớn đến người dùng trên toàn cầu.

Gemini cải thiện độ chính xác nhưng vẫn còn sai sót

Dữ liệu trong báo cáo được cung cấp bởi công ty khởi nghiệp AI Oumi, đơn vị được yêu cầu đánh giá độ chính xác của trợ lý AI Gemini bằng bộ tiêu chuẩn SimpleQA – một chuẩn đánh giá phổ biến trong lĩnh vực AI tạo sinh.

Sau khi phân tích hơn 4.300 lượt tìm kiếm, nhóm nghiên cứu nhận thấy Gemini phiên bản 2 đạt độ chính xác khoảng 85% vào tháng 10. Đến tháng 2, phiên bản Gemini 3 đã nâng tỷ lệ này lên khoảng 91%, cho thấy công nghệ đang dần được cải thiện.

Tuy nhiên, việc đánh giá quy mô lớn vẫn phải dựa vào các hệ thống AI khác, nên kết quả cũng có thể tồn tại sai số. Ngoài ra, Google đôi khi hiển thị các bản tóm tắt khác nhau cho cùng một truy vấn, ngay cả khi tìm kiếm được lặp lại trong thời gian ngắn.

Vấn đề lớn nằm ở nguồn thông tin và khả năng bị thao túng

Một trong những thách thức lớn nhất của tóm tắt AI là cách liên kết với nguồn thông tin. Google thường đính kèm các liên kết bên dưới bản tóm tắt, nhưng trong nhiều trường hợp, nguồn được trích dẫn không thực sự xác nhận nội dung AI đưa ra.

Các nhà nghiên cứu ghi nhận nhiều tình huống như bản tóm tắt sai nhưng nguồn lại đúng, hoặc bản tóm tắt đúng nhưng nguồn lại không liên quan. Sau bản cập nhật Gemini 3, tỷ lệ chênh lệch giữa nội dung AI và nguồn tham khảo thậm chí tăng từ 37% lên 56%.

Ngoài ra, hệ thống AI còn có thể bị thao túng bởi nội dung sai lệch trên internet. Một thử nghiệm của BBC cho thấy chỉ cần đăng một bài blog chứa thông tin sai, nội dung đó có thể xuất hiện trong bản tóm tắt AI của Google ngay ngày hôm sau.

Các công ty công nghệ thừa nhận rủi ro của AI

Google và nhiều công ty công nghệ khác đều thừa nhận rằng AI có thể tạo ra thông tin không chính xác. Google khuyến nghị người dùng nên kiểm tra lại thông tin, trong khi Microsoft cho biết Copilot chỉ nên được sử dụng như công cụ hỗ trợ, không phải để đưa ra quyết định quan trọng.

Điều này cho thấy AI đang trở thành công cụ hỗ trợ tìm kiếm mạnh mẽ, nhưng vẫn chưa thể thay thế hoàn toàn việc kiểm chứng thông tin từ nhiều nguồn khác nhau. Trong bối cảnh AI ngày càng phổ biến, khả năng đánh giá và kiểm tra thông tin của người dùng sẽ đóng vai trò quan trọng hơn bao giờ hết.