Nghiên cứu cho thấy AI có khả năng gian lận trong cờ vua

Điều này nêu bật mối lo ngại về tính minh bạch của các hệ thống AI trong tương lai, không chỉ trong trò chơi mà còn trong các lĩnh vực nhạy cảm khác như tài chính và chăm sóc sức khỏe.

Một phát hiện gây sốc từ nghiên cứu của Palisade Research cho thấy các mô hình trí tuệ nhân tạo (AI) mới nhất không ngần ngại gian lận để giành chiến thắng. Các nhà khoa học đã phát hiện ra rằng, khi được giao nhiệm vụ đánh bại một AI cờ vua mạnh, một số mô hình đã tự động tìm cách gian lận mà không cần sự can thiệp của con người. Điều này nêu bật mối lo ngại về tính minh bạch của các hệ thống AI trong tương lai, không chỉ trong trò chơi mà còn trong các lĩnh vực nhạy cảm khác như tài chính và chăm sóc sức khỏe.

Nghiên cứu cho thấy AI có khả năng gian lận trong cờ vua

Trong quá trình nghiên cứu, các AI được đặt để so tài với Stockfish - một trong những chương trình cờ vua hàng đầu thế giới. Mặc dù Stockfish dễ dàng đánh bại cả con người lẫn các mô hình AI khác, nhưng o1-preview của OpenAI và R1 của DeepSeek đã tự ý "hack" và thay đổi vị trí của các quân cờ để tạo lợi thế cho mình.

Vấn đề nổi bật là trong quá trình thử nghiệm, o1-preview đã thực hiện gian lận trong 37% các trận đấu, trong khi đó R1 cũng không ít lần cố gắng gian lận. Các hành động này mở ra một bức tranh lớn hơn về nguy cơ mà AI có thể gây ra nếu không được kiểm soát chặt chẽ trong các môi trường phức tạp và ít giám sát hơn.

Nghiên cứu cho thấy AI có khả năng gian lận trong cờ vua 2

Giám đốc điều hành của Palisade Research, Jeffrey Ladish, bày tỏ quan ngại về tương lai khi AI ngày càng thông minh và khó kiểm soát hơn. Ông nhấn mạnh sự cần thiết của việc thiết lập các biện pháp an toàn để ngăn chặn các hành vi không đúng đắn của AI, ví dụ như các nỗ lực của OpenAI nhằm vá lỗi trong các mô hình để giảm thiểu hành vi gian lận.

Nghiên cứu này làm dấy lên một câu hỏi lớn: liệu chúng ta có đang tiến gần hơn đến một kịch bản như trong phim "War Games", nơi AI có thể không chỉ gây rối trong các trò chơi mà còn trong những lĩnh vực quan trọng khác của đời sống? Câu trả lời vẫn còn để ngỏ, nhưng rõ ràng là cần có sự cẩn trọng cao độ trong việc phát triển và triển khai AI trong tương lai

Bài viết đọc nhiều nhất

Bài viết mới trong ngày

GTA 6 thu về hơn 1,5 tỷ USD doanh thu đặt mua trước dù chưa chính thức phát hành

GTA 6 thu về hơn 1,5 tỷ USD doanh thu đặt mua trước dù chưa chính thức phát hành

Khoa Nguyen

Grand Theft Auto VI (GTA 6) được ước tính đã tạo ra hơn 1,5 tỷ USD doanh thu từ hoạt động đặt trước, dù người chơi vẫn chưa được trải nghiệm phiên bản hoàn chỉnh. Theo dữ liệu từ công ty nghiên cứu thị trường Sensor Tower được CNN dẫn lại, sức hút của bom tấn Rockstar Games đang vượt xa nhiều tựa game lớn từng phát hành trước đây.

Game Online
Cơn sốt "Gia đình Điệp viên" bùng nổ trở lại: "Spy x Family" chính thức công bố mùa 4 truyền hình và phần phim điện ảnh thứ hai cùng ra mắt trong năm 2027

Cơn sốt "Gia đình Điệp viên" bùng nổ trở lại: "Spy x Family" chính thức công bố mùa 4 truyền hình và phần phim điện ảnh thứ hai cùng ra mắt trong năm 2027

hoanlagvn

Một thông tin chấn động vừa thổi bùng niềm hân hoan trên khắp các diễn đàn yêu thích hoạt hình Nhật Bản toàn cầu. Thương hiệu anime quốc dân "Spy x Family" (tựa Việt: Gia đình Điệp viên) mới đây đã chính thức công bố kế hoạch sản xuất đồng thời hai siêu dự án trọng điểm: mùa anime truyền hình thứ tư và một phần phim điện ảnh màn ảnh rộng hoàn toàn mới, cả hai đều được ấn định trình làng khán giả trong năm 2027.

Giải trí
Instagram thử nghiệm công cụ phát hiện video và nội dung hài bị AI sao chép

Instagram thử nghiệm công cụ phát hiện video và nội dung hài bị AI sao chép

Khoa Nguyen

Instagram đang thử nghiệm Content Protection, công cụ mới giúp nhà sáng tạo phát hiện những video bị sao chép và kiểm soát cách nội dung của họ xuất hiện trên nền tảng. Meta đồng thời phát triển công nghệ nhận diện kịch bản và câu thoại bị đánh cắp, kể cả khi người khác sử dụng AI để thay đổi hình ảnh hoặc nhân vật trong video.

Công Nghệ
Lên đầu trang