Tận dụng chiến thuật khó tin, kỳ thủ cờ vây đánh bại AI hàng đầu thế giới

Kellin Pelrine, một kỳ thủ cờ vây người Mỹ, đã đánh bại AI với số trận thắng lên tới 14/15 trận, bằng cách sử dụng chương trình phát hiện lỗ hổng của AI. 

Theo FT, chương trình mà Pelrine sử dụng nhằm điều tra các nhược điểm có trên các hệ thống AI, bao gồm cả chatbot ChatGPT do OpenAI tạo ra. Adam Gleave, CEO của FAR AI, công ty nghiên cứu chương trình trên cho biết: "Chúng tôi khai thác hệ thống này dễ dàng một cách bất ngờ”. Phần mềm đã chơi hơn 1 triệu ván cờ cùng với KataGo, một trong những hệ thống chơi cờ vây hàng đầu thế giới, để tìm ra “điểm mù” mà con người có thể tận dụng được.

Chiến lược sử dụng phần mềm để phát hiện "kẻ hở" của AI "không tầm thường nhưng cũng không quá khó" để con người có thể thao tác theo. Pelrine cũng đã sử dụng phương pháp này để giành chiến thắng trước một chương trình chơi cờ vây khác, Leela Zero.

Chiến thắng của Pelrine cũng được cho là đã phục thù sự đối đầu giữa người và AI, khi mà 7 năm trước, con người phải chịu thua trước AI trong bộ môn cơ vây, một bộ môn chiến lược phức tạp nhất lịch sử.

AlphaGo, một hệ thống được phát minh bởi công ty nghiên cứu DeepMind thuộc sở hữu của Google, đã đánh bại nhà vô địch cờ vây thế giới Lee Sedol với tỉ số 1-4 vào năm 2016. Ba năm sau đó, Sedol tuyên bố nghỉ hữu do sự trỗi dậy của AI. Ông cũng cho biết AI là “một thực thể không thể bị đánh bại”. AlphaGo cũng được đánh giá là có kỹ năng ngang với chương trình mà phải chịu thua dưới tay của Pelrine.

Trong một ván cờ vây, hai người chơi luân phiên đặt quân cờ đen và trắng trên một bàn cờ 19x19. Mục tiêu chính mà người chơi cần làm là là bao vây nhiều lãnh thổ hơn đối thủ. 

Chiến thuật mà Pelrine sử dụng liên quan đến việc xâu chuỗi một “vòng” đá lớn lại với nhau để bao vây một trong các nhóm của đối thủ, đồng thời đánh lạc hướng AI bằng các nước đi ở các góc khác của bàn cờ. Pelrine cho biết, "đối thủ" AI của anh không nhận thấy lỗ hổng, ngay cả khi vòng vây gần như hoàn tất. 

Pelrine nói thêm: "Nếu là con người, sẽ nhìn thấy dễ dàng".

Theo Stuart Russel, giáo sư khoa học máy tính tại Đại học California, Berkeley, cho biết việc phát hiện ra điểm yếu trong một số máy chơi cờ tiên tiến nhất chỉ ra một lỗ hổng cơ bản trong hệ thống DeepMind đứng sau các AI hiện đại nhất ngày nay. Hệ thống có thể chỉ "hiểu được" các tình huống cụ thể mà chúng đã tiếp xúc trong quá khứ và không thể hiểu một cách khái quát như con người. 

Theo các nhà nghiên cứu, nguyên nhân chính khiến AI thất bại là do chương trình chưa được đào tạo để phát hiện ra lỗ hổng. Theo Gleave, người ta thường tìm ra lỗ hổng trong những hệ thống AI bằng phương pháp “tấn công nghịch đảo”. Tuy nhiên, rất ít hệ thống AI triển khai trên quy mô lớn được kiểm tra.