Google phải "nerf" nền tảng gọi điện thoại tự động bằng AI của mình vì nó quá thông minh

Nền tảng Duplex của Google có thể tận dụng AI - Trí thông minh nhân tạo để mô phỏng lại không chỉ giọng nói mà cả ngữ điệu, cách nói chuyện của một con người thực thụ để thực hiện những cuộc gọi với người thật. Điều này dấy lên lo ngại về các vấn đề liên quan đến đạo đức mà nền tảng AI "quá thông minh" này có thể mắc phải. Để trấn an người dùng, Google đã cho biết hệ thống trình diễn tại Google I/O năm nay chỉ là "thử nghiệm", hệ thống sau này sẽ có một cách để thông báo tới người bên kia đầu dây rằng họ đang nói chuyện với một AI để tránh nhầm lẫn.

Đại diện Google cho biết họ hiểu và trân trọng những thảo luận xung quanh nền tảng Google Duplex còn quá mới mẻ này cũng như tôn trọng tính minh bạch trong công nghệ. Họ cũng đang thiết kế lại tính năng thông báo mình là AI vào trong các phiên bản sau này để nó thông báo tới người được gọi. Những gì chúng ta thấy ở Google I/O năm nay chỉ là thử nghiệm mà thôi, cần có những phản hồi như thế để phát triển và hoàn thiện sản phẩm hơn nữa.

Hiện Google Duplex vẫn còn là sản phẩm thử nghiệm được CEO Google Sundar Pichai giới thiệu hôm thứ 3 tuần rồi tại hội nghị Google I/O dành cho các nhà phát triển. Buổi demo đó cho người xem thấy được Google Assistant có thể "tự nhiên" đến như thế nào nhờ vào kỹ thuật WaveNet của DeepMind cũng như các công nghệ tiên tiến khác trong xử lý giọng nói tự nhiên. Ví dụ Duplex có thể dễ dàng khiến người bên kia đầu dây tưởng rằng họ đang trò chuyện với một con người thực sự chứ không phải máy móc qua các từ "uh", "um" thường gặp.

Tuy nhiên việc một phần mềm có thể lừa người thật dấy lên một làn sóng quan ngại sâu sắc trong cộng đồng công nghệ, những người còn khá sợ hãy trước công nghệ AI có thể phát triển ngoài tầm kiểm soát hoặc các quy định thông thường. Zeynep Tufekci - một nhà phê bình công nghệ gọi việc đó thật đáng sợ, Thung lũng Silicon đang mất đi các chuẩn mực đạo đức và không nhận được bài học nào cả.

Các kỹ sư của Google là Yaniv Leviathan và Yossi Matias nhấn mạnh rằng trải nghiệm của người dùng và doanh nghiệp phải thật tốt với dịch vụ này và tính minh bạch trong công nghệ là phần cốt lõi của điều đó. "Chúng tối muốn mọi việc thật rõ ràng khi AI gọi điện đến doanh nghiệp để họ hiểu thật rõ hoàn cảnh của cuộc trò chuyện". Google sẽ tiếp tục thử nghiệm để hoàn thiện Google Duplex trước khi nó được tích hợp vào Google Assistant vào mùa hè này.

Tuy nhiên Google cũng không nói rằng đây là một tính năng bắt buộc. Họ tự cảm thấy có trách nhiệm khi phải cho người ở đầu dây bên kia biết mình đang nói chuyện với ai, AI hay người thật. Google sẽ cố gắng hết sức để ngăn chặn các cuộc gọi spam hay sử dụng Duplex vào các mục đích sai trái khác.

Jelly Donuts

Tham khảo The Verge