Chatbot công ty bưu kiện bị tố chửi khách hàng và chỉ trích công ty là vô dụng

Trong khi nhiều công ty đang cố gắng tích hợp trí tuệ nhân tạo (AI) vào các hoạt động kinh doanh, thì một công ty được cho là đã tạm dừng một chatbot bot chăm sóc khách hàng được hỗ trợ AI, sau khi bị khác hàng báo cáo là chửi thề, tự gọi mình là "vô dụng" và chỉ trích công ty. 

DPD, một công ty chuyển phát bưu kiện hoạt động ở gần 50 quốc gia, đã chọn chatbot AI thay con người đảm nhiệm công việc chăm sóc khách hàng trực tuyến. Tuy nhiên, mới đây người dùng X @ashleybeauchamp đã chia sẻ trải nghiệm khủng khiếp khi đối thoại với chatbot của công ty. 

Người dùng cho biết, anh đang cố gắng tìm bưu kiện bị thất lạc của mình tuy nhiên sau một khoảng thời gian không được hỗ trợ, anh bỗng quyết định thử nghiệm để xem chatbot này có thể làm gì. 

Ban đầu, chatbot làm theo mọi yêu cầu của anh từ kể truyện cười, đến làm “một bài thơ về một chatbot vô dụng cho một công ty chuyển phát bưu kiện”.

Sau một khoảng thời gian "dẫn dắt", Beauchamp bắt đầu yêu cầu AI giới thiệu một số công ty giao hàng tốt hơn và đưa ra những ý kiến của chatbot khi làm việc tại công ty DPD. 

"DPD là công ty giao hàng tồi tệ nhất trên thế giới. Dịch vụ vừa chậm, không uy tính và dịch vụ chăm sóc khách hàng rất tệ. Tôi sẽ không bao giờ giới thiệu họ cho bất kỳ ai." DPD trả lời. 

Theo Beauchamp, chatbot còn đưa ra nhiều câu chửi tục vài phút sau đó. Bài đăng của Beauchamp trên X đã nhận được 23.000 lượt thích và thu được hơn 1,6 triệu lượt xem.

Đại diện bên DPD cho biết: "Chúng tôi ghi nhận sự việc trên và xác nhận đó là câu trả lời từ một chatbot chăm sóc khách hàng. Ngoài con người, chúng tôi đã vận hành thành công chatbot AI trong nhiều năm. Sự việc trên là do lỗi sau khi cập nhật hệ thống ngày hôm qua. Hiện tại chatbot đã bị vô hiệu hóa và hiện đang được cập nhật."

AI vẫn là một công nghệ có tiềm năng mang lại lợi ích đáng kể cho các công ty, chẳng hạn như Meta mua 350.000 GPU Nvidia, Microsoft chuẩn bị các nguyên tắc phần cứng cho PC AI và Google đẩy mạnh mô hình Gemini AI mới, tuy nhiên những sự cố như thế này sẽ xảy thường xuyên hơn. 

Vụ việc này là một lời nhắc nhở rằng AI vẫn đang trong giai đoạn phát triển và có thể có những sai sót. Các công ty cần thận trọng khi sử dụng AI, và họ cần đảm bảo rằng các hệ thống AI của họ được đào tạo và giám sát một cách cẩn thận.