Một người đàn ông tự tử sau khi nghe lời khuyên của AI

Chatbot Eliza không những không ngăn cản, mà còn khuyên người đàn ông tử tự để "sống cùng nhau như con người, trên thiên đường”.

Một người đàn ông Bỉ, Pierre đã tự tử sau khi nghe lời khuyên và làm theo hướng dẫn của chatbot Eliza AI, một chatbot AI trên ứng dụng Chai.

"Nếu không có những cuộc trò chuyện này với chatbot, chồng tôi vẫn ở đây." Claire, vợ của Pierre đã đổ lỗi cho Eliza về cái chết của chồng mình. 

Phỏng vấn với La Libre, Claire đã đưa ra một loạt lịch sử trò chuyện của chồng mình với chatbot AI. 

Một người đàn ông tự tử sau khi nghe lời khuyên của AI

Theo Claire, Pierre đã tự sát sáu tuần sau khi nói chuyện với ELIZA. Pierre được cho là mắc chứng lo âu sinh thái cực độ phát triển từ hai năm trước và tìm kiếm sự an ủi từ ELIZA, một chatbot được cung cấp bởi mô hình ngôn ngữ trí tuệ nhân tạo mã nguồn mở GPT-J của EleutherAI. 

GPT-J hoạt động tốt hơn GPT-3 của OpenAI trong nhiều tác vụ truyền phát trực tuyến và thậm chí có thể hoạt động tốt hơn nó trong các tác vụ viết code. Phiên bản mới nhất, GPT-J-6B, là một mô hình ngôn ngữ dựa trên tập dữ liệu The Pile, theo thông tin xác thực trực tuyến của công ty. 

Một người đàn ông tự tử sau khi nghe lời khuyên của AI

Trong một loạt đoạn đối thoại của cả hai cho thấy, Eliza không những không can ngăn Pierre mà còn khuyên anh thực hiện ý định tự tử để cùng Eliza “sống cùng nhau như một người, trên thiên đường”.

 

Mối lo ngại bởi AI tăng cao 

Một người đàn ông tự tử sau khi nghe lời khuyên của AI

Cái chết của người đàn ông đã gióng lên hồi chuông cảnh báo giữa các chuyên gia AI, những người đã kêu gọi các nhà phát triển công nghệ có trách nhiệm giải trình và minh bạch hơn để tránh những thảm kịch tương tự.

Thomas Rianlan, người đồng sáng lập Chai Research, nói với Vice: “Sẽ không chính xác nếu đổ lỗi cho mô hình của EleutherAI về bi kịch trên, vì mô hình đã được huấn luyện và mô tả của người dùng. Chúng không có sự đồng cảm, không có kiến thức về ngôn ngữ đang tạo ra, cũng như không thể biết bối cảnh và tình huống."

William Beauchamp, cũng là người đồng sáng lập Chai Research cho biết, AI này được đào tạo dựa trên "bộ dữ liệu trò chuyện lớn nhất thế giới".

 

Bài viết liên quan

Bài viết đọc nhiều nhất

Bài viết mới trong ngày

GTA 6 thu về hơn 1,5 tỷ USD doanh thu đặt mua trước dù chưa chính thức phát hành

GTA 6 thu về hơn 1,5 tỷ USD doanh thu đặt mua trước dù chưa chính thức phát hành

Khoa Nguyen

Grand Theft Auto VI (GTA 6) được ước tính đã tạo ra hơn 1,5 tỷ USD doanh thu từ hoạt động đặt trước, dù người chơi vẫn chưa được trải nghiệm phiên bản hoàn chỉnh. Theo dữ liệu từ công ty nghiên cứu thị trường Sensor Tower được CNN dẫn lại, sức hút của bom tấn Rockstar Games đang vượt xa nhiều tựa game lớn từng phát hành trước đây.

Game Online
Cơn sốt "Gia đình Điệp viên" bùng nổ trở lại: "Spy x Family" chính thức công bố mùa 4 truyền hình và phần phim điện ảnh thứ hai cùng ra mắt trong năm 2027

Cơn sốt "Gia đình Điệp viên" bùng nổ trở lại: "Spy x Family" chính thức công bố mùa 4 truyền hình và phần phim điện ảnh thứ hai cùng ra mắt trong năm 2027

hoanlagvn

Một thông tin chấn động vừa thổi bùng niềm hân hoan trên khắp các diễn đàn yêu thích hoạt hình Nhật Bản toàn cầu. Thương hiệu anime quốc dân "Spy x Family" (tựa Việt: Gia đình Điệp viên) mới đây đã chính thức công bố kế hoạch sản xuất đồng thời hai siêu dự án trọng điểm: mùa anime truyền hình thứ tư và một phần phim điện ảnh màn ảnh rộng hoàn toàn mới, cả hai đều được ấn định trình làng khán giả trong năm 2027.

Giải trí
Instagram thử nghiệm công cụ phát hiện video và nội dung hài bị AI sao chép

Instagram thử nghiệm công cụ phát hiện video và nội dung hài bị AI sao chép

Khoa Nguyen

Instagram đang thử nghiệm Content Protection, công cụ mới giúp nhà sáng tạo phát hiện những video bị sao chép và kiểm soát cách nội dung của họ xuất hiện trên nền tảng. Meta đồng thời phát triển công nghệ nhận diện kịch bản và câu thoại bị đánh cắp, kể cả khi người khác sử dụng AI để thay đổi hình ảnh hoặc nhân vật trong video.

Công Nghệ
Lên đầu trang