NeMo Guardrails: Nvidia ra mắt phần mềm ngăn chặn AI bịa đặt câu trả lời

"Cảnh sát" Ai của Nvidia giúp ngăn chặn các siêu AI trả lời lan man, bịa đặt và đưa ra những chủ đề độc hại cho người dùng.

Để thống trị lĩnh vực trí tuệ nhân tạo, các Big Tech đều nhanh chóng công bố siêu chatbot AI cho riêng mình, từ Google, Microsoft hoặc Meta đều bắt kịp tốc độ sau ChatGPT của OpenAI.

Tuy nhiên, việc gấp rút chạy đua lĩnh vực trí tuệ nhân tạo dẫn đến nhiều hệ luỵ nguy hiểm, trong đó bao gồm AI "bị ảo giác", trả lời lan man và thậm chí là nguy hiểm.

NeMo Guardrails: Nvidia ra mắt phần mềm ngăn chặn AI bịa đặt câu trả lời 

Để khắc phục vấn đề trên, Nvidia, một công ty công nghệ lớn kinh doanh phần cứng và phần mềm AI cho ra mắt NeMo Guardrails. Đây là phần mềm nguồn mở giải quyết lỗi "ảo giác" mà các như mô hình ngôn ngữ lớn (LLM) của Google và ChatGPT của OpenAI đang gặp phải. 

Đúng như tên gọi, NeMo Guardrails giống như một người bảo vệ ngồi giữa người dùng và một công cụ hỗ trợ mô hình ngôn ngữ lớn, chẳng hạn như một chatbot AI. NeMo cho phép các nhà phát triển phần mềm hướng dẫn chatbot bằng cách thêm các quy tắc với một vài dòng mã, về cách tương tác và quan trọng hơn là cách không phản ứng với người dùng.  

NeMo Guardrails: Nvidia ra mắt phần mềm ngăn chặn AI bịa đặt câu trả lời

Nvidia cho biết: "Phần mềm vốn hỗ trợ LangChain, thêm một lớp an toàn, bảo mật và độ tin cậy cho các ứng dụng hội thoại dựa trên LLM. Các nhà phát triển có thể xác định các tương tác của người dùng và dễ dàng tích hợp các lan can này vào bất kỳ ứng dụng nào bằng thư viện Python."

Jonathan Cohen, phó chủ tịch nghiên cứu ứng dụng của Nvidia đưa ra ví dụ, một chatbot phục vụ khách hàng, được thiết kế để nói về sản phẩm công ty, sẽ được NeMo Guardrails hạn chế tối đa việc nói về các sản phẩm của dối thủ cạnh tranh dù được khách hàng hỏi. 

NeMo Guardrails: Nvidia ra mắt phần mềm ngăn chặn AI bịa đặt câu trả lời

NeMo Guardrails sẽ kiểm tra câu trả lời của chatbot đưa ra. Nếu AI đưa ra câu trả lời không phù hợp và bịa đặt, phần mềm sẽ không hiển thị cho người dùng, và ngược lại. 

Nvidia đã là một trong những công ty hàng đầu trong lĩnh vực AI, với các chip AI A100 và H100 đã giúp Nvidia trở thành công ty hàng đầu trên thị trường GPU. NeMo là một phần trong quá trình mở rộng của NVIDIA sang không gian AI và quảng bá phần mềm AI hiện có của công ty. 

 

Bài viết đọc nhiều nhất

Bài viết mới trong ngày

Hành trình du hành tiếp nối đầy hứa hẹn: Anime "Sói và Gia vị" bản làm lại chính thức ấn định mùa 2 lên sóng vào tháng 1/2027 cùng key visual mới đầy cuốn hút

Hành trình du hành tiếp nối đầy hứa hẹn: Anime "Sói và Gia vị" bản làm lại chính thức ấn định mùa 2 lên sóng vào tháng 1/2027 cùng key visual mới đầy cuốn hút

hoanlagvn

Một tin vui ấm áp và giàu cảm xúc vừa được gửi tới cộng đồng những người yêu mến dòng phim hoạt hình phiêu lưu - giả tưởng kinh điển của Nhật Bản. Tài khoản mạng xã hội X chính thức của dự án anime truyền hình làm lại "Spice and Wolf: Merchant Meets the Wise Wolf" (tựa gốc tiếng Nhật: Ookami to Koushinryou: Merchant Meets the Wise Wolf; tựa phát hành tại Việt Nam: Sói và Gia vị: Thương nhân gặp sói thông thái) mới đây đã chính thức công bố kế hoạch đưa mùa phim thứ hai lên sóng vào tháng 1 năm 2027, đồng thời trình làng hình ảnh quảng bá chủ đạo (key visual) mới đầy ấn tượng.

Giải trí
Billy Evans nói Elizabeth Holmes xem cảnh khỏa thân trong phim tài liệu là sự xâm phạm đời tư

Billy Evans nói Elizabeth Holmes xem cảnh khỏa thân trong phim tài liệu là sự xâm phạm đời tư

Khoa Nguyen

Billy Evans, bạn đời của Elizabeth Holmes, tiếp tục phản đối việc cảnh khỏa thân toàn thân của anh xuất hiện trong phim tài liệu You Can See Everything. Evans cho biết anh đồng ý để ê-kíp ghi hình cảnh tắm nhưng không chấp thuận việc phát hành hình ảnh nhạy cảm này trước công chúng. Theo lời anh, Holmes cũng xem đây là hành động xâm phạm sự riêng tư trong mối quan hệ của cả hai.

Phim Ảnh
Lên đầu trang