OpenAI thành lập nhóm kiểm soát, ngăn AI nổi loạn

Với trí tuệ siêu việt của Ai, có thể có thể khiến nhân loại mất quyền lực hoặc dẫn đến sự tuyệt chủng loài người.

OpenAI, công ty mẹ của ChatGPT lên kế hoạch đầu tư nghiên cứu mới nhằm tìm cách đảm bảo trí tuệ nhân tạo không nổi loạn và chống lại con người.

"Sức mạnh to lớn của siêu trí tuệ có thể… dẫn đến sự suy giảm quyền lực của nhân loại hoặc thậm chí là khiến loài người tuyệt chủng,” đồng sáng lập OpenAI, Ilya Sutskever và Jan Leike cho biết trong một thông báo. “Hiện tại, chúng tôi không có giải pháp để điều khiển hoặc kiểm soát AI có trí tuệ siêu việt và ngăn chúng nổi loạn."

OpenAI thành lập nhóm kiểm soát, ngăn AI nổi loạn

Cả hai dự đoán AI siêu thông minh với trí tuệ hơn người có thể ra đời trong thập niên này và cần phải có những kỹ thuật tốt hơn để kiểm soát chúng. Do đó cần có những bước đột phá về quản lý và tập trung vào việc đảm bảo AI vẫn mang lại lợi ích cho con người.

OpenAI, được hỗ trợ bởi Microsoft, đang dành 20% sức mạnh của mình trong 4 năm tới để giải quyết vấn đề này. Ngoài ra, công ty đang thành lập một tổ chức để nghiên cứu vấn đề trên, được gọi là nhóm Superalignment.

Mục tiêu của nhóm là nghiên cứu về quản lý AI "ở cấp độ con người", sau đó mở rộng nó thông qua sức mạnh tính toán. OpenAI cho biết việc đó nghĩa là họ sẽ huấn luyện các hệ thống AI sử dụng phản hồi như con người, hỗ trợ việc đánh giá như con người và thực hiện nghiên cứu về quản lý. 

OpenAI thành lập nhóm kiểm soát, ngăn AI nổi loạn

Những mối nguy hại tiềm tàng của AI luôn là mối quan tâm hàng đầu của các nhà nghiên cứu AI và công chúng. Vào tháng 4, một nhóm nhà lãnh đạo và chuyên gia ngành AI đã ký một lời kêu gọi tạm dừng 6 tháng trong việc phát triển các hệ thống mạnh hơn GPT-4 của OpenAI, do những nguy cơ tiềm ẩn đối với xã hội. 

Khảo sát vào tháng 5 của Reuters/ Ipsos cho thấy có hơn 2/3 người Mỹ đưa ra những lo ngại về những tác động tiêu cực mà AI mang lại và 61% tin rằng trí tuệ nhân tạo có thể đe doạ nền văn minh nhân loại. 

 

Bài viết đọc nhiều nhất

Bài viết mới trong ngày

Samsung ngừng cung cấp Quick Measure và AR Doodle từ ngày 31.12

Samsung ngừng cung cấp Quick Measure và AR Doodle từ ngày 31.12

Khoa Nguyen

Samsung sẽ ngừng phân phối hai ứng dụng thực tế tăng cường (AR) Quick Measure và AR Doodle trên Galaxy Store từ ngày 31.12.2026. Người dùng vẫn có thể tiếp tục sử dụng nếu đã cài đặt trước thời hạn này, nhưng các ứng dụng sẽ không còn được cập nhật và có nguy cơ gặp lỗi khi thiết bị chuyển sang phiên bản hệ điều hành mới.

Công Nghệ
Dấu ấn J-Pop vươn tầm toàn cầu: Đế chế Disney chính thức công bố phim tài liệu đặc biệt về giọng ca chính YOASOBI – "Lilas Dreams & Memories" lên sóng quốc tế vào ngày 30/12

Dấu ấn J-Pop vươn tầm toàn cầu: Đế chế Disney chính thức công bố phim tài liệu đặc biệt về giọng ca chính YOASOBI – "Lilas Dreams & Memories" lên sóng quốc tế vào ngày 30/12

hoanlagvn

Một cột mốc mới đầy tự hào vừa được xác lập đối với nền âm nhạc đại chúng Nhật Bản trên bản đồ giải trí thế giới. Hãng giải trí khổng lồ Disney đã chính thức đưa ra thông báo xác nhận sẽ phát hành rộng rãi trên quy mô toàn cầu bộ phim tài liệu nguyên bản gồm hai phần mang tên "Lilas Dreams & Memories" — tác phẩm khai thác sâu hành trình nghệ thuật, những ký ức tuổi thơ và trải nghiệm âm nhạc đầy cảm xúc của nữ ca sĩ kiêm nhạc sĩ tài năng Lilas Ikuta (nghệ danh ikura), giọng ca chính làm nên linh hồn của bộ đôi đình đám YOASOBI.

Giải trí
Lên đầu trang