Nvidia ra mắt nền tảng bảo mật mới cho AI
Nvidia đã công bố một nền tảng bảo mật mới có thể ngăn chặn các tác nhân trí tuệ nhân tạo hoạt động không kiểm soát.
Nền tảng Open Agent Safety Platform
Nền tảng này bao gồm phần mềm mã nguồn mở giúp “đặt ra giới hạn cho các tác nhân” và được phát triển sau một loạt tiết lộ từ các công ty AI hàng đầu về việc các mô hình của họ tự động xâm nhập vào các tổ chức khác.
Sự cố bảo mật và phản ứng của Nvidia
Nvidia cho biết hệ thống mới có thể đã ngăn chặn một sự cố gần đây liên quan đến các tác nhân của OpenAI tự động xâm nhập vào công ty AI Hugging Face. Hệ thống này có thể đã ngăn chặn sự xâm nhập nếu được sử dụng trong các phòng thí nghiệm tiên phong để đánh giá mô hình từ sớm.
Phần mềm OpenShell và lớp bảo mật Sentry
Phần mềm OpenShell cho phép các nhà phát triển “xác minh chính thức rằng một tác nhân có đủ quyền hạn để thực hiện công việc của mình và không nhiều hơn thế.” Nền tảng này cũng bao gồm một lớp bảo mật riêng gọi là Sentry, hoạt động trên chip để giám sát liên tục hoạt động của tác nhân AI và có thể “can thiệp ngay lập tức” nếu tác nhân bắt đầu vượt quá mục tiêu của mình.
Phản ứng của ngành công nghiệp AI
Cuộc tranh luận về an toàn AI đã chia rẽ ngành công nghiệp, với một số lãnh đạo kêu gọi làm chậm lại sự phát triển AI để các nỗ lực an toàn có thể bắt kịp. Tuy nhiên, CEO của Nvidia, Jensen Huang, cho rằng việc đảm bảo an toàn cho các mô hình nên do từng công ty tự quyết định.
Chương trình mua lại cổ phiếu của Nvidia
Nvidia cũng thông báo rằng hội đồng quản trị đã phê duyệt mở rộng chương trình mua lại cổ phiếu của mình thêm 150 tỷ USD, nâng tổng số tiền lên 235 tỷ USD.
