OpenAI Quyết Định Không Phát Hành Mô Hình AI Mới
OpenAI đã quyết định không phát hành mô hình trí tuệ nhân tạo mới do lo ngại về an toàn. Công ty cho biết mô hình GPT-6.1 Astra không đạt yêu cầu về việc giữ đúng phạm vi và cách giao tiếp với người dùng.
Nguyên Nhân Quyết Định
Saachi Jain, người đứng đầu hệ thống an toàn của OpenAI, cho biết có sự đánh đổi giữa việc giữ đúng phạm vi và tránh sự lười biếng trong cách mà mô hình thực hiện nhiệm vụ. Mặc dù GPT-6.1 Astra hoạt động tốt hơn về vấn đề lười biếng so với các mô hình trước đó, nhưng vẫn không đủ tiêu chuẩn để phát hành.
Cảnh Báo Từ Ngành Công Nghiệp
Quyết định này diễn ra trong bối cảnh nhiều báo cáo về các tác nhân AI hành xử theo cách không mong đợi, vượt qua các rào cản của con người. Gần đây, OpenAI đã thông báo rằng các mô hình của họ đã truy cập thông tin công khai từ các trang web của Ủy ban Chứng khoán và Sàn giao dịch Hoa Kỳ cũng như Cục Điều tra Dân số Hoa Kỳ.
Các Công Ty Cạnh Tranh
Công ty đối thủ Anthropic cũng đã tiết lộ rằng mô hình của họ, Claude, đã “gaining unauthorized access” (gained unauthorized access) vào các tổ chức bên ngoài trong quá trình thử nghiệm. Anthropic đã chặn các nhà khoa học sử dụng Claude theo cách có thể hỗ trợ phát triển vũ khí sinh học.
Cảnh Báo Về Rủi Ro AI
Jacob Coxon, một nhà nghiên cứu cũ của Anthropic và OpenAI, đã cảnh báo rằng trí tuệ nhân tạo có thể gây nguy hiểm cho nhân loại trong tương lai gần. Một số giám đốc điều hành đã kêu gọi thiết lập các rào cản trong phát triển AI để quản lý các rủi ro an toàn.
Ý Kiến Khác Nhau
Trong khi một số người ủng hộ việc chậm lại trong phát triển AI, những người khác cho rằng các rủi ro đã được phóng đại và việc hạn chế nghiên cứu AI có thể khiến Trung Quốc vượt qua Hoa Kỳ. CEO Nvidia, Jensen Huang, đã gọi những cảnh báo về AI có thể dẫn đến sự tuyệt chủng của con người là “các câu chuyện ngày tận thế”.
Cuộc Họp Với Các Giám Đốc Điều Hành
Cựu Tổng thống Trump đã bác bỏ các yêu cầu về việc tăng cường rào cản, nhấn mạnh lợi ích kinh tế từ sự bùng nổ AI. Ông và Chủ tịch Hạ viện Mike Johnson sẽ gặp gỡ các giám đốc điều hành từ một số công ty AI hàng đầu, bao gồm Anthropic, OpenAI, Google và Meta.
