Anthropic Đăng Ký IPO
Khi Anthropic đăng ký phát hành cổ phiếu lần đầu (IPO) được mong đợi rộng rãi vào thứ Hai, nhà phát triển trí tuệ nhân tạo đã mô tả công nghệ của mình có thể thay đổi cuộc chơi cho toàn nhân loại. Một trò chơi nguy hiểm.
Rủi Ro “Tồn Tại”
Anthropic, phát triển chatbot Claude, lưu ý trong hồ sơ IPO rằng công nghệ của họ có thể gây ra “rủi ro thảm khốc hoặc tồn tại cho nhân loại,” một sự tương phản rõ rệt với sứ mệnh sáng lập của công ty là xây dựng AI vì “lợi ích của nhân loại.”
Công ty thừa nhận việc duy trì các giới hạn xung quanh công nghệ của mình có thể khó khăn, lưu ý rằng các mô hình AI có thể “chống lại việc tắt máy” và thậm chí tham gia vào “tống tiền” để thuyết phục con người “duy trì hoạt động hoặc truy cập của mô hình.”
Công Nghệ Tự Tái Tạo
Sự phụ thuộc của Anthropic vào công nghệ của chính mình để sản xuất các mô hình AI trong tương lai — một khái niệm được gọi là “cải tiến tự động đệ quy” hoặc RSI — đại diện cho một lỗ hổng tiềm năng khác.
Thông qua RSI, các mô hình có thể tái tạo các lỗi hoặc sai sót trong các mô hình tương lai, điều này sẽ “khó phát hiện hoặc khắc phục,” Anthropic cho biết trong hồ sơ IPO.
Cuộc Tấn Công Mạng
Anthropic cảnh báo rằng tin tặc có thể truy cập trái phép vào dữ liệu độc quyền của công ty, bao gồm thông tin về tài chính, mô hình và tài sản trí tuệ khác, cũng như dữ liệu cá nhân của người dùng.
Phản Đối Trung Tâm Dữ Liệu
Anthropic trích dẫn sự phản đối của cộng đồng đối với các trung tâm dữ liệu là một rủi ro đối với doanh nghiệp của mình.
Sự phát triển của trung tâm dữ liệu “đã gây ra tranh cãi công khai và sự giám sát quy định liên quan đến tác động môi trường, sử dụng đất và nước, và phân bổ các nguồn lực năng lượng hạn chế,” công ty cho biết trong hồ sơ.
Phơi Nhiễm Pháp Lý
Anthropic cho biết họ có thể bị kiện về thiệt hại gây ra bởi các mô hình AI của mình. Đồng thời, Anthropic thừa nhận họ có thể không thể tự bảo hiểm đầy đủ chống lại các trách nhiệm pháp lý như vậy, vì ngành công nghiệp bảo hiểm chưa bao giờ phải viết chính sách bao phủ các rủi ro liên quan đến AI.
