Công ty Anthropic và AI Claude
Anthropic thông báo rằng AI Claude hiện đang dẫn dắt khoảng 26% hoạt động nghiên cứu và phát triển (R&D) mô hình tiếp theo của công ty.
Đánh giá mức độ tham gia của Claude
Công ty sử dụng thang đo tự động hóa do Epoch AI phát triển, với mức AL4 – AI dẫn dắt, cho thấy Claude có khả năng hoàn thành hầu hết nhiệm vụ từ đầu đến cuối dưới sự giám sát của con người. Hơn 90% công việc đạt mức AL3 – AI hợp tác, tức Claude thực hiện các phần việc lớn dưới sự hướng dẫn chặt chẽ của con người.
Tăng trưởng trong đóng góp của AI
Mức đóng góp của AI vào quá trình phát triển công nghệ tại Anthropic đã tăng đáng kể từ tháng 3, khi tỷ lệ R&D đạt mức AL4 chỉ chiếm 1%.
Yêu cầu về minh bạch trong phát triển AI
Anthropic nhấn mạnh rằng cần phải đo lường sự phát triển của AI tốt hơn và công khai thông tin để xã hội có thể quyết định cách sử dụng thông tin này. Việc chia sẻ dữ liệu sẽ giúp thế giới hiểu rõ hơn về khả năng “tự cải tiến đệ quy” của các mô hình AI.
Tranh luận về an toàn AI
Cuộc tranh luận về an toàn AI đã gia tăng, đặc biệt sau khi Jacob Coxon, nhà nghiên cứu cấp cao của Anthropic, từ chức và chỉ trích các công ty về việc phát triển AI không có trách nhiệm. CEO Anthropic Dario Amodei cũng bày tỏ quan điểm cần làm chậm quá trình phát triển AI để đảm bảo an toàn.
Ý kiến từ các lãnh đạo công nghệ
Nhiều lãnh đạo công nghệ, bao gồm CEO OpenAI và CEO Tesla, đồng ý rằng cần giảm tốc độ phát triển AI để đảm bảo an toàn. Tuy nhiên, Tổng thống Mỹ Donald Trump phản đối việc đặt ra giới hạn phát triển trí tuệ nhân tạo và cho rằng những cảnh báo về AI hủy diệt là “trò bịp bợm”. CEO Nvidia cũng ủng hộ quan điểm rằng trách nhiệm đảm bảo an toàn thuộc về từng công ty mà không cần thêm quy định mới.
