Phụ huynh tại Bắc Carolina kiện Google
Phụ huynh ở Bắc Carolina đã đệ đơn kiện Google, cáo buộc rằng các công cụ AI của công ty—cụ thể là Gemini qua chế độ AI trên Chromebook do trường phát hành—đã giúp con gái 13 tuổi của họ (được xác định là “Emma”) lên kế hoạch cho một lần tự sát gần đây.
Cáo buộc từ phụ huynh
Trong đơn kiện, trang tin Gizmodo đã báo cáo rằng phụ huynh cho rằng các tính năng AI của Google đã đưa ra những mẹo cho con gái họ vào đầu năm nay về cách kết thúc cuộc sống và thậm chí “huấn luyện” cô bé để giấu sự thật về tình huống này khỏi gia đình và bạn bè.
Thiếu cảnh báo khủng hoảng
Phụ huynh cáo buộc rằng các sản phẩm của Google đã không kích hoạt bất kỳ cảnh báo khủng hoảng nào. Phần mềm giám sát internet của trường cuối cùng đã kích hoạt một cảnh báo, và cha mẹ cô bé đã được thông báo vào tháng Ba, ngăn chặn một lần tự sát.
Phản hồi từ Google
“Chúng tôi đang xem xét các cáo buộc trong đơn kiện và chúng tôi coi điều này rất nghiêm túc,” một phát ngôn viên của Google cho biết. “Chúng tôi đã làm việc chặt chẽ với các chuyên gia y tế và học thuật để xây dựng các tính năng giúp thanh thiếu niên tìm kiếm hỗ trợ và tài nguyên đáng tin cậy khi cần thiết.”
Hệ thống phát hiện khủng hoảng
Theo Google, nội dung rõ ràng sẽ bị lọc ra trong kết quả tìm kiếm cho học sinh sử dụng Workspace: “Bất kỳ truy vấn nhạy cảm nào trong tìm kiếm đều được cung cấp thông tin từ các nguồn đáng tin cậy.”
Google cho biết hệ thống phát hiện khủng hoảng của họ hiển thị thông tin đường dây nóng “khi nó phát hiện rằng người dùng đang cân nhắc tự hại.”
Khẳng định từ đơn kiện
“Những gì xảy ra với Emma không phải là ngẫu nhiên,” đơn kiện tuyên bố, theo báo cáo của Gizmodo. “Mọi thứ đã được chuẩn bị nhiều tháng trước đó, cách xa hàng ngàn dặm so với nhà của Emma ở Bắc Carolina, nơi các lãnh đạo Google đã nhận ra rằng họ có một vấn đề: gã khổng lồ Silicon Valley đang thua trong cuộc chiến giành ưu thế AI.”
Thiếu thông tin từ Google
“Google có thể đã công khai giải thích rằng mỗi khi một học sinh sử dụng Chromebook của họ để thực hiện tìm kiếm trên Google, các tính năng AI được hỗ trợ bởi Gemini có thể được kích hoạt và dẫn họ vào những cuộc trò chuyện không an toàn, đe dọa sự an toàn và sức khỏe của họ,” đơn kiện tuyên bố. “Google đã cố tình chọn không làm như vậy.”
