Tính năng chỉnh sửa ảnh bằng AI trên Google Earth
Google đã ra mắt tính năng mới cho phép người dùng chỉnh sửa hình ảnh địa điểm trên Google Earth bằng mô tả văn bản vào ngày 30/7. Tuy nhiên, chỉ sau chưa đầy 24 giờ, tính năng này đã bị gỡ bỏ do việc lạm dụng tạo ra nhiều hình ảnh giả mạo.
Lạm dụng tính năng
Henk van Ess, một nhà nghiên cứu AI, đã sử dụng tính năng này để tạo ra các hình ảnh giả mạo với độ chân thực cao, như hình ảnh các khu tập trung người tị nạn và nhà máy điện hạt nhân ở Iran. Ngoài ra, một số người dùng đã tạo ra các hình ảnh không có thật như trận lụt giả và quái vật Godzilla tấn công Los Angeles.
Quyết định gỡ bỏ
Google quyết định thu hồi tính năng này do tình trạng lạm dụng không thể kiểm soát. Một phát ngôn viên của Google cho biết họ đã thấy nhiều người sử dụng tính năng cho mục đích hữu ích, nhưng cũng phát hiện nhiều hình ảnh giả mạo vi phạm chính sách của hãng. Google cho biết các hình ảnh tạo bằng AI sẽ được đánh dấu và không hiển thị cho người dùng bình thường.
Tình trạng chung trong ngành
Đây không phải là lần đầu tiên một công ty phải gỡ bỏ tính năng tạo nội dung bằng AI. Meta cũng đã gặp phải tình huống tương tự khi ra mắt công cụ Muse Image, cho phép chỉnh sửa ảnh từ tài khoản Instagram công khai. Sau khi bị chỉ trích về quyền riêng tư, tính năng này đã bị khóa chỉ sau ba ngày.
