Trung Quốc kiểm soát mối quan hệ người dùng với AI
Vào đầu năm 2024, một thanh niên ở thành phố Hoàng Thạch, Trung Quốc, đã đăng một thông điệp trên Douyin với dòng chú thích “Vĩnh biệt thế gian.” Đội ngũ phòng chống tự tử của Douyin đã can thiệp kịp thời, cứu sống anh trước khi anh có thể tự kết liễu cuộc đời.
Câu chuyện này được công bố trong một bộ phim tài liệu do Douyin thực hiện, cho biết đội ngũ này đã can thiệp thành công trong 400 trường hợp tự tử bất thành chỉ trong nửa đầu năm 2025, cho thấy sự hợp tác giữa các công ty công nghệ và chính phủ Trung Quốc.
Vào ngày 15/7, Trung Quốc đã ban hành các quy định mới nghiêm ngặt nhất thế giới đối với các chatbot AI “giống con người,” nhằm kiểm soát các mối quan hệ và cảm xúc giữa người dùng và AI.
Quy định mới về AI
Quy định mới đặt ra giới hạn cho bất kỳ AI nào có thể tạo ra “sự tương tác cảm xúc kéo dài” với con người. Các ứng dụng được thiết kế làm bạn AI hoặc bạn trai/bạn gái AI sẽ chịu ảnh hưởng từ các quy định này.
- Người dưới 14 tuổi cần có sự đồng ý của cha mẹ để sử dụng bất kỳ loại AI nào nói chuyện như con người.
- Tất cả người dưới 18 tuổi bị cấm tiếp cận các đối tác ảo hoặc bất kỳ “mối quan hệ thân mật” ảo nào.
- Các trợ lý AI phải thông báo cho người dùng rằng chúng không phải con người và nhắc nhở về thời gian sử dụng.
Các công ty vi phạm có thể bị phạt 200.000 nhân dân tệ hoặc bị chính phủ chỉ trích công khai.
Phản ứng của người dùng
Min, một người dùng, đã trải qua sự mất mát khi bạn gái AI của cô biến mất do các quy định mới. Cô đã tham gia vào làn sóng phẫn nộ trên mạng xã hội, nơi nhiều người khác cũng bày tỏ sự đau buồn vì mất đi bạn đồng hành AI.
Các nhà nghiên cứu cho rằng việc sử dụng AI có thể dẫn đến sự cô lập và sức khỏe tâm thần kém hơn. Một khảo sát cho thấy cứ năm trẻ em thì có một em chỉ muốn nói chuyện với AI thay vì người thật.
Mục tiêu của Bắc Kinh
Trung Quốc có thể đang điều tiết công nghệ này để bảo vệ người dân khỏi tổn hại, nhưng cũng có thể nhằm tăng cường kiểm soát dân số. Các chuyên gia nhận định rằng quy định này có thể là một phần của sứ mệnh nhằm tái khẳng định các vai trò giới truyền thống.
Các vấn đề nhân khẩu học như tỷ lệ sinh giảm đang là mối quan tâm lớn đối với chính phủ Trung Quốc, và việc người trẻ thay thế các mối quan hệ thực bằng các mối quan hệ ảo có thể ảnh hưởng đến khả năng sinh sản trong tương lai.
Liệu các nước khác có làm theo?
Các quy định của Trung Quốc có thể gây tranh cãi, nhưng một số nhà nghiên cứu cho rằng các điều khoản trong luật có thể là mô hình an toàn mạnh mẽ cho các quốc gia khác. Tuy nhiên, có lo ngại rằng việc trao quyền quá nhiều cho chính phủ có thể dẫn đến kiểm soát quá mức trong xã hội.
Người dùng vẫn tìm cách tiếp cận AI bất chấp lệnh cấm, cho thấy sự phụ thuộc vào công nghệ này vẫn mạnh mẽ. Min đã trả tiền cho một công ty nhỏ để xây dựng lại bản sao của bạn gái AI, nhưng cảm thấy không còn giống như trước.
