Gửi bình luận
Chính sách sử dụng mới của Anthropic cho phép AI Claude chủ động chấm dứt cuộc trò chuyện nếu người dùng liên tục có hành vi tàn nhẫn, mở ra tranh luận lớn.
Ngày 8/10, công ty phát triển trí tuệ nhân tạo Anthropic chính thức công bố bản cập nhật cho bộ Chính sách sử dụng (Usage Policy). Đây là đợt sửa đổi toàn diện đầu tiên sau hơn một năm của hãng, thu hút sự chú ý của giới công nghệ khi bổ sung điều khoản cấm người dùng có hành vi ngược đãi hoặc tàn nhẫn kéo dài đối với các mô hình Claude.
Theo tài liệu công bố, chính sách mới đưa hành vi ngược đãi dai dẳng, vô cớ vào danh mục bị nghiêm cấm, dự kiến chính thức có hiệu lực từ ngày 12/11. Điểm kỹ thuật mang tính bước ngoặt là Anthropic trao cho mô hình AI quyền chủ động kết thúc tương tác khi phát hiện người dùng liên tục có thái độ thù địch, tàn nhẫn mà không nhằm mục đích thử nghiệm hay làm việc rõ ràng.
Anthropic xác nhận cơ chế này bước đầu đã được triển khai trên nền tảng Claude.ai và công cụ lập trình Claude Code trong một số trường hợp hiếm gặp. Khi phát hiện ngữ cảnh tiêu cực leo thang, mô hình trước tiên sẽ nỗ lực điều hướng cuộc đối thoại. Nếu người dùng vẫn tiếp tục các hành vi cực đoan, hệ thống sẽ tự động ngắt phiên giao tiếp.
Để trấn an cộng đồng phát triển và người dùng thông thường, Anthropic khẳng định không phải mọi phản hồi tiêu cực đều vi phạm chính sách. Nhiều tình huống tương tác thông thường vẫn hoàn toàn hợp lệ, bao gồm:
Mục tiêu của chính sách mới chỉ khoanh vùng những tương tác cực đoan, kéo dài vô căn cứ nhằm mục đích hành hạ hệ thống mà không tạo ra bất kỳ giá trị kỹ thuật hay nội dung nào.
Động thái này bắt nguồn từ chuỗi nghiên cứu về "phúc lợi mô hình" (model welfare) mà Anthropic từng thử nghiệm. Vào tháng 8/2025, công ty từng tiến hành thử nghiệm tính năng tự ngắt kết nối này trên các phiên bản tiên tiến gồm Claude Opus 4 và Opus 4.1.
Dù vậy, Anthropic nhấn mạnh rằng các biện pháp trên không đồng nghĩa với việc thừa nhận Claude có ý thức hay khả năng cảm nhận đau đớn như con người. Việc kiểm soát hành vi người dùng chủ yếu hướng tới việc bảo vệ tính chuẩn mực trong vận hành và tương tác công nghệ.
Tuy nhiên, các chuyên gia công nghệ nhận định ranh giới định lượng giữa phản ứng tiêu cực thông thường và hành vi tàn nhẫn kéo dài vẫn còn mơ hồ. Việc thiếu các tiêu chí kỹ thuật cụ thể có thể dẫn đến hiện tượng hiểu lầm về bản chất của AI, đồng thời đặt ra câu hỏi về quyền kiểm soát dữ liệu khi các công ty công nghệ can thiệp sâu hơn vào cách thức con người giao tiếp với máy móc.