Anthropic为Claude隐藏思考加入“上下文锁”，进一步防范模型蒸馏

Theo tin tức từ Odaily, Anthropic đã bắt đầu thêm "khóa ngữ cảnh" cho cơ chế suy nghĩ ẩn (hidden thinking) của Claude. Các suy nghĩ được mã hóa được tạo ra qua API trong Fable 5.1 cần phải nhất quán với system prompt, công cụ và lịch sử hội thoại tại thời điểm tạo; khi ngữ cảnh bị thay đổi, nội dung suy nghĩ liên quan sẽ không còn hiệu lực.

Được biết, cơ chế này chủ yếu nhằm ngăn chặn các cuộc tấn công mô hình distillation (model distillation). Trước đây, kẻ tấn công có thể sử dụng các mô hình tương thích khác để cố đọc các suy nghĩ được mã hóa do Claude tạo ra. Bản cập nhật lần này tiếp tục gắn chặt nội dung suy nghĩ với ngữ cảnh hội thoại cụ thể, dựa trên cơ chế "model binding" trước đó để bịt kín con đường trích xuất quy trình suy luận thông qua việc sửa đổi ngữ cảnh.