AnthropicがClaudeの隠された思考に「コンテキストロック」を追加、モデル蒸留をさらに防止

Odaily星球日报訊 Anthropic は Claude の暗号化された隠された思考に「コンテキストロック」を追加し始めた。Fable 5.1 が API を通じて生成する暗号化された思考は、生成時のシステムプロンプト、ツール、および履歴メッセージと一致している必要があり、コンテキストが変更されると、関連する思考内容は無効になる。

据悉、このメカニズムは主にモデル蒸留攻撃を防ぐために使用される。これまで攻撃者は他の互換性のあるモデルを利用して Claude が生成した暗号化された思考を読み取ろうとする可能性があったが、今回のアップデートにより、思考内容を特定の対話コンテキストにさらに結び付け、これまでの「モデルバインディング」に基づいて、コンテキストを変更して推論プロセスを抽出する経路をさらに塞ぐ。