CertiKレポート：補助ツールから「AI従業員」へ、エージェント型AIがいかにセキュリティとコンプライアンス業務を再構築するか
- 核心的な見解：CertiKレポートは、AIが補助的な分析ツールから、限定された権限の範囲内で調査と対応を自律的に実行できる「ワークチームのメンバー」へと移行しつつあると指摘している。この転換はセキュリティとコンプライアンスの効率を向上させる一方で、企業の権限管理、AIの監督、および説明責任のメカニズムに新たな要求を突きつけている。
- 重要な要素：
- 攻撃とマネーロンダリングの速度加速、専門人材の不足、および規制要件の増加が、AIを補助的分析から自律的実行へと押し進めている。
- エージェント型AIは多段階の推論、ツールの呼び出し、証拠の統合、および自律的な対応が可能であり、異常をフラグするだけの従来型AIとは異なる。
- Web3領域では、AIはすでにスマートコントラクト監査とオンチェーン資金追跡に応用されているが、最終的な判断は依然としてエンジニアが担っている。
- Bybit攻撃から1ヶ月以内に、盗まれたETHの86.29%がビットコインに交換され、ミキシング、クロスチェーンブリッジ、およびOTC取引が関与していた。
- 自律的実行は誤判断のリスクを増幅させる可能性があり、エージェント自体もプロンプトインジェクションなどの攻撃対象となり得る。
- 企業はエージェントの権限境界を明確にし、監査記録を保持し、定期的なレッドチームテストを実施し、人間の責任者を指定する必要がある。
10月5日、世界最大のWeb3セキュリティ企業CertiKはIntel3Dレポート『AI従業員の台頭：エージェント型AIがサイバーセキュリティ、AML、コンプライアンスをいかに再構築するか』を発表した。レポートは、AIがアナリストの問題特定を支援する補助ツールから、限定された権限内で調査、判断、対応タスクを完了できるワークチームのメンバーへと移行しつつあると指摘している。この変化は従来の金融およびWeb3領域のセキュリティとコンプライアンスのプロセスを再構築しており、企業がAIをいかに監督し、権限を画定し、責任を負うかについて新たな要
求を突きつけている。
補助分析から自律実行へ
レポートは、攻撃とマネーロンダリング活動の速度、専門人材の不足、そして増大する規制要件が、この転換を共同で推進していると見ている。デジタル資産領域では、攻撃は1回の取引内で完了する可能性があり、盗まれた資金も短時間で複数のアドレスやクロスチェーンブリッジを経由して移動しうる。同時に、セキュリティとコンプライアンスチームが処理すべきアラートと取引は増え続けており、人員規模の拡大だけではリアルタイムの監視・調査ニーズを満たすことが難しくなっている。
異常をフラグ付けしたりテキストを生成するだけの従来のAIツールと比べ、エージェント型AIは多段階推論を行い、外部ツールを呼び出し、異なるソースの証拠を統合し、実行結果に基づいて次の行動を決定できる。例えば、異常なログインを検知した後、システムはデバイス情報、過去のログイン位置、脅威インテリジェンスを組み合わせて調査を実施し、既定の権限内で対応措置を講じると同時に、人間によるレビュー用の記録を残すことができる。
セキュリティ監査とAML調査の再分業
この傾向はすでに従来のセキュリティおよびAML業務に現れている。CertiKによると、エージェントシステムは異なるシステムのログを関連付け、アラートを初期トリアージし、注目すべきイベントを人間に引き渡すことができる。AML調査では、AIが取引履歴、顧客情報、エンティティの関連性を集約し、リスク説明および疑わしい活動報告書のドラフトを作成できる。コンプライアンス担当者の業務は、証拠の審査、複雑な個別案件の処理、報告書提出の是非の確認へとより多く移行している。
Web3領域では、スマートコントラクト監査とオンチェーン資金追跡がレポートの重点的に議論される応用である。AI支援監査エージェントは、クロスコントラクト呼び出し関係を整理し、状態変化を分析し、アクセス制御の設定ミスや安全でないアップグレード設計などの問題の特定を支援できる。レポートはCertiKのセキュリティ実践を踏まえ、ベテラン監査人の時間配分が変化しつつあると指摘する。AIの発見の検証、複雑な攻撃経路の研究、AIツールのカバレッジと盲点の評価がより重要になり、最終判断は依然としてエンジニアが担う。
クロスチェーンの資金フローも調査手法の変化を促している。レポートはCertiKの以前の研究を引用し、Bybit襲撃後の1カ月以内に盗まれたETHの86.29％がビットコインに交換され、その過程でミキシングサービス、クロスチェーンブリッジ、OTC取引などのチャネルが関与したと述べている。このような経路は、調査ツールが複数のチェーン上の手がかりを継続的に連結することを要求する。このシナリオにおけるエージェント型AIの役割は、事後に取引経路を再構築するだけでなく、資金の移動に伴って調査を追跡することである。
AIがコンプライアンスプロセスに入り、自身の行為も監査対象に
コンプライアンス業務は、取引前および日常運用の段階をより多くカバーし始めている。AIエージェントは決済前に取引相手アドレスと取引リスクを評価し、システム設定と統制要件を継続的に照合し、規制報告書の作成を支援できる。これによりコンプライアンスチームはより早くリスクを発見し、異常発生から人的介入までの時間を短縮する機会を得る。
エージェントがデジタル資産を直接保有・取引し、取引戦略を実行したり組織の資金を管理したりするようになるにつれ、AI自身の監督も新たなコンプライアンス課題となっている。企業はそのオンチェーン行為を監査し、使用したデータ、判断根拠、実際の操作を後続の審査や証拠採取のために保存する必要がある。レポートは、AIにコンプライアンス業務を実行させることと、AI自身がコンプライアンスを遵守しているかを判断することは別のタスクであり、導入組織は依然としてエージェントの行為に責任を負わなければならないと強調している。
自律実行がもたらす新たな誤判定と攻撃リスク
自律実行能力は誤りの影響を増幅させる可能性もある。CertiKはレポートで、モデルが実際の侵入を無害なイベントと誤判定したり、誤った資金経路を生成したり、スマートコントラクトに対して信頼できないセキュリティ判断を下したりする可能性があると警告している。システムが定型業務で安定したパフォーマンスを示すほど、人間の審査者はチェックを緩めやすくなり、稀だが深刻な結果を招く誤りが見逃される可能性が高まる。
攻撃者も同様にAIを利用して脆弱性探索、ソーシャルエンジニアリング攻撃、偵察を加速できる。機密データへのアクセス権とツール呼び出し権限を持つセキュリティ・コンプライアンスエージェント自体も攻撃対象となりうる。プロンプトインジェクションや入力操作によって、エージェントが不正取引を承認したり、有効な統制措置を無効化したりする可能性がある。したがってAIの安全性を評価するには、悪意ある入力に直面した際の挙動を検証する必要もある。
権限境界と責任メカニズムを同時に確立する必要
これらのリスクに対して、CertiKは企業が導入段階でエージェントの職責、権限、エスカレーション処理経路を明確にし、どの操作を自律実行でき、どの操作が人間の承認を必須とするかを規定し、重要な意思決定には完全な監査記録を保持し、定期的にレッドチームテストを実施することを推奨している。各エージェントには明確な人間の責任者を置き、そのパフォーマンスと失敗に責任を負わせるべきである。AIが担う業務範囲は拡大できるが、導入組織および関連人員の結果に対する責任は依然として存在する。
エージェント型AIは、企業に導入とガバナンスを同時に進める压力を突きつけている。関連能力を欠くチームは、処理速度、コスト、カバレッジで後れを取る可能性があり、自律システムを導入しながら相応の監督メカニズムを欠く企業は、新たな運用・コンプライアンスリスクを招きうる。AIがより多くの重要タスクを担うにつれ、企業は業務分掌を同時に調整し、権限境界を明確にし、監督と説明責任を実装する必要がある。「AI従業員」の台頭はセキュリティとコンプライアンス業務の組織方法を変えつつあり、企業がそこから持続的に利益を得られるかどうかは、そのガバナンス能力がAIの実行能力に追いつけるかどうかにかかっている。
