日銀副総裁陸磊氏：AI技術はアルゴリズムのブラックボックスなどの新たなリスクをもたらす

Odaily星球日報によると、中国人民銀行の陸磊副総裁は中国・ASEAN金融協力・発展フォーラムにおいて「中国とASEANの金融分野における人工知能協力の深化」をテーマに講演し、現在、大規模モデルやエージェントに代表される次世代人工知能技術は、金融サービスを支える重要なツールであると同時に、アルゴリズムのブラックボックスやモデルのハルシネーションといった新たなリスクをもたらしていると述べた。「特に、人工知能は人間の行動の根底にある論理を学習・判断することができるが、人間は人工知能の内部意思決定プロセスを透視することが難しい。このような人間と人工知能の間の『非対称な理解』は、金融業界に深いレベルの課題をもたらす可能性があり、安全ガバナンスの重要性を浮き彫りにしている」と陸磊氏は述べた。われわれはASEAN諸国との協力を強化し、人工知能技術に由来する新たな金融リスクを共同で検討・判断し、モデルのライフサイクル全体にわたる管理やアルゴリズムリスクの予防・管理に関する実践経験を交流し、デジタル化・智能化の発展に適合した安全防護体系を整備し、「人工知能＋金融」の安全屏障を強固にしたいと考えている。(金融時報)