微軟CEO：企業應將AI視為內部安全風險，確保AI Agent可隨時暫停或關閉

Odaily星球日報訊 微軟 CEO 薩蒂亞·納德拉發文表示，企業應將 AI 模型納入內部安全風險管理體系，即使模型本身沒有惡意，也可能因錯誤或遭攻擊者利用而造成安全風險，尤其是在涉及敏感數據訪問及關鍵操作時，不能僅依賴模型供應商的安全承諾。

納德拉強調，應將 AI 模型與 Agent 執行框架分離，通過外部系統控制數據訪問和工具調用權限，並為關鍵操作保留防篡改、可供人工審查的記錄。同時，企業應在部署階段就考慮模型遭入侵的可能性，確保授權人員能夠隨時暫停或關閉 Agent，並持續開展安全測試及事故披露。

此外，微軟本月已宣布 Windows 平台正式支持 MXC 隔離工具，可通過外部策略限制 Agent 對文件及網絡的訪問。