微軟CEO：超級智慧時代需建立「可控」架構，不能將責任外包給AI

Odaily星球日報訊 微軟 CEO Satya Nadella 發布長文表示，隨著超級智慧（Super Intelligence）系統的發展，行業需要重新審視 AI 信任架構，不能簡單依賴模型提供方的承諾，也不能將 AI 行為帶來的責任外包。

納德拉稱，過去幾十年傳統軟體系統被部署到各行業時，開發者通常能夠追蹤行為對應的具體程式碼路徑。但如今的前沿 AI 模型能力已超過傳統軟體系統，卻無法明確將模型輸出歸因於具體訓練資料或模型權重配置。企業正在將具有自主行動能力的 AI 系統接入敏感資料，並賦予其執行關鍵任務的權限，因此需要建構具備可觀察性、可測試性和可控性的系統，將「智慧供給」與「權限控制」分離。

納德拉提出，應採用工程化方式治理超級智慧，透過確定性的系統設計、人工控制和操作流程約束非確定性模型，並將 AI 系統視為潛在「內部風險」進行管理，包括限制權限、記錄行為、建立隔離邊界等。他還提出超級智慧系統應遵循多模型協作、全程可觀察、持續驗證、獨立控制、獨立審計、風險隔離和事件披露等原則。其中，他強調模型思維鏈（CoT）透明度是基礎要求，但僅依靠 CoT 透明並不足夠，因為模型輸出本身仍可能缺乏可靠的可解釋性。

納德拉最後表示，未來最值得信任的超級智慧系統，並不是「最值得信任的模型」，而是「即使不完全信任模型，也仍能安全運行的系統」。