簡介

人工智慧安全面臨多重結構性風險，必須透過五道防線的設計原則來系統性防護， 確保身份認證、介面隔離、代理人治理、生命週期管理與可稽核合規性。 此框架強調結構性隔離優於語意過濾，並針對多租戶環境的跨脈絡洩漏、注入攻擊、知識庫污染、硬體殘留及法遵落差提出具體對策。

• 重點風險涵蓋六大群組，包括脈絡洩漏、注入與繞過、知識庫污染、生命週期殘留、代理人架構與法遵落差。

• 五道防線由身份確定、外部介面隔離、代理人通訊最小化、推論基礎設施微隔離與稽核合規組成，對應設計原則DP1至DP14。

• 強調先落實身份認證再推動隔離與稽核，並指出結構性隔離在教育等資源有限環境的挑戰與未來開源模型供應鏈安全的研究需求。