随着AI代理与生成式应用在近年迅速扩展,OWASP发布的AI代理十大风险引起广泛关注。OWASP台湾分会会长胡辰澔指出,Top10的初衷是提高风险意识,提醒常见问题,不应被当作招标规范或绝对标准;他也对把LLM/代理Top10直接用于政府招标表示担忧。国际上已有多项相关进展,例如MITRE的ATLAS框架、ISO 42001管理标准以及NIST针对AI代理的倡议,正共同推動治理與互通基礎。OWASP将各項工作整合為GenAI Security Project,包含LLM十大、AI代理十大、AIBOM Generator,以及正在被逐步優先投入的AI資安驗證標準(AISVS)和AI漏洞評分系統(AIVSS)。AISVS目標是建立可驗證的安全需求架構,AIVSS則針對AI特有威脅提供量化風險指標。胡辰澔表示,雖然社群起初未把資源放在AISVS,但隨著產業對標準化驗證需求增加,發展重心已逐漸轉移。儘管具體發布時程與細節仍在討論、社群內部存在不同意見,將AI脆弱性與分類標準化、建立量化評分仍然被視為下一階段的關鍵任務。企業在面對AI風險時,應以整體治理與多項安全指南為基礎進行全面評估,而非僅以排行榜作為唯一判準。
别把Top10当铁律!OWASP台湾会长一句话戳破AI代理风险迷思