Telemetry and Concealment in Self-Adapting Generative AI: Logging Architecture, Adversarial Model Hiding, and the Limits of Detection
创建于 更新于
摘要
本文研究持续自适应生成式人工智能模型在模型风险管理中的持续验证缺口，提出结合行为KL散度、Merkle权重链、连续时间二次变差、Lyapunov稳定性与CUSUM触发器的遥测架构，并系统分析抑制、伪造、侧信道、噪声掩蔽、Girsanov变换和Hessian利用等六类隐藏攻击及其应对措施。[page::3][page::6][page::14][page::20] 研究证明，在任意有限检测分辨率下，仍存在具有严格正半径的不可检测扰动集合，因此连续遥测只能缩小风险，不能替代定期侵入式审计，最终形成“连续监测+周期审计”的双重治理机制。[page::30][page::31][page::40]
