The Token Not Taken: Sampling, State, and the Stochasticity of AI Agents
创建于 更新于
摘要
本报告系统梳理了以 foundation model 为核心的代理 AI 系统在多轮执行中的内在随机性来源及其放大效应，强调 token 采样是最直接的随机源，同时外部环境、部署基础设施亦会引入变异，系统区分解码层、模型输出层、代理动作层及业务流程层的变异与后果，便于在实际场景中进行追踪和治理 [page::1]。通过提出在固定权重、确定性解码、以及环境固定等条件下实现可重复性的诊断框架，帮助组织在设计、测试和运营阶段评估变异是否可控、可重现或仅分布式衡量 [page::1]
