Detecting AI Hallucinations in Finance: An Information-Theoretic Method Cuts Hallucination Rate by $92\%$
创建于 更新于
摘要
本论文提出 ECLIPSE 框架，将“语义熵”与“证据容量（evidence capacity）”的关系作为幻觉（hallucination）风险的核心判据，通过多样本语义聚类估计熵并用困惑度分解（perplexity decomposition）量化模型对证据的利用，从而在财务问答数据集上用仅 API 可得的 token logprob 实现 0.89 ROC AUC，并在覆盖率为 30% 时将幻觉率相比熵-only 方法降低 92% [page::0][page::4]。
