LARGE LANGUAGE MODELS AS ‘HIDDEN PERSUADERS’: FAKE PRODUCT REVIEWS ARE INDISTINGUISHABLE TO HUMANS AND MACHINES∗
创建于 更新于
摘要
本报告通过三项系统性研究，首次实证比较了人类与先进大型语言模型（LLMs）在辨别真假产品评价中的表现，发现双方准确率均仅略高于随机水平，且LLMs在检测造假内容时表现不如人类，显示生成与识别能力严重失衡。此外，研究揭示了人机在判断真实性时采用不同启发式策略：人类存在“怀疑偏差”，更倾向怀疑过度正面的评价，而LLMs更依赖文本表层特征如长度与复杂度，且表现出“真实性偏差”，普遍将评价误判为真实。这些发现凸显计算机生成内容对电商评价体系的潜在威胁，并呼吁发展更有效的认证机制来确保平台及消费者的信任安全 [page::0][page::1][page::9][page::12][page::15][page::16]
