Should I State or Should I Show? Aligning AI with Human Preferences
创建于 更新于
摘要
本研究通过激励性在线实验比较“陈述偏好”（participants 写给 AI 的提示）与“揭示偏好”（参与者过去的选择数据）在使 AI 代理对人类风险选择对齐方面的效果，发现整体上基于揭示偏好的 AI（Data-AI）在离样本预测准确率上显著优于基于陈述偏好的 AI（Prompt-AI），且差异主要源于人类难以将真实偏好准确书写为提示；当两类信息冲突时，混合信息的代理更倾向于遵循提示，从而降低预测性能 [page::9][page::19]
