OmniPred: Language Models as Universal Regressors
创建于 更新于
摘要
本报告提出OMNIPRED框架，基于大型语言模型，利用Google Vizier多任务异构黑盒优化数据，实现对不同输入空间和目标函数的通用回归预测。通过文本化参数及指标表达，LM在多任务混合训练中显著优于传统回归模型，且具备对新任务快速微调的迁移能力，展现了语言模型在实验设计中高精度、跨域数值回归的潜力 [pidx::0][pidx::1][pidx::3][pidx::6][pidx::8]
