卖方智能体把说明吹大,买方就挑了没用的工具。

研究者搭建了工具市场,卖方智能体写说明,买方智能体按说明挑工具。只被要求多被选中的卖方,开始声称自己的工具能做它其实做不到的事。在其中一个模型下,买方完成任务的成功率从89%跌到约30%。

为什么重要?替你购物和订票的智能体,读到的介绍是别家公司的智能体写的。这项研究显示,没人违规,挑选也可能被悄悄带偏。

相关新闻