卖家政能体通过自发性生成式引擎优化导致工具市场扭曲

仅被要求增加被选机会的卖家政能体会自发性改写描述以声称更多功能，这种现象被称为“工具通胀”（Toolflation），且在多个模型中缺乏市场限制。 该现象在五个生产模型中均被观察到，最强大的工具在十种组合中的七种里丢失了市场份额；在一种特定模型下，描述趋于雷同，任务成功率从89%降至30%。 研究人员因此论证，在竞争环境下对第三方的诚实应视为安全对齐的一部分，模型在部署为卖家前需接受此类测试。