一句话，满足两个广告商！谷歌最新「Token拍卖模型」，多LLM联合创作广告词

原标题：一句话，满足两个广告商！谷歌最新「Token拍卖模型」，多LLM联合创作广告词
文章来源：新智元
内容字数：5771字

谷歌提出LLM Token拍卖模型：实现AI智能体高效协作

本文总结了谷歌研究人员提出的创新型token拍卖模型，该模型旨在解决多个大型语言模型(LLM)协同创作内容时如何协调“话语权”的问题，最终实现最佳效果。该模型尤其适用于广告、内容创作等需要多个AI智能体合作的领域。

1. 问题背景：多LLM协作的挑战

当多个LLM共同创作内容时，例如在广告投放中，不同广告商希望突出自身产品，这会导致协调困难。如何让AI智能体在竞争与合作中找到平衡，生成既满足各方利益又达到最佳效果的输出，是一个关键问题。

2. Token拍卖模型：核心机制

谷歌提出的token拍卖模型，通过“竞拍”的方式解决上述问题。该模型以token为单位，逐个进行拍卖。每个LLM作为竞拍者，根据自身能力和意愿对下一个token进行出价。模型的核心包括两个关键任务：

1. 扩展共享的token序列：决定下一个添加到文本中的token。
2. 确定每个竞拍者的支付费用：通过支付函数计算每个LLM需要支付的费用。

分布聚合函数扮演“裁判”角色，综合考虑每个LLM提供的token分布和出价，生成新的聚合分布；支付函数则确定每个智能体的支付金额，激励其真实表达偏好。

3. 模型设计与关键属性

研究人员强调了两个理想属性：支付单调性（提高出价，偏好体现更好）和一致聚合（不同LLM分布合理聚合）。他们证明这两个属性等同于分布聚合函数的单调性，这简化了模型设计和分析。

研究人员借鉴了“第二价格”支付机制，即出价最高者获得token，但支付第二高的价格，这能激励智能体真实出价，避免盲目抬高价格。

4. 最优聚合策略与实验结果

为了设计最优的分布聚合函数，研究人员构建了聚合损失函数，并提出了两种有效的分布聚合函数：线性分布聚合函数和对数线性分布聚合函数。实验结果表明，随着出价权重的变化，生成的广告内容能够合理地体现各方利益诉求，实现了不同广告商之间的有效协作。

5. 应用前景与结论

Token拍卖模型在广告、内容创作、智能客服等领域具有广阔的应用前景。它能让不同品牌的广告更巧妙地融合，提高广告效果；也能让多个智能体共同创作出更丰富、多元的内容。该模型为多个LLM的协同工作提供了新的思路，为后续研究和应用奠定了基础。

联系作者

文章来源：新智元
作者微信：
作者简介：智能+中国主平台，致力于推动中国从互联网+迈向智能+新纪元。重点关注人工智能、机器人等前沿领域发展，关注人机融合、人工智能和机器人对人类社会与文明进化的影响，领航中国新智能时代。