研究人员提出SMC机制以加速大模型智能体工具调用

来源简报

研究人员提出SMC机制以加速大模型智能体工具调用: 研究人员引入了推测性宏提交（SMC），这是一种运行时机制，旨在减少使用工具的 LLM 代理的挂钟时间。SMC 使用更快的推测性草稿模型，在隔离的环境快照上预测并执行未来的动作链。