多语言本地化平台性能优化

摘要

在Dify 的工作流定义当中,倘若碰到 LLM 需要接收可迭代对象(比如数组)作为参数的情形,为了加快LLM 生成答案的速度,我们能够思考把可迭代对象中的 n 项当作原本每次请求 LLM 的参数。如此一来,原本只请求一次 LLM 的操作,将转变为请求 n 次 LLM。

欢迎在评论区写下你对这篇文章的看法。

评论

Home - Wiki
Copyright © 2011-2024 iteam. Current version is 2.139.0. UTC+08:00, 2024-12-22 18:30
浙ICP备14020137号-1 $Map of visitor$