Accueil Sujet library logo Bibliothèque Mon profil
Plus

多语言本地化平台性能优化

摘要

在Dify 的工作流定义当中，倘若碰到 LLM 需要接收可迭代对象（比如数组）作为参数的情形，为了加快LLM 生成答案的速度，我们能够思考把可迭代对象中的 n 项当作原本每次请求 LLM 的参数。如此一来，原本只请求一次 LLM 的操作，将转变为请求 n 次 LLM。

阅读原文
xiaozi 于 2024-12-09 分享
214 海报分享
关联话题： #三七互娱

欢迎在评论区写下你对这篇文章的看法。

评论

Accueil - Wiki
Copyright © 2011-2024 iteam. Current version is 2.139.0. UTC+08:00, 2024-12-26 02:59
浙ICP备14020137号-1 $Carte des visiteurs$