Kitex Thrift Streaming在prompt平台的实践

如果无法正常显示,请先停止浏览器的去广告插件。
分享至:
1. Kitex Thrift Streaming 在 Prompt 平台的实践 杜少丰 2024/03/30
2. 自我介绍
3. CONTENT 目 录 01. 背景和问题 02. 实践与踩坑 03. 未来的期待
4. 01 背景和问题
5. Prompt
6. Prompt平台 开发调试 优化 评测 应用 结构化生成 扩、缩写 数据集 一键部署 引导式生成 COT、Few- shots 打分 SDK 调试运行 自动调优 分析 Service
7. 问题
8. 基本框架 前端 API GateWay Prompt RPC Kitex LLM工程化服务
9. 02 实践与踩坑
10. 实践
11. 踩坑一:错误处理
12. 踩坑一:错误处理
13. 踩坑一:错误处理 建连 首包 中间包 。。。 尾包
14. 踩坑二:服务治理-超时&限流 超 时 限 流
15. 03 未来的期待
16. 未来的期待 便 捷 AI
17. THANKS

trang chủ - Wiki
Copyright © 2011-2024 iteam. Current version is 2.137.1. UTC+08:00, 2024-11-15 17:36
浙ICP备14020137号-1 $bản đồ khách truy cập$