Kitex Thrift Streaming在prompt平台的实践

如果无法正常显示，请先停止浏览器的去广告插件。

1. Kitex Thrift Streaming 在 Prompt 平台的实践杜少丰 2024/03/30

2. 自我介绍

3. CONTENT 目录 01. 背景和问题 02. 实践与踩坑 03. 未来的期待

4. 01 背景和问题

5. Prompt

6. Prompt平台开发调试优化评测应用结构化生成扩、缩写数据集一键部署引导式生成 COT、Few- shots 打分 SDK 调试运行自动调优分析 Service

7. 问题

8. 基本框架前端 API GateWay Prompt RPC Kitex LLM工程化服务

9. 02 实践与踩坑

10. 实践

11. 踩坑一：错误处理

12. 踩坑一：错误处理

13. 踩坑一：错误处理建连首包中间包。。。尾包

14. 踩坑二：服务治理-超时&限流超时限流

15. 03 未来的期待

16. 未来的期待便捷 AI

17. THANKS