携程客服机器人ASR引擎的负载均衡实践

携程客服机器人 ASR 引擎的负载均衡实践

摘要

携程呼叫中心正在实现智能化，其中一个关键是负载均衡的语音识别服务（ASR）。他们采用多集群、多IDC、多供应商的ASR产品来提供稳定和优质的语音识别服务。对于ASR调用者而言，只需对接MRCP Server，无需关注ASR Engine。他们尝试了多种负载均衡方案，如硬件负载均衡设备和软负载实现，但效果不理想。他们还验证了AX、Netscaler和TDLB等基建服务，但未达到预期效果。