京东到家话费券系统NIO实战

京东到家话费券系统 NIO 实战

摘要

京东到家话费券系统对外提供的服务调用频率存在不均衡的情况，比如活动页服务调用量是万级QPS，而其它普通服务的调用量为百级QPS。在业务高峰时，系统会遇到瞬时请求并发量激增的情况，此时系统的线程数量也会急剧增加，造成系统负载增加，性能下降。为此，我们不得不按照业务高峰期的场景进行机器扩容以保证业务高峰时期的服务稳定，但这会导致机器资源利用率整体上不高，该如何解决这个问题呢？