校园社交网站怎么做百度商业平台

一个缓存设计，配合go的singleFlight

最开始的设计如下

添加分布式缓存

上线后分布式缓存上涨的流量并不等于下游下降的流量，而是下游下降的流量 * 2～3
究其原因，就是采用了go的singleFlight，假定请求缓存时长10ms，请求下游100ms，如果100ms期间来了3个流量（每隔20～50ms重试一次），那么singleFlight中请求缓存时长太短，导致它并未展现出它的威力。
但是singleFlight中请求下游的做法，就可以在100ms期间，展现出singleFlight的威力。

所以最终做法如下：