Distributed Rate Limiter设计能直接用API Gateway或类似部件吗?

为什么要很复杂的在每个host上计数, 涉及distributed communication or cache. 直接用API Gateway或类似部件在前端统一处理下不好吗?

LittleHeroes 发表于 2022-9-12 10:55
有道理. for solution, maybe use a hot standby API gateway？

具体实现可以参考已有的产品，唯一接触过的是kong: https://docs.konghq.com/gateway/ ... loyment-topologies/

实际面试时肯定不需要那么多细节。不过大致的框架都不能少

在设计上，应该遵循云服务+微服务的设计思路。如果能分开，并且不增加latency，那两个产品就应该分开。
API gateway有它自己本身的责任，在早期，业务比较简单的时候是可以合在一起的。（但是考官也可以问你，如果要一起设计，你会咋设计？）。

但是，随着系统深入，一定是分开的，这样可以单独运营、独立scale。而且，在云上，服务之间的latency可以做到<0.5ms。所以额外单独出来一个服务的overhead，可以基本忽略。

Gateway有没有single point failure ？ 或者让楼主直接设计个distributed API gateway + rate limit 咋办？

lllxin37 发表于 2022-9-12 10:30
Gateway有没有single point failure ？ 或者让楼主直接设计个distributed API gateway + rate limit 咋办？

有道理. for solution, maybe use a hot standby API gateway？