Bifrost

最快的企业AI网关（比LiteLLM快50倍） ，具有自适应负载均衡器、集群模式、护栏、1000多种型号支持和< 100 µs开销， 5k RPS。