API7 企业版 API 网关性能测试:P99 = 2.3 毫秒 & 16万 QPS

更新时间 6/7/2024

API7 企业版是一款专注于 API 全生命周期管理的产品,旨在管理和保护在任何地方运行的 API 。它能够与 DevOps 和 CI/CD 工作流程无缝集成,提供卓越的产品性能和安全性,同时支持跨区域的企业级部署要求。

我们提供了详细的性能基准测试和的性能测试套件,旨在帮助用户能够自行进行性能评估,并获得具体、可靠、可行的数据指标。同时,我们还提供标准化的测试步骤、方法和性能优化技巧,以确保用户可以复制我们的配置和场景,并得到一致的测试结果。

我们针对性地测试了单路由、多路由、认证、限流等关键功能。测试结果显示,API7 企业版在并发请求、响应延迟等关键指标上表现出色,能够轻松应对高并发访问,为企业级 API 管理保驾护航。

测试结果汇总

测试采用 AWS Kubernetes 环境,全面评估了 API7 Gateway 在多种常见场景下的性能表现,包括未启用任何插件、仅启用限流或认证插件,以及同时启用多个插件的场景。

为了准确评估 API7 Gateway 的性能指标,我们首先进行了基线测试并统计了结果。在基线测试中,我们将 API7 Gateway (1 worker_processes)、NGINX 上游以及压测工具 wrk 部署在同一台机器上,并统一使用 host 网络模式进行通信。详细的结果可以参考:建立 API7 Gateway 性能基准。在无网络环境的干扰下,API7 Gateway 在单路由配置下,单核心 QPS(每秒查询率)达到了 23652.91,且延迟稳定低于 0.1 毫秒。

随后,我们更改了部署架构,以模拟用户生产环境的的部署方式。具体来说,我们将 API7 Gateway、NGINX 上游以及压测工具 wrk 分别部署在一个 K8s 集群中的不同节点上。测试结果显示:在 API7 Gateway 配置单路由的场景下,能够支持的 QPS 高达每秒 167019.37 个请求,且 95% 的客户端请求延迟都低于 2.16 毫秒。即使在面对 100 个路由和 100 个消费者的复杂场景,同时启用身份认证和限流限速插件时,QPS 依然高达 133782.95,且 95% 的客户端请求延迟都低于 2.3 毫秒。这一数据充分证明了 API7 Gateway 在复杂场景下依然能够保持高性能和高稳定性。无论是在基础配置下还是在复杂插件应用场景中,API7 Gateway 都能够提供高效、可靠的 API 管理服务。

性能测试结果

测试案例路由/消费者数量是否转发到上游QPSP99 (MS)P95 (MS)
只启用 mocking 插件1 条路由,0 个消费者310392.071.161.08
未启用任何插件1 条路由,0 个消费者167019.372.32.16
未启用任何插件100 条路由,0 个消费者162753.172.312.16
只启用 limit-count 限流限速插件1 条路由,0 个消费者145370.102.432.24
只启用 limit-count 限流限速插件100 条路由,0 个消费者143108.402.452.25
只启用 key-auth 身份认证插件1 条路由,0 个消费者147869.492.412.22
只启用 key-auth 身份认证插件100 条路由,0 个消费者145070.932.432.25
同时启用 key-auth 和 limit-count 插件1 条路由,0 个消费者136725.472.432.26
同时启用 key-auth 和 limit-count 插件100 条路由,0 个消费者133782.952.482.3

部署拓扑

Typology of Deployment

性能测试套件

我们深知性能对于 API 网关的重要性,因此我们将继续不断优化和改进 API7 企业版的性能。除了参考我们的性能测试报告外,你也可以访问 API7 企业版公开的性能测试仓库。该仓库详细记录了所有用于测试的资源部署配置以及各个测试场景的具体配置信息。通过此仓库,你可以根据提供的指南对 API7 企业版网关自行进行性能基准测试,以便更全面地了解其性能表现。

在进行测试前,我们强烈建议你确保你所测试的性能基线与官方公布的测试条件相近,以确保测试结果的准确性。有关 AWS EKS 的环境准备及详细测试步骤,我们建议参考如何准备 AWS EKS 环境,其中包含了详细的环境准备和测试步骤。通过我们提供的性能测试报告、性能基准测试仓库以及相关的测试指南,我们相信你将能够更好地评估 API7 企业版的性能,并做出更明智的决策。

性能测试报告有何用处?

性能测试报告为企业选型、部署和优化 API7 企业版提供全面的性能参考,是确保系统稳定运行的重要依据。它能全面展示该产品在响应时间、吞吐量、并发访问能力等多个方面的具体性能指标,帮助企业客观评估产品是否能满足自身的业务需求。同时,性能测试报告中的数据也为企业合理规划 API7 企业版的硬件资源配置和集群规模提供了可靠依据。针对可能出现的业务高峰,性能测试报告能帮助企业提前识别系统瓶颈,制定应对措施,避免业务中断。

与 API7 企业版一起开启数字化旅程

API7 企业版提供全面的数字化工具和解决方案,助力企业轻松实现业务数字化转型。它可以实现数据的统一管理和分析,提供可视化的业务流程和工作协同功能,并拥有强大的安全和合规控制。API7 企业版支持灵活的部署方式,无缝融合现有的 IT 基础设施。凭借 API7 企业版强大的功能和广泛的应用场景,企业可以提升竞争力和应变能力,开启更美好的数字化未来。

立即体验 API7 企业版,开启数字化转型之旅!

微信咨询

获取方案