导言
云减少组件之间的依赖性。
最佳实践
以下是一些最佳实践,可以最大化云原生应用程序的 QPS 性能:
- 优化容器大小:使用较小尺寸的容器可以减少内存和 CPU 消耗,从而改善 QPS 性能。
- 限制容器资源:使用资源限制可以防止容器消耗过多的资源,从而影响其他容器的 QPS 性能。
- 拆分微服务:通过将大型微服务拆分为较小的组件,可以提高 QPS 性能,因为它允许并行执行任务。
- 使用负载均衡器:负载均衡器可以将请求分布到多个服务器上,从而提高 QPS 性能并防止单个服务器过载。
- 监控和优化:持续监控您的云原生应用程序并进行必要优化,以确保最佳 QPS 性能。
结论
云原生技术可以通过多种方式影响服务器 QPS 性能。通过利用容器化、微服务和分布式架构,云原生技术可以隔离应用程序、解耦组件并分布负载,从而提高 QPS 性能。通过遵循最佳实践,例如优化容器大小、限制容器资源和拆分微服务,可以进一步最大化云原生应用程序的 QPS 性能。
深入解读TDSQL-C的内核关键技术
腾讯云数据库专家工程师张远深入解读了腾讯云企业级分布式数据库TDSQL-C的内核关键技术。
TDSQL-C基于全新计算存储分离的分布式数据库架构,融合传统数据库和云计算技术优势,提供极致计算能力与存储容量,性能和安全性媲美商用数据库。
其100%兼容MySQL和PostgreSQL,支持集群和Serverless灵活弹性部署,有效克服传统架构下的存储量受限、扩展难、主从延迟高等缺点,为企业节省高达90%的成本。
以下为张远关于TDSQL-C云原生数据库技术的详细解析:TDSQL-C简介基于共享存储的存储和计算分离架构是TDSQL-C总体架构的核心。
与传统MySQL主备架构相比,TDSQL-C通过物理复制和减少数据副本数量,提高了性能和效率。
TDSQL-C具有可靠性、极致性能、可用性和弹性扩展等关键特性。
TDSQL-C内核关键技术1. 高性能- 实现查询计划缓存(Plan Cache),显著减少SQL执行时间,性能提升约70%。
– 异步组提交优化,提高事务提交效率,读写事务QPS提升70%。
– Log Compaction,减少redo日志量30%,提高数据库运行效率。
2. 高可用- 物理复制机制,确保数据一致性与快速复制速度。
– 备库延迟优化,支持16个备库提供读服务,备库延迟达到毫秒级别。
– 独立buffer pool,降低计算节点重启对业务的影响。
– 秒级RTO,计算节点崩溃恢复时间大幅缩短。
3. 弹性扩展- 提供读服务的备库优化,避免读写IO冲突,提升用户体验。
– Btree一致性读优化,确保用户查询不受Btree分裂操作的影响。
– 创新支持instant modify column,实现秒级修改列类型操作。
4. 其它特性- TDSQL-C的秒改列功能,通过元数据多版本化、行记录增加版本信息、只修改元数据等创新实现。
– 通过purge预读解决undo空间膨胀问题,优化数据库性能。
展望未来,TDSQL-C将继续加强查询优化能力,引入新的join类型和并行查询拓展,探索多写支持,向HTAP方向发展,实现同时具备OLTP和OLAP能力。
阿里巴巴在EnvoyGateway的演进历程浅析
简介:最近阅读《Envoy Gateway 来了》一文,深感 Envoy 强大的可扩展性和基于 Envoy Gateway 带来的易用性。
在 K8s 架构下,Envoy 重新定义了网关的定位和能力,被誉为云原生网关,甚至被称之为下一代网关。
阿里巴巴于 2018 年启动了下一代网关的探索之路,本文将对这个探索历程做一介绍。
作者耿蕾蕾(如葑)是阿里云研发工程师,自 2020 年 5 月负责 Envoy Gateway 的构建至推出 3.0,作为技术负责人主导了整个演进过程。
她在云原生网关领域有着丰富的实践经验。
1. 早期探索:在 2018 年,阿里巴巴开始了云原生上云的探索,将容器和服务网格作为核心技术点进行演进,尝试统一阿里巴巴和蚂蚁的中间件技术栈。
作为服务网格的重要方向,下一代网关的探索之路就此开启。
在 Envoy Gateway 1.0 孵化期,由于阿里巴巴和蚂蚁的 RPC 协议不同,存在诸多问题,如互调链路长、协议转换消耗大等。
因此,需要一个面向未来的网关解决方案。
2. 技术选型:当时,有两个技术演进思路,一个是基于 Tengine 进行优化,另一个是基于 Envoy 内核扩展网关场景。
考虑到 Tengine 的架构变动太大,而 Envoy 作为网关的第二选项,能简单解决上述痛点,因此选择了 Envoy 内核作为下一代网关的演进方向。
此外,Envoy 也是 CNCF Ingress Provider 中增长最快的,社区接受度高。
3. Envoy Gateway 1.0:在 2020 年 5 月,启动了 Envoy Gateway 1.0 的研发,并成功支撑了双 11 大促,成为核心重保的业务链路。
1.0 版本主要应用于东西向流量的 RPC 互通,其架构部署如下图。
此时期,我们面对未来演进了 Dubbo3.0 的 Triple 协议,基于 Envoy 演进了网关的服务管理能力,支撑了当年双 11 数十万 TPS 的流量洪峰。
4. Envoy Gateway 2.0:随着阿里巴巴上云战役的推进,越来越多的场景找到我们,如云上云下业务互通。
因此,我们需要做 Tengine+Envoy 两层网关的演进,承担南北向网关流量。
在 2020 年 12 月份开始了 2.0 架构的演进。
在两层架构中,Envoy 网关更多承担了微服务网关和微服务治理的需求,和 Tengine 流量网关完成了整合。
在这个过程中,我们提升了服务治理和高可用能力,并支撑优酷内部多个二层微服务网关统一,大幅提升性能和运维效率。
5. Envoy Gateway 3.0:经过阿里巴巴大量场景的打磨,Envoy 网关性能、稳定性都获得了很好的发展。
2021 年,阿里巴巴开启了中间件三位一体战役,用云产品支撑集团业务,因此我们也将孵化成熟的技术通过 MSE 云原生网关来服务集团。
此时,我们通过 Envoy 将流量网关 + 微服务网关合二为一的同时,还通过硬件加速、内核优化等手段,在性能不打折的情况下,持续优化网关的资源部署成本。
6. 技术架构优势:Envoy 天然的可扩展性,还能将丰富的安全认证和微服务治理能力进行集成,体现了云原生网关高聚合的优势。
例如:网关直连业务 PodIP,不经过传统 Cluster IP,RT 更低支持 HTTPS 硬件加速,QPS 提升 80%支持 Wasm 插件市场,插件热加载,满足多语言自定义插件需求自研 Multi-Ingress Controller 组件支持多集群 Ingress 复用同一个网关实例原生兼容 K8s Ingress 规范,且支持 Nginx Ingress 核心功能注解的无缝转化。
7. 回馈社区:在对 Envoy Gateway 进行演进的过程中,也提出了很多社区 issue,包括:dubbo_proxy、wasm、cryptomb 等,未来我们会陆续回馈社区,作出更多贡献,和社区共同打造下一代网关。
全面揭秘:抖音集团 QUIC 千万 QPS 应用实践
在ArchSummit全球架构师峰会深圳站,行业专家深入探讨了QUIC协议在网络通信领域的创新应用。
QUIC作为新型传输协议,显著提升了网络性能,尤其在直播、视频、点播和下载等场景中大放异彩,实现了千万级每秒请求数(QPS)的传输能力。
火山引擎高级工程师龙志分享了QUIC在火山引擎内部的应用实践,从2018年的项目立项到2023年的视频点播场景落地与MPQUIC协议支持,QUIC在不同业务场景中展现出了强大的性能优化能力。
QUIC的独特优势在于其双端加密传输机制,但在实际应用中,需要一套全链路分析系统来监控和优化性能。
火山引擎通过构建全局TraceId追踪每个请求的路径,实现了对Nginx、双端QUIC网络库、播放器等关键模块的性能监控。
同时,针对网络传输的可观测性,火山引擎对Qvis进行定制化开发,助力业务故障排查与优化网络性能。
在优化网络性能方面,火山引擎采取了分场景优化策略,针对动态API请求、视频上传、视频点播等典型场景,工程师利用全链路分析系统进行针对性优化。
QUIC FEC技术的引入,能够在出现丢包时高效恢复数据,显著提高传输效率。
火山引擎还通过收集客户端QoE数据,与服务端深度结合,实现对用户体验的精细化优化,有效降低了卡顿率和重传率。
MPQUIC优化则涉及对网络中间链路的改造,包括四层负载均衡(LB)和QUIC连接调度模块,火山引擎通过重新定义QUIC CID,增强双通道数据传输能力,进一步发挥QUIC协议优势,提升用户体验。
通过线上实验,MPQUIC在提升网络性能方面表现出色,尤其是在单路径QUIC网络性能上,P99降低约40%,平均值和P90降低超过20%。
面对QUIC CPU高消耗的挑战,火山引擎提供了针对不同场景的性能优化方案,确保大流量业务场景下的稳定运行。
火山引擎QUIC的应用不仅提升了业务效率,还带来了显著的业务收益,覆盖了抖音、飞书、头条、西瓜等APP,涉及实时通信、音视频、云游戏等多个领域,日高峰QPS超过3000万。
QUIC协议的创新应用为网络通信领域带来了新的发展机遇,ArchSummit全球架构师峰会为行业提供了交流与合作的平台。
火山引擎边缘云作为新一代云计算解决方案的代表,通过技术分享与合作,致力于满足用户日益增长的网络需求,推动产业的蓬勃发展。
火山引擎边缘云,以云原生技术为基础,融合异构算力与边缘网络,构建了一套以边缘位置计算、网络、存储、安全、智能为核心能力的分布式云计算解决方案,为客户提供高效、稳定、安全的云计算服务。