2024年6月21日-22日，51CTO"WOT全球技术创新大会2024"在北京举办。火山引擎边缘计算架构师李志明受邀参与，以"边缘容器技术在泛CDN场景的应用和实践"为主题，与多位行业资深专家，共同探讨泛CDN行业技术架构以及云原生与边缘计算的发展和展望。
火山引擎边缘计算架构师李志明表示：为更好地解决传统泛CDN类业务运行中的问题，火山引擎边缘容器团队参考行业做法，结合实践经验，打造火山引擎边缘容器泛CDN场景技术解决方案，基于边缘容器实例产品，实现资源池统一、多业务混部，最终实现了系统稳定性增强、交付效率提升、方案标准化、多业务全隔离的效果，助力业务提升资源利用率，优化业务成本，实现高效、平稳运行。
泛CDN业务场景面临的挑战
随着互联网用户需求的演进、技术的快速发展以及环境的复杂变化，传统泛CDN类业务在实际运行过程中，面临着不同场景挑战：
-
稳定性： 传统CDN厂商往往采用一套CDN系统服务多种场景或业务的形态，一旦出现故障，会影响所有业务。
-
交付效率： 一套业务系统服务所有场景和客户类型，会导致产品功能交付周期长，现网稳定性问题修复周期长。
-
异构部署： 出于成本考虑，CDN厂商会部署非标准的、小型化设备，这会导致多种异构部署架构，维护成本变高。
-
业务耦合： 传统CDN厂商会将CDN、DCDN等泛CDN类业务混合部署在一台物理机上，会对业务稳定性带来影响。
针对稳定性、交付效率的问题，行业内基本采用业务拆分隔离的解决方案，比如点播类、加速类、图片类搭建独立的物理集群，但这种解决方案成本高昂且无法复制使用。同时，面对异构部署和业务耦合问题，行业内采用容器化解决方案，通过容器打造标准化CDN部署环境和资源隔离，但普通的容器方案会导致内核争抢，影响业务。
火山引擎基于边缘容器实例场景化解决方案
为更好地解决上述问题，火山引擎边缘计算团队结合内部CDN、DCDN容器化实践，沉淀了面向泛CDN场景的创新容器技术解决方案，以下从运维、性能、资源管理、稳定性多个维度分享详细落地实践。
如何兼容物理机的运维方案？
传统CDN业务倾向于兼容物理机的运维模式，监控、故障恢复、发布等功能都基于物理机的模式进行建设，如果全部进行云原生化改造、系统改造，工作量非常大，也会带来稳定性问题。
在改造过程中，业务需要兼容以下能力，包括对ssh的远程登入、systemctl的组件部署、协议栈模块的部署方案和物理机内核，同时还需要对文件系统盘可配置、服务发现、K8s接口等能力的支持。
运维模式兼容之富容器方案
火山引擎边缘容器团队通过定制富容器镜像、定制专用虚拟化内核，提供服务发现能力、边缘托管K8s+边缘容器解决方案等方式解决传统泛CDN业务面临的一系列问题。
一键化部署之网络编排能力
在面对业务提出减少网络运维复杂度需求时，火山引擎边缘容器团队通过提供网络编排产品化解决方案，来解决上云带来的运维复杂度增加问题：默认支持自定义VPC编排、Nat编排、提供具备按照集群灰度部署的LB4编排产品能力。
如何提供接近物理机转发性能？
泛CDN类业务对性能要求非常高，比如点播CDN业务，要求全虚拟化容器环境之后，vCPU性能能够达到接近物理机的CPU转发性能，同时支持大带宽的转发，在网卡带宽吞吐层面能够支持单实例跑满网卡能力。
在性能和吞吐层面，业务有明确需求：
- 高性能：单核vCPU能力接近物理机(<5%)
- 高吞吐：支持单实例打满网卡能力
高性能容器实例
火山引擎边缘容器团队基于高性能虚机构建高性能容器实例、基于高性能弹性网卡实现高吞吐能力，并且专门定制高吞吐的实例规格，最终达到性能相对于物理机差2%~5%； 单实例 吞吐可以跑到22G/40G带宽能力的效果。
高性能负载均衡
面对大带宽流量，业务希望支持容器算力类型的LB4转发、容器内部获取到用户访问EIP、大带宽转发能力等。火山引擎边缘容器团队通过提供IPTarget的负载均衡能力、EIP透传的转发模式、三角转发方案等方式帮助解决转发问题。
如何管理广域覆盖的节点？
泛CDN业务的资源零碎、覆盖广，容器化过程中，管理CDN分布式资源面临着许多技术挑战。在资源层面，不仅类型复杂，包括物理机、VM、异构等多种类型；还拥有分散的地域分布，涵盖省、地级市、海外等。在网络环境层面，也面临着弱网、丢包等复杂环境。上述情况都会导致管理广域覆盖的节点难度增加。
边缘自治、异构纳管、分池规划，火山引擎边缘容器团队打造ECI分布式资源纳管底座，针对断网、异构机器、资源类型、区域、规模等不同场景，分别提供解决方案。这一方案包括：通过边缘托管K8s方案实现断网时的边缘自治；针对异构的机器复用边缘托管K8s产品能力；根据资源类型、区域、规模等进行分布式K8s纳管。
如何确保迁移过程中的业务稳定性？
把传统泛CDN场景业务搬到边缘计算的容器实例底座上，会面临很多稳定性问题。如何保障传统CDN业务不出现规模性故障，出现故障之后怎么及时发现和解决，这也是一大挑战。
系统化的稳定性保障
火山引擎边缘容器团队将所有的用户监控数据、业务监控数据、事件数据统一上报到质检中心或监控中心，并采取以下保障性举措：
- 构建百分百覆盖现场业务的监控告警体系，包括构建了稳定性监控大盘、业务异常告警及根因分析，同时建设了7*24小时的值班体系，保障及时响应现网发现的问题。
- 构建风控系统和哨兵巡检系统，确保及时发现现网故障，并且具备主动熔断能力，避免规模故障。
-
风控系统：解决规模性问题。风控系统支持人工策略和自动熔断策略，当CDN和DCDN超过两个以上的集群Pod被删除或更新的时候，系统会主动进行熔断。这时需要通过开放权限才能进行下一步操作，避免人工或系统问题带来的规模性删除、规模性更新。
-
哨兵巡检系统：支持主动发现用户容器，比如文件系统、内核、网络是否存在问题，如果出现问题，会及时触发告警，做到分钟级发现问题的能力。
故障发生后，火山引擎边缘容器团队提供两种工具确保快速恢复。
-
快照恢复流工具系统： 定时快照用户在线信息，包括算力、LB、部署集群相关的信息备份。当现网大规模容器被销毁或LB被异常更新的时候，可以根据历史快照，快速恢复用户算力和LB。
-
回收站： 当用户算力被删除的时候，为了避免IP被其他业务占用，支持通过回收站对历史拿到的资源信息进行快速恢复，IP资源不会被其他业务占用。
边缘容器技术解决方案实践效果
通过火山引擎边缘容器技术解决方案，最终实现了基于容器构建多套CDN/DCDN系统，故障爆炸面缩减到1/N，同时在交付上实现了，部分场景从月发布优化到周发布进度，摆脱客户业务封禁影响。另外也通过边缘容器应用实现了方案的标准化，并最终实现多业务之间资源、网络、内核全隔离。
未来展望
未来，火山引擎边缘容器团队将持续提高用户体验，围绕K8s生态做好内外部业务上容器实例的不同场景解决方案；同时还将不断探索新场景，围绕AI推理/云游戏场景构建一键化部署解决方案。
欢迎加入边缘云微信技术交流群