Knative 助力 XTransfer 加速应用云原生 Serverless 化

作者:元毅

公司介绍

XTransfer 是一站式外贸企业跨境金融和风控服务公司,致力于帮助中小微企业大幅降低全球展业的门槛和成本,提升全球竞争力。公司连续7年专注 B2B 外贸金融服务,已成为中国 B2B 外贸金融第一平台,目前全球的贸易企业也都已开始使用 XTransfer。

业务场景

XTransfer 以科技为桥梁,链接中外大型金融机构和中小微企业,打造了以中小微企业为中心的数据化、自动化、互联网化和智能化的反洗钱风控基础设施。XTransfer 与知名跨国银行和金融机构合作,建设了 B2B 外贸金融全功能平台,能提供外贸收款、多币种现金管理、融资、理财、风控服务、客户管理等在内的综合解决方案,让中小微企业享受到和大型跨国集团企业同等水平的跨境金融服务。

面临的痛点

如今,全球贸易往来成为经济发展的一大命题,在 B2B 贸易碎片化、小型化和高频化的背景下,外贸企业对于实时、安全、普惠的跨境金融服务需求愈加迫切,技术能力也需要在客户的需求基础上进行不断的迭代优化,以提供更便利化的跨境金融和风控服务。由于 B2B 外贸交易信息分散且非结构化,保证交易信息识别的准确性和客户需求回答的即时性、稳定性是提供优质金融服务的基础,所以在底层基础设施建设上存在一定的挑战。面临的具体痛点表现为:

算法模型部署成本高

不仅包括硬件资源的成本,还包括维护、监控、故障修复等运维成本。传统的算法模型部署方式需要持续提供计算资源,即使在无请求时,也需要保持足够的服务实例以便应对可能的流量。这无疑会造成大量的资源浪费和高额的费用开销。

算法模型部署周期长

算法与工程边界模糊、耦合严重、相互制约,算法迭代效率不高,每次算法模型的迭代强依赖于业务工程,每次模型迭代都需要走一个完整的研发测试周期,流程长,效率低。而且在模型上线后,还需要对模型进行持续的监控和维护,这会进一步增加部署周期。

难以快速响应突发流量

在网络流量波动较大的情况下,例如在大批量风控规则任务跑批期间,传统的模型部署方式可能无法快速响应突然增加的流量,导致服务性能下降或者服务宕机。即便提前预估流量并增加服务实例,也可能因为流量预估不准确而造成资源浪费或者服务质量下降。

解决方案

由于 B2B 外贸交易信息分散且非结构化,保证交易信息识别的准确性和客户需求回答的即时性、稳定性是提供优质金融服务的基础,所以在底层基础设施建设上,XTransfer 与阿里云合作,专注于支持 Serverless 架构,落地了 Knative 部署平台。

XTransfer 的 DevOps 平台借助阿里云云原生 Knative 组件及 GPU 共享调度能力,支持算法模型的 Serverless 部署,算法工程师创建待上线模型版本、定义推理脚本、指定模型服务所需资源 (最小副本数、GPU 占用、内存占用等),后续整个模型发布流程在 DevOps 平台上完成即可。

业务价值

目前,XTransfer 已经成功运用 Knative 部署平台,充分利用其自动伸缩、事件驱动、容器化部署以及版本控制、资源按需分配和释放、应用生命周期管理等功能。使用 Knative 部署平台能实现按需扩容和分层请求调用 GPU 资源,及时应对短时大批量请求,节省成本同时能保证服务器的稳定性。

相关推荐
小扳8 小时前
微服务篇-深入了解 MinIO 文件服务器(你还在使用阿里云 0SS 对象存储图片服务?教你使用 MinIO 文件服务器:实现从部署到具体使用)
java·服务器·分布式·微服务·云原生·架构
aherhuo18 小时前
kubevirt网络
linux·云原生·容器·kubernetes
catoop19 小时前
K8s 无头服务(Headless Service)
云原生·容器·kubernetes
小峰编程20 小时前
独一无二,万字详谈——Linux之文件管理
linux·运维·服务器·云原生·云计算·ai原生
小马爱打代码20 小时前
云原生服务网格Istio实战
云原生
运维小文21 小时前
K8S中的PV、PVC介绍和使用
docker·云原生·容器·kubernetes·存储
ζั͡山 ั͡有扶苏 ั͡✾1 天前
Kubeadm+Containerd部署k8s(v1.28.2)集群(非高可用版)
云原生·容器·kubernetes
Hadoop_Liang1 天前
Kubernetes ConfigMap的创建与使用
云原生·容器·kubernetes
老猿讲编程1 天前
技术发展历程:从 CORBA 到微服务
微服务·云原生·架构
小诸葛的博客1 天前
istio-proxy不打印访问日志怎么解决?
云原生·istio