北京灵奥科技：为何选择亚马逊云科技作为合作伙伴_新浪财经

中国经济时报记者段树军

“大模型中间件介于大模型和应用之间，帮助企业解决数据问题，打通大模型企业端落地‘最后一公里’，是企业构建AI应用的必备组件。”

在日前举行的“2024亚马逊云科技生成式AI时代的数据基座媒体沟通会”上，北京灵奥科技CEO厉启鹏对媒体表示，作为大模型中间件领域的一家初创企业，北京灵奥科技致力于推动生成式AI技术的普及，从而加速企业的商业成功。

解决大模型落地的核心挑战

厉启鹏说，目前，数据问题已成为企业落地大模型的核心挑战之一，这主要体现在四个方面。

首先，模型需要深入理解企业多样化的业务数据，然而数据的类型繁多、格式杂乱且来源无法统一。

其次，业务数据随着企业运营实时变化，模型需不断学习不同来源的、持续变化的业务信息。

再次，数据隐私和大模型使用的安全合规是企业业务不能触碰的红线。企业既要让模型理解好数据，又需要做到安全合规。

最后，数据偏见和公平性问题。不同大语言模型由于训练数据来源不同，侧重点有差异，导致模型会存在偏见。企业需要评估不同模型的能力以及为不同业务场景选择合适的模型。

北京灵奥科技（Vanus）帮助企业解决这些问题，将大模型优势和业务数据无缝结合，实现商品数据自动同步，包括商品数据自动更新、Shopify数据自动接入等。还可与网站、钉钉、飞书、企业微信等第三方应用无缝集成，助力企业灵活定制机器人，自定义聊天风格、欢迎词、外感颜色等。

厉启鹏介绍了他们服务的一家南美州服饰类电商企业的案例。该电商企业拥有两个Shopify电商独立站，客户每天有大量产品、退换货、物流等问题咨询，需要很多客服人员，管理成本高。而且客服人员下班后仍然有很多客户询问，延时回复不仅导致客户满意度下降，还因此错失了很多商机。Vanus通过基于Amazon Bedrock、 Amazon S3等云服务为Shopify电商客户构建了客服类AgentVanChat。为网站购物者提供7×24小时即时问题回复，为企业节省大量人力资源，提高客户满意度。此外，通过VanChat提供的用户意图识别、产品推荐等功能加速用户产品购买，提升网站的销售额。 VanChat为该客户带来快速的营收增长，仅上线首月ROI高达611%。同时，通过了解用户主要关注的产品以及最近常被提及的问题，还能提供客户洞察。

为何选择亚马逊云科技作为合作伙伴？

“Vanus整个平台都是基于亚马逊云科技构建的。”厉启鹏介绍，北京灵奥科技从成立之初就加入了亚马逊云科技合作伙伴网络，作为一家初创企业，他们受益良多。亚马逊云科技合作伙伴网络不仅为他们推荐客户和合作伙伴等资源，还对他们进行技术赋能，加速他们生成式AI产品进入市场。

之所以选择亚马逊云科技作为合作伙伴，厉启鹏表示，亚马逊云科技提供使用简单、功能强大的云服务，这是合作的基础。Vanus绝大部分的技术问题，在亚马逊云科技上都能找到答案，找到相关的云产品。亚马逊云科技还提供全方位的技术服务，包含技术方案和架构师等，加速Vanus的产品落地。此外，亚马逊云科技合作伙伴网络（APN）提供全面的推广资源和支持，加速 Vanus产品进入市场。

厉启鹏表示，Vanus利用亚马逊云科技的基础云服务、大语言模型、数据存储三类云服务，为企业构建AI Agent平台。亚马逊云科技为Vanus提供的显著优势包括：

弹性可扩展。利用Amazon Elastic Kubernetes Service（Amazon EKS）基于网络流量的弹性扩展能力，Vanus AI构建的Agent可以根据用户业务流量平滑弹性伸缩。帮助企业平均成本降低30% ，性价比提高20%。

提高系统可用性。通过Amazon DocumentDB原生的3可用区、6副本的设计，提高可用性和可靠性，可以达到不低于99.99%正常运行时间的服务等级协议（SLA）。

降低回复延时。借助Amazon Simple Storage Service（Amazon S3）及数据库高并发数据查询能力提高大模型上下文加载时间，同时借助亚马逊云科技全球网络节点加速能力，整体将Agent回复系统延时降低40%。

推理能力强。通过Amazon Bedrock提供的Claude模型，为Vanus平台的AI Agent提供非常强的语言理解和逻辑推理能力。

“亚马逊云科技为我们带来了确定性，帮助我们构建稳定、强健的数据基座，让我们能够轻松面对用户业务的不确定性。”厉启鹏介绍，公司先后推出了Vanus Connect、Vanus AI和VanChat三款 SaaS产品，累计服务全球30000+用户。目前，北京灵奥科技已经获得靖亚资本、PNP等机构的多轮融资。