飞腾与新致软件推出多模态知识库平台解决方案,共建保险数智化新范式

  • Bootstrap 行业: 金融

  • Bootstrap 技术: AI

行业痛点:

在保险行业,客户服务优化是提升客户满意度、增强企业竞争力的关键。知识库作为客户服务的重要支撑,对于提升客户服务质量具有重要意义。然而,受限于保险行业及相关领域数据复杂性,知识库问答的时效性和准确性难以得到保障。

为此,飞腾与新致软件携手合作,凭借双方在领域的深厚积累和技术优势,共同推出了多模态知识库平台解决方案,旨在帮助保险行业解决“模型不知道、回答不准确”的难题,打造保险数智化转型的新范式。


方案详情:

多模态知识库平台,是以飞腾CPU+国产GPU智能算力为底座,接入DeepSeek大模型,采用检索增强生成 (Retrieval Augmented Generation,即RAG)技术架构优化知识检索和生成,持续构建知识库平台,为企业带来智能化转型新范式。

多模态知识库平台将企业内部多模态数据进行预处理,从载入、提取、分段、潜入、匹配、提示词工程、大模型问答等核心环节,规范的训练知识数据,将知识数据治理能力和数据交互服务提供给企业。

该方案支持全国产化技术栈,搭载飞腾腾云 S5000C 服务器芯片及国产GPU算力卡,运行在国产操作系统、数据库及中间件环境中,实现软硬件的高性能并行计算能力的协同,确保知识库更准确、更实时。经测试,在高并发场景下分别测试了QwQ-32BDeepSeek-R1-Distill-Qwen-32B两个大语言模型的推理性能,总吞吐量均接近500 Token/s的水平,在单线程吞吐量不超过5 Token/s的情况下可实现200以上的并发,能够满足行业应用需求。

该方案的软、硬件环境:

软、硬件名称

数量

配置及版本

新致新知平台

1

V2.0

CPU

2

飞腾腾云S5000C-64

GPU

8

天数天垓150

内存

16

32GB/DDR5/RDIMM/ECC/4800MHz

硬盘

1

480GB/SSD

网络

2

千兆网口

 

多模态知识库平台之所以能够做到知识丰富、回答精准,是因为使用RAG模型优化技术,其优势如下:

  1. RAG的知识库可提供基于事实且最新的答案。
  2. RAG的知识库可动态更新模型,无需频繁重训,支持快速适配新内容、新需求。
  3. RAG的知识库可根据用户画像和偏好,实现内容个性化生成,如个性推荐、专属问答等。
  4. RAG的知识库可外接行业文档、内部资料等专属知识源,填补知识空白,拓展模型边界。

方案实施效果:

 

以李女士为6岁儿子购买保险为例,采用多模态知识库平台,更能满足客户需求:

通用模型的回复:

使用多模态知识库平台的回复:

通过多模态知识库平台得到的答案明显更加精准,同时也提供了个性化的保险方案,减少人工干预,降低运营成本。不仅让保险公司提升了服务效率,还为客户带来了更加个性化、智能化的服务体验。


成功案例:

该方案不仅在金融保险行业进行普遍推广,同时还可以应对政企、医疗等行业的需求。

新致软件作为飞腾公司保险行业的核心伙伴,将充分发挥双方的优势和特长,通过构建芯片+AI+场景的数智化转型新范式,共同打造一系列的数智化业务场景解决方案,共同推动人工智能技术在全社会的广泛应用和深入发展。


相关产品:

新致新知平台V2.0


支持CPU平台:

飞腾腾云S5000C


伙伴信息:

上海新致软件股份有限公司

新致软件长期专注于金融领域的信息化、数字化,提供行业信息化通用解决方案。在金融领域,新致软件为银行、保险、证券行业的客户及新金融领域的开发者,提供包括渠道、核心、数据、管理等全面的数字化服务,在电信、汽车、医疗等其他行业,新致软件为用户提供具有行业特色的IT解决方案。