行业: 金融
技术: AI
在保险行业,客户服务优化是提升客户满意度、增强企业竞争力的关键。知识库作为客户服务的重要支撑,对于提升客户服务质量具有重要意义。然而,受限于保险行业及相关领域数据复杂性,知识库问答的时效性和准确性难以得到保障。
为此,飞腾与新致软件携手合作,凭借双方在领域的深厚积累和技术优势,共同推出了多模态知识库平台解决方案,旨在帮助保险行业解决“模型不知道、回答不准确”的难题,打造保险数智化转型的新范式。
多模态知识库平台,是以飞腾CPU+国产GPU智能算力为底座,接入DeepSeek大模型,采用检索增强生成 (Retrieval Augmented Generation,即RAG)技术架构优化知识检索和生成,持续构建知识库平台,为企业带来智能化转型新范式。
多模态知识库平台将企业内部多模态数据进行预处理,从载入、提取、分段、潜入、匹配、提示词工程、大模型问答等核心环节,规范的训练知识数据,将知识数据治理能力和数据交互服务提供给企业。

该方案支持全国产化技术栈,搭载飞腾腾云 S5000C 服务器芯片及国产GPU算力卡,运行在国产操作系统、数据库及中间件环境中,实现软硬件的高性能并行计算能力的协同,确保知识库更准确、更实时。经测试,在高并发场景下分别测试了QwQ-32B和DeepSeek-R1-Distill-Qwen-32B两个大语言模型的推理性能,总吞吐量均接近500 Token/s的水平,在单线程吞吐量不超过5 Token/s的情况下可实现200以上的并发,能够满足行业应用需求。
该方案的软、硬件环境:
|
软、硬件名称 |
数量 |
配置及版本 |
|
新致新知平台 |
1 |
V2.0 |
|
CPU |
2 |
飞腾腾云S5000C-64 |
|
GPU |
8 |
天数天垓150 |
|
内存 |
16 |
32GB/DDR5/RDIMM/ECC/4800MHz |
|
硬盘 |
1 |
480GB/SSD |
|
网络 |
2 |
千兆网口 |
多模态知识库平台之所以能够做到知识丰富、回答精准,是因为使用RAG模型优化技术,其优势如下:
以李女士为6岁儿子购买保险为例,采用多模态知识库平台,更能满足客户需求:
通用模型的回复:

使用多模态知识库平台的回复:

通过多模态知识库平台得到的答案明显更加精准,同时也提供了个性化的保险方案,减少人工干预,降低运营成本。不仅让保险公司提升了服务效率,还为客户带来了更加个性化、智能化的服务体验。
该方案不仅在金融保险行业进行普遍推广,同时还可以应对政企、医疗等行业的需求。
新致软件作为飞腾公司保险行业的核心伙伴,将充分发挥双方的优势和特长,通过构建 “芯片+AI+场景” 的数智化转型新范式,共同打造一系列的数智化业务场景解决方案,共同推动人工智能技术在全社会的广泛应用和深入发展。
新致新知平台V2.0
飞腾腾云S5000C
新致软件长期专注于金融领域的信息化、数字化,提供行业信息化通用解决方案。在金融领域,新致软件为银行、保险、证券行业的客户及新金融领域的开发者,提供包括渠道、核心、数据、管理等全面的数字化服务,在电信、汽车、医疗等其他行业,新致软件为用户提供具有行业特色的IT解决方案。