智慧眼：基于知识增强的砭石医疗大模型构建实践

湘江之畔，岳麓山下，全球目光再聚闪耀星城—长沙。

由湖南省人民政府、工业和信息化部举办的2023世界计算大会于9月15-16日在长沙如期举办。

开幕式当天，人工智能企业智慧眼受邀出席现场，同两院院士、国内外权威专家和知名企业共同交流探讨AI新时代下，数字健康产业的新机会、大模型带来的医疗产业新变革，并发表《基于知识增强的砭石医疗大模型构建实践》主题演讲。

“医学领域需要人类与AI紧密配合，未来，每一位医生和患者的生活和工作都可以站在人工智能的肩膀上。”智慧眼董事长邱建华先生在2023世界计算大会讲到。

本文为智慧眼董事长邱建华先生演讲内容梳理。

数字赋能产业发展，医疗健康迎窗口期

生命是一个自然过程，生老病死是每个人都必经的人生轨迹，健康是一切生命活动的基础，可以说，就医已经成为了生活中的头等大事。

那么我们的就医现状如何呢？来看两组数据，一组是我国医师数据，根据2022年国家统计局显示，执业医师和执业助理医师440万人，支撑着14亿人的医疗服务需求，平均一位医师支撑32个人。另外一组是医疗机构数据，全国共有医疗卫生机构103万个，其中基层医疗卫生机构98万个，基层占比达到95%，基层医疗机构包含乡镇卫生院、社区卫生服务中心门诊部(所)、村卫生室等。

从数据中，我们可以看到，医生数量不足，基层医疗机构占比较大，可能导致医疗资源在地理上的分布不平衡，面临服务总量大、服务半径长，医疗服务能力有限等难题。因此，让医疗资源高效运转，患者更容易触达是解决群众求好医、看好病难题的关键。

近年来，我国一直在实施健康中国战略，人工智能技术与医疗服务融合发展，人工智能逐渐成为医生的好帮手，更为优质医疗资源扩充下沉到基层提供了有效途径，成为驱动医疗体系和健康服务数智化转型升级的动力引擎。

智慧眼是一家AI计算驱动生命健康为使命的企业，在过去的14年里通过数智科技赋能社会服务，取了一些成果，具体包含医保基金监管系统覆盖23省+35地级市，服务5.8亿医疗参保人员；健康乡村覆盖6万+服务近5000万农村人口；赋能近5000家药店、100家血透诊所；待遇资格认证系统覆盖23省+39地级市服务2亿退休老人。这些年智慧眼一直持续聚焦人工智能核心技术研究，创新应用场景，提升政府治理能力，关爱生命健康，赋能产业生态发展。

构建“五位一体”格局，驱动砭石持续迭代

”我们其实一直在寻找更高效、更智能的方式，以提升我们自身并优化我们所处的健康环境。砭石大模型是一次科技与医学的奇妙融合，它开启了一种崭新的合作模式，以更快、更好、更省力，且成本更低的方式，来帮助人类完成生命健康的夙愿。”邱建华先生讲到。

今年5月20日，智慧眼发布医疗领域首个多模态生成式预训练大模型—砭石，得到了业界的广泛认同，从多个不同维度、不同领域给出来的评测结果都显示我们已经处于国内同行的前列，模型发布4个月以来，通过快速升级迭代，它变得更加全面，更加开放，更能解决刚需问题了。

相比于国内很多大模型，智慧眼做的并非在开源大模型基础上进行微调，亦或是简单的仿效，我们做的是深入到医疗健康场景，并基于多年的自主技术积累，在源头技术上进行了创新，实现了人工智能“三驾马车”算力、算法、算据的齐头并进。

算力方面，算力能力是构建大模型的基础。智慧眼自购的算力，目前达到200P,达到166亿亿次/秒的高性能浮点运算能力，能够实现2T /秒高性能存储带宽，还能达到600 G/秒的高性能通信带宽，能够支持智慧眼训练数百亿参数的砭石大模型。此外，智慧眼已与华为正式签署全面战略合作协议，将联合打造算力底座，共建砭石&昇腾AI联合生态。

有了算力还不够，我们知道训练大模型是一个耗时的工作，总训练速度正比于GPU单卡速度 * 加速芯片数量 * 多卡加速比 , 训练时长与训练数据和参数规模成正比。在训练过程中的GPU宕机将导致大模型训练的失败，是非常糟糕的事情。我们自研了大模型的训练框架，融入了云原生的思想，能够显著的提升单点故障响应和恢复能力，相比普通训练速度提升15倍，并且实现了单次训练过程0故障。

算据方面，深度学习模型需要大量且多样性的数据“喂养”。医疗领域对用户隐私保护有着极高要求，使得模型训练的医疗数据在多样性和标注质量上都受到限制，如何保证数据安全的条件下，实现分布式节点的知识汇聚以及如何降低大模型联邦学习的通信负载是极具挑战性的问题。

通过大模型算法，我们解决了保护隐私的分布式知识迁移和联邦图谱推理的问题，可以实现分布式数据孤岛的数据不出域，同时实现知识汇聚，从而构建中央的知识图谱；我们在分布式节点中使用知识蒸馏的方法，大大降低了大模型的联邦学习过程中的通信负载。从而实现了隐私医疗数据帮助砭石大模型的构建，实现分布式知识的融合和基于分布式数据的大模型训练，支撑了用户数据价值的释放，使医疗大模型的应用范围得以覆盖更多临床医疗问题。

算法方面，大型人工智能模型的训练依赖于先进的算法，知识图谱增强砭石大模型的训练过程。利用知识图谱在知识标准化、可解释性、可信性、可溯源性等方面的优势，通过知识图谱增强大模型从预训练到应用的全生命周期各环节，提升大模型的训练效果和推理结果的可用性。

砭石通过在训练与推理过程中融入知识图谱（作为高质量训练数据补充、基于知识图谱反馈强化学习、基于知识图谱的模型评估、知识检索增强大模型推理），在500亿参数条件下比单纯使用大模型技术，医学问题回答准确度提升近10%。并且砭石大模型能够实现医疗诊断、智能认知、情感陪伴等多样化的任务。

智慧眼深耕AI领域十余年，从底层的三驾马车，到深度学习框架，再到模型、应用、接入形成了五位一体的技术布局，将为医保、医疗、医药大模型技术能力体系的发展提供可靠的底层保障，进一步延伸到医保监管、医药服务、智能问诊、辅助诊断、情感陪伴、健康管理等应用方面，推动数字健康产业的飞跃。

开启三医协同生态，共赢产业AI未来

让技术进步服务于人，是我们朴素的理想，智慧眼基于砭石大模型生态，以医保为抓手，先突破B端，再服务C端，打造了丰富的医保、医疗场景化解决方案，为用户提供方便快捷的模型服务。

面向医保领域，提高医保基金使用效率与质量。两天前，国家医保局发文要求加快推进医保基金智能审核和监管，实现全国智能监控“一张网”，我们认为下一代DIP/DRG医保行为的监管发展方向将是智能场景监控。砭石大模型赋能价值中台、场景监控 、大数据反欺诈系列产品，帮助区域管理者规范基层诊疗行为，提高基金使用效率，打击欺诈骗保问题，减轻群众看病就医负担，促进高质量的医保服务体系建设。

面向医疗领域，提高诊断水平，实现从助手到专家的跃迁。多元化、智慧化、精益化是智能医疗的发展趋势，智慧眼通过砭石大模型，依赖丰富的数据与经验积累，全面升级各产品的智能化水平。目前已发布医院患者服务管理系统，从导诊、问诊、辅助决策各个环节提升医生服务效率，帮助改善患者就医体验，辅助运营管理者提升运营质量、降本增效。

面向医药领域，信息和处方多跑路、患者少跑腿。凭借砭石大模型的强大能力，不断改善参保患者就医购药体验，为参保患者提供合规、高效、安全的智能处方购药服务，使“双通道”处方真正流转起来，同时规范了诊疗标准和医保使用，使医药效率显著提升。

不止于医保、医疗、医药行业，在康养、基层医疗、公立医院、保险公司、银行等相关领域，大模型也将激发潜能，发挥应用价值。在演讲的结尾，邱建华先生讲到，大模型已经进入到场景落地的快车道，我们正在倾力打造全球医疗领域的超算中心，希望携手更多合作伙伴，共同构建全域协同生态体系，开创智能时代的新篇章。