前言

亮点
  • 构建涵盖症状、舌象和脉象等信息的中医症状知识图谱,并通过提出的 SMKI 机制增强模型生成能力。
  • 知识图谱与模糊检索相结合,使模型能够识别和处理输入中的同义表达或错误信息,从而提高推荐准确性。
  • 改进大模型的输出层和模型的训练损失函数,有效抑制药物推荐过程中生成无关或错误信息的现象。
TCM-KLLaMA 模型

图片

图1 TCM-KLLaMA 的架构与工作流程

(a) 数据处理模块:对原始症状描述和方剂数据进行预处理,将其映射为适合模型训练的格式;

(b) 知识注入模块:构建包含症状、舌诊和脉诊信息的中医知识图谱,并利用 SMKI 机制将相关知识注入输入文本;

© 嵌入层:通过整合标记、位置和分段信息,将增强后的文本转换为嵌入向量,随后输入 Transformer;

(d) 输出层:应用线性变换和 sigmoid 函数生成每种草药成分的预测概率,并通过阈值(γ)筛选最终方剂。

图片

图2 知识注入过程与 SMKI 机制示意图:该模块利用中医知识图谱和同义词词典构建实体 - 关系索引,采用同义词匹配,必要时基于预设阈值通过预训练句子嵌入进行模糊查询,以检索相关诊断信息,随后将此信息注入原始症状描述,生成增强的输入文本。

图片

图3 嵌入层结构示意图。标记嵌入模块:将增强文本中的每个词汇转换为向量,捕捉其语义特征;位置嵌入模块:对每个标记的位置信息进行编码,以保留序列顺序;分段嵌入模块:区分原始症状输入与注入的知识,帮助模型建立不同信息源之间的关联。

图片

图4 输出层与草药成分概率预测设计:输出层将 Transformer 的隐藏状态线性变换为表示所有草药成分的向量,通过 sigmoid 函数将这些值转换为概率,然后选择概率超过预设阈值(γ)的成分作为最终方剂。

实验

图片

图5 SMKI 机制中相似度阈值对识别准确率的影响

图片

图6 SMKI 机制对未知症状的效率分析

表1 方剂生成对比实验

图片

图片

图7 SMKI 机制对未知症状的效率分析

表2 消融实验中的性能对比

图片

表3 案例研究

图片

总结与展望

局限性
  1. 尽管 SMKI 机制缓解了同义词匹配问题,但当症状描述极为相似时,仍存在误分类的风险。
  2. 模型主要依赖《中药方剂大辞典》的公开数据集,其对低频症状的泛化能力需要在更大数据集上进一步验证。
  3. 在临床应用中,该模型应与中医医师的专业判断结合使用,因其目前仅作为辅助工具。
未来探索
  1. 多模态建模:结合包含症状信息的图像与文本,进一步提升方剂推荐的准确性。
  2. 纳入药物相互作用:将药物相互作用数据整合到知识图谱中,引导模型提供更安全的用药推荐。
  3. 扩展数据集:利用更大规模、更多样化的数据集提升模型泛化能力,尤其是针对低频症状的场景。
  4. 临床验证:与中医医师合作,在真实临床场景中进一步验证和优化模型。

最后

感谢你们的阅读和喜欢,作为一位在一线互联网行业奋斗多年的老兵,我深知在这个瞬息万变的技术领域中,持续学习和进步的重要性。

为了帮助更多热爱技术、渴望成长的朋友,我特别整理了一份涵盖大模型领域的宝贵资料集。

这些资料不仅是我多年积累的心血结晶,也是我在行业一线实战经验的总结。

这些学习资料不仅深入浅出,而且非常实用,让大家系统而高效地掌握AI大模型的各个知识点。如果你愿意花时间沉下心来学习,相信它们一定能为你提供实质性的帮助。

这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

AI大模型系统学习路线

在面对AI大模型开发领域的复杂与深入,精准学习显得尤为重要。一份系统的技术路线图,不仅能够帮助开发者清晰地了解从入门到精通所需掌握的知识点,还能提供一条高效、有序的学习路径。

img

但知道是一回事,做又是另一回事,初学者最常遇到的问题主要是理论知识缺乏、资源和工具的限制、模型理解和调试的复杂性,在这基础上,找到高质量的学习资源,不浪费时间、不走弯路,又是重中之重。

AI大模型入门到实战的视频教程+项目包

看视频学习是一种高效、直观、灵活且富有吸引力的学习方式,可以更直观地展示过程,能有效提升学习兴趣和理解力,是现在获取知识的重要途径

在这里插入图片描述
光学理论是没用的,要学会跟着一起敲,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。
在这里插入图片描述

海量AI大模型必读的经典书籍(PDF)

阅读AI大模型经典书籍可以帮助读者提高技术水平,开拓视野,掌握核心技术,提高解决问题的能力,同时也可以借鉴他人的经验。对于想要深入学习AI大模型开发的读者来说,阅读经典书籍是非常有必要的。
在这里插入图片描述

600+AI大模型报告(实时更新)

这套包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。
在这里插入图片描述

AI大模型面试真题+答案解析

我们学习AI大模型必然是想找到高薪的工作,下面这些面试题都是总结当前最新、最热、最高频的面试题,并且每道题都有详细的答案,面试前刷完这套面试题资料,小小offer,不在话下
在这里插入图片描述

在这里插入图片描述

这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

更多推荐