本草[原名:华驼(HuaTuo)]: 基于中文医学知识的LLaMA微调模型
本项目开源了经过中文医学指令精调/指令微调(Instruct-tuning) 的LLaMA-7B模型。我们通过医学知识图谱和GPT3.5 API构建了中文医学指令数据集,并在此基础上对LLaMA进行了指令微调,提高了LLaMA在医疗领域的问答效果。
基于相同的数据,我们还训练了医疗版本的ChatGLM模型: ChatGLM-6B-Med
此外,我们还尝试利用GPT3.5 API将医学文献中的【结论】作为外部信息融入多轮对话中,在此基础上对LLaMA进行了指令微调。目前。我们只开放针对"肝癌"单个疾病训练的模型参数。在未来,我们计划发布融入文献结论的医学对话数据集,并且会针对“肝胆胰”相关16种疾病训练模型。
Ars Technica 成立于 1998 年,当时创始人兼主编 Ken Fisher 宣布计划创...
浏览次数: 2 2024-05-03
IntechOpen是全球领先的科学、技术和医学领域期刊和书籍出版商。我们是全球60000多位作者的...
浏览次数: 6 2024-05-02