跳到主要内容
检索

# 生物医学信息抽取

2 篇关联报道

订阅更新
  1. arXiv

    OncoNoteBERT 用 29 万份英国门诊肿瘤笔记训练专用编码器:继续预训练困惑度降至 2.10,从零训练分词器使序列缩短约 23.6%

    该研究基于英国某专科肿瘤中心 21,564 名肺癌与头颈癌患者的 290,026 份门诊笔记,比较 RadBERT、PathologyBERT 与两种本地策略:继续掩码语言模型预训练得到的 OncoNote-RadBERT 验证困惑度为 2.10,从零训练并配肿瘤专用 WordPiece 分词器的 OncoNoteBERT 困惑度为 2.83,但分词效率最高(子词生育率 1.224、归一化序列长度 0.7636,约少用 23.6% 词元),并在 13 个掩码探针中 12 个给出临床可接受预测(OncoNote-RadBERT 为 7 个);两个本地模型均把机构占位符 [REMOVED] 表示为单一可学习词元。

  2. medRxiv

    面向罕见病研究的LLM自然史研究信息抽取流程

    该研究构建了一个概念验证型信息抽取流程,用Athena-v3-AWQ、Gemma3-27B和Llama-3.1-70B-Instruct三个开源大模型从CZI DRSM语料库中标注为“2”的PubMed摘要(金标准集148篇、全语料3,547篇)中抽取11项自然史研究特征,结果显示三个模型成功率均超过99%,Gemma在专家评分(68.0%输出被评为“good”)和全语料运行时间(约16分钟)上综合最优,而Llama在自动Token F1上更高(0.874对0.723),Athena表现最差主要因其倾向逐字复制原文而非综合归纳。

已读完全部报道