跳到主要内容
检索

# 难负样本挖掘

3 篇关联报道

订阅更新
  1. arXiv

    Omni-Embed-Mini 用冻结文本主干把语音、音频、图像、视频与视觉文档并入同一余弦空间,0.9B 文本检索保持 49.57 nDCG@10 不变

    MBZUAI 提出 Omni-Embed-Mini:把跨模态对齐改写为“共享冻结主干的自蒸馏”,每个媒体样本配一段密集级联描述、教师目标就是同一冻结主干对该描述的嵌入,仅训练投影器与分阶段 LoRA,0.9B 版本在文本权重逐位不变的前提下把文本、语音、音频、图像、视频和视觉文档映射进同一余弦空间,MTEB-v2 BEIR-8 保持 49.57 nDCG@10,2.3B 版本在总体模态平均上以 51.39 对 49.51 略高于闭源 gemini-embedding-2。

  2. arXiv

    AutoDataBench 用三个固定训练任务测出:Kimi-3 数据智能总分 60.68 最高,但检索 ID 领先的模型在隐藏分布上反而垫底

    该工作提出 AutoDataBench,一个在固定训练流程与资源预算下隔离“数据智能”的受控测试台,覆盖工具调用数据诊断修复、检索数据组织与知识注入三类任务,评测七个前沿大模型在迭代实验中的数据决策能力,并发现智能体整理的数据在工具调用与检索上接近专家参考、但分布内高分不保证分布外迁移,同时把优化轨迹复用为中期训练数据可提升下游编码表现。

  3. arXiv

    从对齐到合成:面向文本到CT生成的对比式体数据视觉语言接地

    该工作提出一个面向生成的3D-CLIP编码器,用仅在文本层面构造的结构化难负样本(属性感知负样本AAN与语义感知负样本SAN)在体数据编码器小批量约束下增强对比学习,并用其条件化一个直接在3D潜空间运行的端到端潜扩散模型,在CT-RATE的18种病理上取得更低的FID、更高的病理分类AUC与精确率,以及更快的推理速度和更低的显存占用。

已读完全部报道