跳到主要内容
检索

# Matryoshka表示学习

2 篇关联报道

订阅更新
  1. Cohere Labs

    Cohere 发布 Embed 5 双模型家族:Pro 在 ViDoRe V3 平均 85.8、Fast 以 2.4 倍吞吐共享同一嵌入空间

    Cohere 发布 Embed 5 嵌入模型家族(Pro 与 Fast 两档),两者共享同一嵌入空间并支持 128K 上下文、文本/图像/融合输入、100 多种语言与 2048 至 256 维的 Matryoshka 输出,其中 Pro 在 ViDoRe V3 上平均 85.8(较 Embed 4 提升 8.8)、在 FinanceBench 得 80.1、在解析 PDF 套件平均 84.8,Fast 在 ViDoRe V3 平均 84.5 且文档吞吐平均为 Pro 的 2.4 倍,定价分别为每百万 token 0.12 美元与 0.08 美元。

  2. arXiv

    Ovis-Embedding 用共享 Qwen-Omni 骨干把文本、图像、视频、音频放进同一检索空间,在 MMEB-v3 上以 3B 规模取得 58.46 的总分

    该工作报告了 Ovis-Embedding 系列通用全模态嵌入模型:以预训练 Qwen-Omni 为共享骨干、去掉语音生成通路并以最后一个非填充 token 的末层隐状态作为嵌入,配合约 5000 万查询—目标对的全模态语料、同源采样、focal 损失与嵌入蒸馏训练,以及低秩特征分解的弹性维度推理,在 MMEB-v3、MMEB-v2、MVEB、MAEB 和 RTEB 上报告了领先成绩。

已读完全部报道