远距离与末端各用一套策略:学习式混合制导在600次多圈低推力交会中全部达标
多圈低推力交会要同时完成长时间轨道转移和米级末端控制,单一策略难以兼顾两种状态尺度。该制导律让远距离专家读取修正春分点根数、末端专家读取目标局部坐标系下的相对状态,再由一个带时间注意力的门控网络连续混合两者推力指令。在600次测试任务中,它在10米与1米/秒容差下全部完成交会,相对4公里距离硬切换把平均飞行时间缩短50.6%、速度增量降低44.5%。
多圈低推力交会要同时完成长时间轨道转移和米级末端控制,单一策略难以兼顾两种状态尺度。该制导律让远距离专家读取修正春分点根数、末端专家读取目标局部坐标系下的相对状态,再由一个带时间注意力的门控网络连续混合两者推力指令。在600次测试任务中,它在10米与1米/秒容差下全部完成交会,相对4公里距离硬切换把平均飞行时间缩短50.6%、速度增量降低44.5%。
多轴强度试验只有几十个破坏应力点,选哪条极限面长期靠人工比对与目视检查。研究者把这一选择改写成带可微罚项的稀疏模型发现问题,用首根射线定义保证等效应力可显式求解,并引入带形状参数的 PBP 原子与竞争门混合专家。混凝土数据上,含 PBP 原子的模型交叉验证误差约为单项式库的四分之一,实测强度比在几个百分点内复现。
大模型剪枝通常按参数量定目标,但参数量并不能预测延迟、吞吐和显存,这些指标取决于架构、负载、硬件与服务引擎。AutoCompress 把延迟、吞吐、参数和显存约束直接放进可微架构搜索,同时搜索全局维度与逐层结构,并用目标服务引擎中实测校准的代价模型引导搜索。在与 Minitron++ 相同的部署预算和恢复训练下,它在 RTX 5070、RTX 5080 和 H100 上把八项基准的平均准确率分别提高 6.57、2.35 和 0.57 个百分点,架构选择所用 token 约为后者的二分之一到三分之一。
PRISM-Net把商品图像的整体特征拆成线条与颜色两条专家通路,用冻结的SigLIP文本提示以零样本方式监督两个路由器,再由按图像自适应的元路由器融合两路证据。在275,454张、18类电商图像的5折交叉验证与55,091条查询对220,363张图库的全量检索中,SwinV2骨干上线条检索mAP@10提升5.74个百分点,颜色专用配置的颜色检索mAP@10提升9.12个百分点;ConvNeXt-V2与DINOv3上产品检索与属性对齐之间存在取舍。
NVIDIA 把 Transformer Engine 的 MoE 优化接入 JAX 训练栈,让每个 token 都送进所选专家、不丢弃也不补齐。此前在 GB300 上训练 DeepSeek-V3 时,未优化基线只有 103 TFLOPS/GPU,跨 GPU 通信占累计内核时间的 84%;加入分组 GEMM、MXFP8 分组量化和融合的专家并行收发后达到 1,068 TFLOPS/GPU,端到端吞吐约提升 10 倍,并在 1,024 块 GPU 上维持 97% 扩展效率。
把稠密Transformer层扩展成稀疏专家混合模型,让法律与生物医学各自拥有完整MLP专家,并用少量样本监督路由器按领域选择专家。在Llama-3.1-8B与Qwen-3-8B上,该方法在生物医学与法律领域的平均成绩均为最高,通用领域平均分也最高;每领域仅用256个样本监督路由器,适配后专业领域路由准确率为90–98%,未采用该监督的路由器为43–70%。
自动ICD编码要把标准诊断码贴到出院小结上,而小结里“住院经过”“出院诊断”等段落高度模板化,预训练容易学到这些表面结构而非病人特异的临床语义。SARL-ICD把对比预训练限制在主诉、现病史、既往史等叙述段,用扩充ICD码层级后的Jaccard相似度挑选正样本对,再把大模型扩写的ICD码描述以轻量标签-文本交互注入文档表示,并用专家混合模块融合PLM-CA与PLM-ICD的预测。在MIMIC-IV ICD-10上,完整系统取得28.6%宏F1和61.1%微F1,高于PLM-CA的26.1%与59.6%。
开源大模型此前要在展示思维链和确定性地调用工具之间二选一。Qwen3-235B-A22B把推理块放进独立的 think 标签,并在同一次补全里给出精确的JSON工具调用,下游代码可以选择忽略或审计这段推理。该模型为2350亿参数、每次激活约220亿参数的混合专家结构,以Apache-2.0许可托管在Fireworks上,可通过兼容OpenAI的客户端调用。
开放权重模型 Kimi K3 在 Fireworks 上线首日即可用于推理与训练,发布方称其以远低于闭源模型的成本提供前沿级能力。在前端代码竞技场 Frontend Code Arena 上,K3 以 1679 分超过 Fable 5,成为首个排到所有闭源模型之前的开放模型;在 Artificial Analysis 智能指数上以 57 分位列全球第三。Fireworks 同时推出仅限美国境内的推理端点与默认零数据保留,并开放共享 GPU 池的无服务器训练私测。
NVIDIA在Megatron Core上把逐位确定性预训练的开销压到可接受范围:同一初始状态下的两次独立运行、以及从检查点恢复的运行,都要在每一步保持数值完全一致。此前这类确定性配方开销常达两位数百分比,Nemotron 3 Ultra经缓冲区填充优化后从约17%降到2%,再降到1.5%(3,072块GPU);大规模Nemotron配方在2,432块GPU上测得约2%稳态开销,并在800步内保持逐位一致。