跳到主要内容
返回时间线
NVIDIA Technical Blog来源发表:

伯克利实验室电子显微镜相机每秒输出超500 Gbps,NVIDIA DAQIRI让数据直入GPU边采集边分析

核心概要

劳伦斯伯克利国家实验室分子铸造厂研制的高动态范围电子显微镜相机,把原本需要两次分别优化的采集合并为一次,同时记录强信号与弱信号,但每秒产生超过500 Gbps数据,约为常规电子能量损失谱数据流的500倍。NVIDIA DAQIRI作为软件定义的数据采集库,让以太网数据包直接进入GPU内存,在采集过程中完成帧组装、校正并归约为能谱,使团队能在测量进行时检查数据并实时调整采集参数与感兴趣区域。

Source-provided article image: Enabling Real-Time AI for Scientific Instruments with GPU-Native Data Acquisition
Figure 1 · NVIDIA 开发者技术博客

深度剖析

电子能量损失谱的采集方式从两次分别优化的曝光合并为一次同时记录强、弱信号,相机每秒输出超过500 Gbps,约为常规电子能量损失谱数据流的500倍。 常规做法是在极短时间内先后执行两套分别优化的采集流程,需要精确协调电子光学、曝光时序与探测器读出,事后还要对齐并合并两组测量。 分子铸造厂的新相机把强、弱信号一起捕获,简化了实验装置与显微镜光学,同时把可用于后续处理的原始探测器信息大幅增加。

数据包经以太网由FPGA读出电子学发出,DAQIRI直接接收进GPU内存,GPU完成探测器帧的组装与校正,再归约为能量损失谱。 DAQIRI是NVIDIA Holoscan平台的软件定义数据采集库,让开发者在采集期间处理测量数据,而不必先写入磁盘。 在这条流水线上,计算还改善了从探测器恢复的空间信息,使5微米见方的传感器像素给出亚微米空间分辨率,团队得以在超过500 Gbps的输入下于测量过程中检查数据并实时调整采集参数与感兴趣区域。

启示与展望

已展示的场景是分子铸造厂的高动态范围电子显微镜相机与DAQIRI、GPU加速处理组成的流水线,在超过500 Gbps输入下于测量期间检查数据并调整采集参数与感兴趣区域;吞吐与延迟数据来自NVIDIA在DGX Spark、IGX Thor和RTX PRO服务器平台上的基准测试,以及同一主机TX与RX端口之间的线缆回环测试。

硬件重排序只针对特定接收队列定义,需要配置序列号解析方式、重排序方法与丢包处理策略;ibverbs引擎约两倍于此前默认DPDK后端的每核吞吐,限定在小包(不超过1024字节)与超过200 Gbps的极端数据率条件下;2–4微秒的发送到接收延迟是在线缆回环基准中观察到的量级。