跳到主要内容
返回时间线
arXiv来源发表:

大模型分析数据不必读数据:只给元数据写一次程序,推理成本与数据量和运行次数脱钩

核心概要

Metadata-Driven AI 把大模型在数据分析中的角色限定为“写程序的人”:模型只接收数据的元数据,不接触数据本身,返回的程序在数据所在处执行并被保存下来。这样同一分析在新数据上重复运行时无需再次推理,推理成本不再随数据量和运行次数增长;在四个公开表格数据集上,发送给模型的元数据比原始数据小一到三个数量级。

Source-provided article image: Metadata-Driven AI: An Architectural Pattern for Sustainable Data Analysis with LLMs
arXiv

深度剖析

数据分析中,大模型可以只凭数据的描述写出可复用程序,而数据本身始终不进入模型上下文。 常见做法是把数据读进模型上下文直接作答,或让代码解释型智能体生成代码并在沙箱里执行、再把执行输出回传给模型;两条路径都会把数据或其片段送到模型,并且每次运行都要重新付费推理。 在 vega-datasets 的四个公开表格数据集上,元数据与原始数据的字节比分别为 birdstrikes 302、seattle-weather 134、disasters 59、gapminder-health-income 21,元数据比数据小一到三个数量级,且该比值随行数增加而增大。

做法是把一次分析拆成设计时和运行时:设计时模型从元数据生成程序,运行时程序在数据旁执行,不再调用模型。 生成物被称为 formula,即可读、确定性的程序,并声明它依赖的列或文档锚点;保存后可直接套用到同结构的新数据,依赖检查不通过时在产生错误结果前停止。 在 10,000 行、14 列的 birdstrikes 表上,元数据描述为 4,018 字节、约 1,000 token,而整表约 300,000 token;生成一次后,后续年份的同结构文件直接运行已存程序,无需推理。

生成器不必是云端前沿模型,本地小模型也能承担写程序这一步。 该基准用执行生成程序并与数据算出的标准值比对来机械评分,覆盖聚合、回归和细化三类任务。 8B 参数的开源模型 qwen3:8b 在笔记本(Apple M5、16 GB 内存、经 Ollama)上三类任务全部通过,延迟 22.6 秒;同一表中 gemini-3-flash-preview 在 low 思考档下三类任务均为 100%,延迟 7.4 秒。作者注明这只是三个任务、三次运行、一个数据集的指示性结果。

启示与展望

该模式针对能被写成程序的数据分析任务,例如聚合、抽取、连接外部 API 和生成图表;需要阅读并理解数据本身的任务,如摘要自由文本或判断语气,不在其范围内。三个案例分别覆盖基于实时公共 API 的地理空间光伏选址、从银行对账单中抽取持仓、以及智慧城市仪表盘的对话式助手,作者明确说明这些案例的评估仍是定性的,定量评估留待后续工作。

元数据并非零信息:取值范围、类别列表和字符串示例都是真实值,文档场景下整份样本会越过边界;执行日志反馈也可能携带数据,而当前实现尚未提供脱敏。存储的程序在数据结构不变但含义改变时会静默给出看似合理却错误的结果,作者尚未评估这类漂移检测。小模型基准仅含三个任务、三次运行、一个数据集,作者称其为指示性结果。