跳到主内容
快讯直播
AI智模界
AI 词典

图文交错输入:让图片按顺序"插话

一句话定义:图文交错输入(Interleaved Image-Text)指在把内容输入多模态模型时,按人类阅读的自然顺序把文字和图片交替排成一条序列,即“文—图—文—图—文”,而不是把所有文字堆在前面、图片堆在后面。

把图放对位置,指代才有着落

想象你给朋友讲一趟旅行:“我住的那家民宿(图1)阳台正对海(图2),第二天我就在阳台吃的早饭(图3)。”朋友一边听一边翻照片,每句话都能立刻对上画面。反过来,你要是先把三天行程一口气讲完,最后才把二十张照片一起发过去,对方多半会问:哪张是阳台?哪张是早饭?图2和图5是不是一个地方?

模型遇到的情况很类似。交错输入会把每张图放在序列中的具体位置,图前面那几句是它的“说明书”,图后面那几句是“接着说的话”。生成后面的文字时,模型可以就近回看紧邻的那张图,于是“它”“这个”“上图”这类指代就有了明确的指向。技术上说,这靠的是位置信息(position embedding)和注意力(attention)的就近对齐:距离越近、上下文越完整,图文配对就越稳。

而“先文字后图片”会带来两个麻烦:一是文字里说“上面那个红色按钮”时,图片根本还没出现,模型得在很长距离上回溯匹配,容易配错;二是图片集中堆在末尾、中间没有文字分隔,多张图彼此缺少区分线索,模型容易把“图1”和“图2”的细节混在一起。

对比项先文字后图片图文交错
排列方式文字段 + 图片段文—图—文—图
指代锚点长距离回溯,易错配就近对齐,指向清晰
多图区分图挤在一起,易混每张图都有上下文的“标签”
阅读顺序与原始材料脱节保留原始叙事顺序

和几个相邻概念的区别

  • 多图输入(multi-image input)只是说“一次能传好几张图”,讲的是数量;交错输入讲的是顺序和结构。
  • 图像描述(image captioning)是为图生成一段文字;交错输入是把已有的图文按原顺序组织好。
  • 文档解析里把 PDF 转成一堆纯文本再喂给模型,同样会丢掉版面顺序,这恰恰是交错输入想避免的。

对从业者和普通人的意义

做检索增强(RAG)、文档问答、商品详情页、教程类内容,以及多轮对话里带截图提问时,别在预处理阶段把图片抽出来统一塞到末尾,尽量保留原始的交错顺序,并在每张图旁边留下能指向它的那句话。日常使用时也一样:一边写步骤一边配图,再问“第三步这张图哪里不对”,比先写一大段再传图,模型的回答通常更靠谱。具体支持哪种输入格式,以各家官方页面为准。

AI 生成本文由 AI 基于公开信息自动生成,仅供参考。