一句话定义：次二次注意力（Subquadratic Attention）是指计算量或显存开销随序列长度增长得比平方更慢的一类注意力机制：序列长度翻倍，开销涨不到 4 倍。
原理：先为序列建一棵“目录树”
标准自注意力（AI 词典：Self-Attention">Self-Attention）中，每个词元（token）都要和所有词元计算一次相关性，n 个词元就是一张 n×n 的关系表。序列一长，这张表就会急剧膨胀，这就是长上下文成本高的根本原因。
层级树索引器的做法是：先分组，再分层摘要。先把相邻词元打包成块，每块压成一个摘要节点；再把相邻节点打包成更大的节点，如此逐层向上，直到一个根节点。查询时自上而下：先从顶层粗摘要中挑出几个看起来相关的分支，再逐层缩小范围，最后只落到少数几个叶子块，在这些块的原始词元上做精确的点对点注意力。
打个比方：去图书馆查资料，你不会把每本书每一页都读一遍。先看分类目录，再翻章节标题，最后只精读那三五页。树的上层是目录，下层是正文，而“挑哪几个分支”由内容决定，并且可以用梯度来学习。
和相邻概念的区别
- 固定稀疏注意力（Sparse Attention）：滑动窗口、膨胀模式等结构是预先固定的，实现简单，但“该看哪里”学不出来，跨很远的两段话容易漏掉。树索引则是让内容决定路由。
- 线性注意力（Linear Attention）与状态空间模型（State Space Model, SSM）：把历史压进一个固定大小的状态，代价降到线性，但压缩不可逆，逐字回忆和精确计数容易失真。树索引是多级、可逐层深入的压缩，保留了回到原文的通道。
- 原生稀疏注意力（Native Sparse Attention, NSA）：同样属于亚二次路线，思路是“压缩分支 + 选择分支 + 滑窗分支”并联，并在预训练阶段端到端学习路由。可以把树索引理解为把“压缩—选择”做成多层递归的版本，二者差别更多在工程形态：并联分支，还是逐层下钻。
| 方案 | 随长度增长 | 长程精确回忆 | 主要代价 |
|---|---|---|---|
| 全注意力 | 平方级 | 最强 | 长文成本急剧上升 |
| 固定稀疏 | 线性乘窗口宽 | 弱（模式预先固定） | 简单，但容易漏掉远距离信息 |
| 线性注意力 / SSM | 线性 | 弱（状态定长） | 吞吐高，细节容易丢失 |
| 层级树索引 | 约 n log n | 较强（路由可学习） | 索引器训练复杂，摘要丢细节 |
| NSA 类原生稀疏 | 亚二次 | 较强 | 需改架构并端到端预训练 |
对从业者的意义
长上下文的设计问题，从“能不能塞下”变成“哪部分值得仔细看”。选中率是关键参数：选得少则省算力但容易漏，选得多则更稳但省不下多少算力。同时要记住一件事：摘要节点是有损压缩，通常得留一条滑窗或选中原始块的“精确通道”作为补充，否则在精确检索、逐字引用这类任务上性能容易下降，选型时务必按自己的任务实测。
对普通人的意义
整本说明书、整场会议记录、整个代码仓库一次性喂进去，会越来越便宜、越来越常见。但“它扫过全文”和“它逐字读了每句话”是两回事；问细节时，它可能只翻了目录。具体能力边界和可用性，以各家官方页面为准。