GPU Gems 3 · Chapter 11. Efficient and Robust Shadow Volumes Using Hierarchical Occlusion Culling and Geometry Shaders

先把“遮挡”变成一张逐像素账本

想象一束从相机射出的细线：它经过一个遮挡物投下的区域时，会先穿进一片不可见空间，再穿出来。我们不需要真的追踪这条线，只要在它跨过边界时记一次进入、记一次离开，最后就能知道它是否曾经被遮挡。

本章解决的问题是：怎样让这张账本在复杂、远大、甚至不太干净的模型上仍然可靠，同时不要让每帧的遮挡几何和大面积填充把 GPU 压垮。如果只依赖理想的闭合网格，现实 CAD 或转换模型会漏影；如果对整棵场景树逐物体生成体积，城市级场景又会把时间花在最终不可见的影子上。

1. shadow volume：用边界交点数出阴影

对于点光源，遮挡物的背光轮廓沿远离光源的方向延伸；对于方向光，延伸方向是统一的平行方向。相机射线每进入一次体积，counter 增加；每离开一次，counter 减少。最后 counter 为零的像素在体积外，可以得到完整光照；非零的像素只得到环境光或被压暗。

实现时先把场景 depth 写好，再渲染 volume 的边界，只更新 stencil，不更新颜色和深度。现代硬件可以在同一个 pass 中用 two-sided stencil 分别处理 front-facing 与 back-facing polygon，并用 wrap-around 避免 stencil 计数在极值处饱和。

shadow volume 的优势是边界按几何精确落到像素，不依赖一张 shadow map 的离散采样；代价是要生成、光栅化并填充体积几何。对大场景来说，后续章节的两个问题就是“如何保证体积对坏网格仍然闭合”和“如何尽量不画不可见的体积”。

2. z-pass 与 z-fail：从哪一面开始数

z-pass 从相机向场景看，只数实际几何之前的 volume 边界：front-facing 交点增加，back-facing 交点减少。它不需要绘制 front cap，因为被深度测试挡住的部分不会写 stencil；无穷远的 back cap 也可借助深度失败省略。只要摄像机不在 volume 内，路径简单且通常填充更少。

当摄像机在 shadow volume 内时，z-pass 会从错误的起点开始计数。z-fail 反过来数几何后方的交点，并翻转增加/减少操作，因此对摄像机位置更稳健；它需要 front cap 和 back cap 都正确渲染，且更容易付出额外 fill-rate。实际系统可以用保守的 camera-inside test，在安全时用 z-pass，必要时切换 z-fail。

无穷远顶点可以用齐次坐标表达：位置通常令 w=1，方向令 w=0。若硬件会把这些 primitive 在 far plane 裁掉，可以启用 depth clamp，或使用能把无限远投影到最大深度的特殊 projection matrix。

3. 让低质量网格也能生成闭合边界

普通 volume 生成通常假设 mesh 是 closed two-manifold：没有洞、裂缝、自相交，并且每条边恰好连接两个面。它会找出相邻 polygon 朝向光源的符号变化，把对应边挤出为 volume side，再绘制 front/back caps。这对游戏资产很合适，却无法覆盖 CAD 转换或真实扫描数据中的开放边界。

鲁棒路径做两件事：没有邻居 polygon 的边也要挤出；不要只处理朝向光源的 polygon，而是处理所有 polygon，把模型分成朝光和背光的连通部分。这样共享的 silhouette edge 可能被挤出两次，分别封闭两组体积；所有输出面都必须朝向 volume 外侧，否则 stencil 的增减会失衡。

鲁棒性不是没有成本。对本来已经是二流形的网格，robust 路径可能让 caps 和 silhouette extrusion 接近做两遍；可以在预处理阶段识别普通网格，只对困难拓扑启用它。多于两个 polygon 共边、绕序相反的共享边等情况，还需要在预处理中拆成可处理的 disconnected polygon。

4. geometry shader：在 GPU 上动态挤出 volume

动画模型每帧都可能改变 silhouette，若先把拓扑回读到 CPU 再生成体积，CPU/GPU 同步会成为瓶颈。geometry shader 可以直接接收带邻接的 triangle primitive：主三角形加三条边的邻居，共六个输入顶点。它比较主面与邻面的朝向，决定是否挤出边；再用 triangle strip 输出 front cap、back cap 和 silhouette quads。

// adjacency: main triangle plus one neighbor per edge
bool mainFacesLight = facesLight(gl_PositionIn[0], gl_PositionIn[2], gl_PositionIn[4]);
for (int edge = 0; edge < 3; edge++) {
  bool neighborFacesLight = facesLight(neighbor(edge));
  if (mainFacesLight != neighborFacesLight) {
    emitExtrudedQuad(edge, lightPosition); // w = 0 at infinity
  }
}
if (!zPass) {
  emitFrontCap();
  emitBackCapAtInfinity();
}
EndPrimitive();

输入 primitive type 与输出 primitive type 是接口契约：OpenGL 可以使用带 adjacency 的三角形输入，输出选择 triangle strip，既能表达单个 cap 三角形，也能表达四边形侧面。最大输出顶点数必须按 caps 与三条边的最坏情况预留，否则正确的方向判断也会变成截断的 volume。

退化三角形还会让朝向判定不稳定：同一面在不同邻接位置被重复计算时，若数值细节不同，可能多挤出或少挤出一条边。鲁棒实现应让每次判断使用完全一致的法线和 light-direction 计算，即使需要计算多个候选法线，也要优先保持结果一致。

5. hierarchical occlusion culling：剪掉看不见的 shadow subtree

大场景中，shadow volume 的成本常常来自最终根本不会出现在屏幕上的遮挡物。把对象按 front-to-back 放进 BVH，每个节点保存 AABB；查询时不只测试普通 AABB，而是沿光源方向挤出的 AABB。若这个保守的 shadow volume 都被前方物体挡住，那么节点里的任何真实 volume 都不可能把可见像素变暗，可以直接剪掉整棵子树。

query 需要避免同步 readback：发出异步 occlusion query 后先遍历其他节点，结果回来再决定是否深入；上一帧的 visibility flag 与 frame ID 可以提供 temporal coherence，减少每帧都查询的必要。光源在节点 AABB 内、摄像机在挤出 AABB 内等情况会破坏保守假设，应跳过 query 继续遍历。

6. 把 z 模式、网格质量和填充成本放进一张账

z-pass 通常更快，因为不需要绘制 front cap，且 volume 被遮挡的区域通常更大时，z-fail 会消耗更多 fill rate。但 z-fail 对摄像机位置更通用，robust volume generation 对开放/相交模型更可靠，geometry shader 则把动态 silhouette 的 CPU 工作移到 GPU。没有一个开关可以单独决定最终方案。

在 city walkthrough 这类场景里，层次遮挡剔除可能带来数量级收益；在所有节点都可见、query overhead 高或光源频繁移动的场景里，它也可能略慢于直接绘制全部对象。工程账本至少要记录 volume 生成顶点、stencil fill、query 等待、被剪枝节点和目标 GPU 的 timer，而不是只看“是否有影子”。

三步验收：从 stencil 计数到可扩展阴影

本章小结

• shadow volume 用 stencil counter 记录射线进入/离开体积的次数，非零像素落入阴影。
• z-pass 通常更快；摄像机可能在体积内时，用 z-fail 处理后方交点并补齐 caps。
• robust generation 让开放、相交和低质量网格也能形成方向正确的 volume，但会增加 extrusion 工作。
• geometry shader 用 adjacency 在 GPU 上动态生成 caps 与 silhouette sides，适合动画场景。
• hierarchical occlusion culling 测试挤出的节点 AABB，配合异步 query 剪掉不可见 shadow subtree。