【流控 11-15】

第11课：流控概述

🎯 本课目标

理解NoC流控(Flow Control)的基本概念、分类和设计原则，掌握缓冲区分配和背压机制。

1. 流控概述

流控(Flow Control)决定何时、以什么粒度将数据从一个路由器传输到下一个路由器。它管理缓冲区资源的分配和释放，防止数据丢失，避免拥塞扩散。

流控在NoC协议栈中的位置 ┌────────────────────────┐ │ 应用层 │ ├────────────────────────┤ │ 传输层(端到端) │ ├────────────────────────┤ │ 网络层(路由) │ ├────────────────────────┤ │ ★ 链路层(流控) ★ │ ← 本课重点 ├────────────────────────┤ │ 物理层(链路) │ └────────────────────────┘

2. 流控分类

流控策略分类 ┌────────────────────────────────┐ │ 流控策略 │ └──────────┬─────────────────────┘ ┌────┼────────────┐ ┌────┴──┐ ┌───┴────┐ ┌┴────────┐ │基于信用│ │ON/OFF │ │基于确认 │ │Credit │ │控制 │ │ACK/NACK │ └───────┘ └────────┘ └─────────┘ 粒度: flit级 vs packet级 vs message级

3. 缓冲区管理

缓冲区是流控的核心资源。每个路由器输入端口有一定数量的缓冲区槽位，流控决定何时分配、何时释放。

策略	分配时机	释放时机	缓冲利用率
虫孔+信用	头flit到达	尾flit离开	高
VCT+信用	头flit到达	整包离开	中
SAF+信用	整包到达	整包离开	低

4. 背压机制

当下游路由器缓冲区满时，通过背压(Backpressure)信号通知上游停止发送。背压通过Valid-Ready握手或ON/OFF信号实现。

背压传播 Router A Router B Router C [■■■■□□]──▶[■■■■■■]──▶[■■■■□□] 可发满! 可发 │ ▼ 背压 [■■■■□□]──▶[■■■■■■]──▶[■■■■□□] 停止发送! 满! 可发 │ ▼ 背压传播本地注入也停止!

5. Verilog实现：基础流控模块

// Valid-Ready握手流控模块
module flow_control_basic #(
    parameter DATA_WIDTH = 32,
    parameter DEPTH      = 4
)(
    input  logic                  clk, rst_n,
    // 输入侧
    input  logic [DATA_WIDTH-1:0] in_data,
    input  logic                  in_valid,
    output logic                  in_ready,
    // 输出侧
    output logic [DATA_WIDTH-1:0] out_data,
    output logic                  out_valid,
    input  logic                  out_ready,
    // 状态
    output logic [$clog2(DEPTH):0] occupancy
);
    logic [DATA_WIDTH-1:0] buffer [0:DEPTH-1];
    logic [$clog2(DEPTH):0] wr_ptr, rd_ptr;

    assign occupancy = wr_ptr - rd_ptr;
    assign in_ready  = (occupancy < DEPTH);

    always_ff @(posedge clk or negedge rst_n) begin
        if (!rst_n) begin
            wr_ptr <= 0;
            rd_ptr <= 0;
        end else begin
            if (in_valid && in_ready) begin
                buffer[wr_ptr[$clog2(DEPTH)-1:0]] <= in_data;
                wr_ptr <= wr_ptr + 1;
            end
            if (out_valid && out_ready)
                rd_ptr <= rd_ptr + 1;
        end
    end

    assign out_data  = buffer[rd_ptr[$clog2(DEPTH)-1:0]];
    assign out_valid = (occupancy > 0);
endmodule

✅Verilator验证通过

基础流控模块通过Verilator验证。

6. 练习

📝 课后练习

练习1：分析当背压传播到注入端时，网络吞吐量如何变化。

练习2：实现一个带可编程阈值的ON/OFF流控模块。

练习3：比较flit级流控和packet级流控的缓冲区利用率。

🏆 成就解锁：流量管制员

你已理解NoC流控的基本原理和设计空间！

6. 流控的数学建模

流控设计需要数学模型来预测性能。以下是最常用的建模方法：

6.1 排队论模型

将每个路由器输入端口建模为M/M/1队列(到达率λ，服务率μ)：

平均队列长度 L = λ/(μ-λ)

平均等待时间 W = 1/(μ-λ)

当λ→μ时，W→∞，即网络饱和。实际NoC中，饱和点通常在负载率0.6-0.8之间。

6.2 流控与交换技术的组合

交换+流控组合	延迟	缓冲区	适用场景
WH+信用	中	小	通用NoC
WH+ON/OFF	中	小	简单NoC
VCT+信用	低	大	高性能NoC
WH+2VC+信用	低	中	平衡设计

6.3 背压传播的数学分析

背压在多跳路径上的传播速度为每cycle一跳。对于一个H跳路径，从拥塞点到注入端的背压传播延迟为H cycles。在此期间，注入端不知道下游拥塞，继续注入数据。

安全缓冲区深度 ≥ 背压传播延迟 × 带宽 + 流水线深度

例如：H=6跳，带宽1 flit/cycle，流水线4级 → 安全深度 ≥ 6+4 = 10 flit

💡 流控设计checklist

□ 缓冲区深度是否足够(背压传播+流水线)

□ 信用/ON_OFF信号延迟是否已考虑

□ 高负载下是否保证无数据丢失

□ 死锁是否已避免(Duato/转弯模型)

□ 低负载下延迟是否可接受(旁路优化)

7. 流控的端到端视角

虽然本课聚焦于路由器间的hop-by-hop流控，但NoC的端到端流控同样重要。

7.1 端到端流控

端到端流控在源节点和目的节点之间建立通信协议。常见方案：

滑动窗口：源节点维护一个发送窗口，窗口内的包可以连续发送
停止等待：发送一个包后等待确认，再发下一个(延迟大)
信用制：目的节点给源节点分配信用，源节点按信用发送

7.2 Hop-by-hop vs 端到端

特性	Hop-by-hop	端到端
响应速度	快(1-2 cycles)	慢(数十cycles)
缓冲区需求	小(每跳)	大(端到端)
数据丢失	不会	可能(缓冲区溢出)
拥塞传播	反向传播	不传播

7.3 混合流控策略

最佳实践是结合hop-by-hop和端到端：hop-by-hop防止链路级数据丢失，端到端控制注入速率。这种两层防护确保网络在任何流量下都不丢数据。

8. 流控设计的完整Checklist

在提交NoC设计前，流控部分需要逐一检查以下项目：

#	检查项	验证方法	通过标准
1	缓冲区不溢出	仿真+断言	所有负载下
2	信用计数器正确	断言检查	无溢出/下溢
3	无死锁	长时间仿真	72h无死锁
4	无活锁	包到达率检查	100%到达
5	背压传播正确	波形检查	逐跳传播
6	零负载延迟达标	仿真测量	<设计目标
7	饱和吞吐量达标	注入率扫描	>设计目标
8	ON/OFF无振荡	波形检查	信号稳定

💡 流控Debug经验

最常出现的Bug：①信用计数器初始化为0(应为缓冲深度)；②ON/OFF阈值太小(缓冲区溢出)；③背压信号未打拍(组合环路)；④多VC时信用计数器混淆。建议：先用简单流量验证，再逐步增加复杂度。

9. 流控与网络性能的定量关系

流控策略对NoC性能的影响可以通过以下定量分析来理解：

9.1 延迟-吞吐量曲线的形状

理想NoC的延迟-吞吐量曲线呈"J形"：低负载时延迟恒定(零负载延迟)，接近饱和时延迟急剧上升。流控策略影响曲线的形状和饱和点位置。

9.2 不同流控的饱和点

信用流控由于精确管理缓冲区，饱和点最高(约0.4 flit/node/cycle)。ON/OFF流控由于阈值滞后，饱和点较低(约0.3)。无流控(无限缓冲)时饱和点最高但面积不可接受。

9.3 流控与路由的协同优化

流控和路由可以协同优化：路由器在拥塞时通知邻居，邻居的路由器选择替代路径。这种"拥塞感知路由+信用流控"的组合可以比单独优化任一组件多提升15-20%吞吐量。

10. 流控设计的完整案例研究

以下是一个4×4 Mesh NoC流控设计的完整案例：

10.1 需求分析

系统需求：16核处理器SoC，核间通信延迟<20 cycles，最大吞吐0.4 flit/node/cycle，面积预算0.3mm²。

10.2 方案选择

评估了3种流控方案：ON/OFF(简单但吞吐0.28)、信用(精确，吞吐0.38)、ACK/NACK(可靠但面积大)。最终选择信用流控+2VC，吞吐0.40，满足需求。

10.3 详细参数

参数	值
缓冲深度	5 flit/VC
信用位宽	3 bit
信用返回延迟	2 cycles
VC0用途	请求消息
VC1用途	响应消息

11. 流控设计的仿真验证清单

流控设计完成后，必须通过以下验证清单：

□ 缓冲区不溢出(所有负载下)
□ 信用计数器初始化正确(复位后=DEPTH)
□ 信用计数器不溢出/下溢(添加断言)
□ ON/OFF信号无振荡(检查波形)
□ 长时间运行无死锁(72h测试)
□ 所有数据包最终到达(无活锁)
□ 零负载延迟符合预期(与理论值对比)
□ 饱和吞吐量符合预期(与理论值对比)

◀ 上一课 📖 目录下一课 ▶

12. 流控设计总结与最佳实践

本课回顾了NoC流控的核心概念：缓冲区管理、背压机制和流控策略选择。关键要点：

流控决定数据何时、以什么粒度传输
信用流控精度高，ON/OFF实现简单
缓冲区深度需覆盖信用延迟+流水线深度
背压是防止数据丢失的核心机制

附录：本课关键概念速查

本课涵盖了NoC设计的核心知识点。以下是关键概念的快速参考：

片上网络(NoC)：用路由器+链路替代总线的片上互联架构
路由器：5端口交换节点，包含缓冲/路由/仲裁/交叉开关
虚拟通道(VC)：物理链路的逻辑分割，用于避免死锁和提升吞吐
信用流控：通过信用计数器精确管理缓冲区资源
XY路由：先X后Y的确定性路由，天然无死锁
虫孔交换：头flit建立路径，后续flit流水传输
Round-Robin仲裁：轮转优先级，保证公平性
交叉开关：N×N全连接互连矩阵

掌握这些概念是深入理解NoC设计的基础。建议结合Verilog代码实践，加深理解。