AgentGFM 精读：节点如何学习控制图上的信息流

一张引文图上有效的邻居聚合规则，迁移到网页链接图时，未必仍然有效。论文之间的引用可能传递相近的主题信息；学生网页却可能链接教师、课程和项目主页。同样是“从邻居收集信息”，需要保留的关系和差异并不一样。即使在同一张图里，有的节点需要更远处的证据，有的节点继续传播只会混入无关信号。

AgentGFM 把这个问题推进到节点级：让节点根据当前状态决定接收谁的信息、接收什么类型的信息，以及何时停止接收，再利用传播结果修正自己的表示。 所有节点使用共享策略，实际执行结果随节点和传播阶段变化。

本文阅读的是 Jingbo Cui、Jitao Zhao、Di Jin、Dongxiao He 的 AgentGFM: A Graph Foundation Model with Node-Agent Information-Flow Control，arXiv:2607.26533v1，发布于 2026 年 7 月 29 日。下文将方法公式、附录细节、教学推导和研究判断放在各自对应的位置；实验数值均为论文报告或根据原表计算，本文没有训练模型或独立复现实验。

1. 从固定传播到可迁移的信息流策略

1.1 GFM 希望迁移什么

图基础模型（Graph Foundation Model，GFM）希望在多个源图上学习能够迁移到未见目标图的知识。图可以写成

\mathcal G=(\mathcal V,\mathcal E,\mathbf X),

其中 $\mathcal V$ 为节点集合， $\mathcal E$ 为边集合， $\mathbf X$ 为节点属性矩阵。跨域设置要求源图集合与目标图集合不相交： $\mathcal G_S\cap\mathcal G_T=\varnothing$ 。迁移时，模型既可能遇到不同维度、不同含义的属性，也可能遇到不同的局部拓扑模式。

这两种差异需要分别处理。统一属性维度可以解决输入规格问题，却不会自动告诉模型哪些邻居更有用；在结构上使用同一个聚合算子，也不意味着它适合所有目标图。

传统消息传递通常先聚合、再更新。论文式 (1)–(2) 写为：

\mathbf m_v^{(k)}=\operatorname{AGG}^{(k)} \left(\{\mathbf h_u^{(k)}\mid u\in\mathcal N(v)\}\right), \qquad \mathbf h_v^{(k+1)}=\phi^{(k)}(\mathbf h_v^{(k)},\mathbf m_v^{(k)}).

$k$ 表示传播层或步骤， $\mathcal N(v)$ 是邻居集合， $\operatorname{AGG}$ 可以是求和、均值或注意力聚合。网络能学习权重，但传播深度、消息构造和执行组织仍受架构约束。

已有注意力 GNN、自适应邻居选择和自适应传播深度研究，因此不能把 AgentGFM 的贡献概括为“首次让节点选择邻居”。它更具体的研究对象是：在跨图预训练中学习一套联合控制来源、信号类型、传播时长和反馈修正的策略。 这是论文 Section 1–3 和 Appendix A 的方法定位。原文背景与方法定位

1.2 同配、异配与传播范围

同配性（homophily）表示相连节点倾向于具有相同类别或相似属性；异配性（heterophily）表示相连节点可能具有不同类别。这里讨论的是边两端的关系，需与“不同节点类型、边类型组成的异构图”区分。

当相邻节点共享有用的共性时，平滑聚合可能有帮助；当差异本身承载信息时，不加区分地求平均可能抹去差异。同时，传播过浅会错过远处证据，传播过深则可能反复混入无关信息。最佳范围可能因节点而异。

图 1：概念图。颜色和图形表示假设类别，线型表示不同传播选择；这些不是论文数据的可视化。低频与高频是信号性质，不能直接替换成同配标签与异配标签。

论文式 (3)–(5) 用决策过程重述消息传递：

\mathbf s_v^{(k)}=f_s(\mathbf h_v^{(k)},\mathbf m_v^{(k)}),\qquad \mathbf d_v^{(k)}=\pi_\theta(\mathbf s_v^{(k)}),\qquad \mathbf h_v^{(k+1)}=f_t(\mathbf h_v^{(k)},\mathbf m_v^{(k)},\mathbf d_v^{(k)}).

这组公式是通用问题表述：决策 $\mathbf d$ 显式影响状态转移。Section 4 才给出具体实现。共享参数 $\theta$ 不要求共享决策结果，正如同一个注意力打分网络处理不同输入会产生不同权重。

这里的 Agent 是共享神经策略在节点上的一次执行。模型没有语言模型工具调用、文字规划或多个独立大模型；Policy 也不意味着采用强化学习。其训练依靠自监督损失、普通反向传播与离散停止动作的代理梯度。

2. 先建立完整的数据流

2.1 输入、Encoder、训练目标与迁移的关系

论文 Figure 2 将系统分为多领域输入、Node-Agent Encoder，以及预训练与下游迁移三个部分。理解它时，需要同时区分前向计算和参数学习。

1794111259179

输入图先经过截断 SVD，将节点属性转换到统一维度，再进入 Encoder。Encoder 负责计算表示；预训练目标根据这些表示及内部观察计算损失，再反向更新 Encoder 和训练相关模块。图中把 Pre-training 画在 Encoder 后面，表示计算依赖，不能读成“先训练好 Encoder，再开始预训练”。

例如，用讲解记号写为：

\mathbf H'=E_\theta(\mathcal G,\widetilde{\mathbf X}), \qquad \mathcal L=\mathcal L(\mathbf H',\widehat{\mathbf O},\mathbf O,\gamma,\mu,a).

$\widetilde{\mathbf X}$ 表示对齐后、训练时进一步掩码的输入。损失指导模型如何学习传播，而不是代替传播过程。

AgentGFM 的整体计算及学习关系：对齐后的图进入编码器，损失反向更新参数，预训练编码器用于目标图原型分类。

图 2：依据 Figure 2 与 Section 4–5 重绘。实线表示前向依赖，虚线表示训练更新。内部交互和训练优化是两个不同层次的循环。

默认统一属性维度是 50，隐藏维度是 128。为了避免混淆，本文分别记作 $d_{\mathrm{attr}}$ 与 $d$ 。对某个属性矩阵，截断 SVD 可用 $\mathbf X\approx\mathbf U_k\mathbf\Sigma_k\mathbf V_k^\top$ 理解， $\mathbf X\mathbf V_k$ 是一种常见的低维表示；这是解释 SVD 的一般形式，论文未完整展开跨数据集拟合、符号处理及目标图变换的全部实现。

尤其应注意，统一到 50 维只保证维度相容。不同图分别求得的基底不天然具有完全相同的语义坐标，不能据此声称跨域语义已经严格对齐。

2.2 一个节点、两种状态、两个时间尺度

AgentGFM 给同一个节点定义两种用途不同的隐藏状态：

对象	记号	更新时机	主要职责
外层节点表示	$\mathbf h_i$	每轮完整交互结束后	承载跨轮信息，生成预测，供下游使用
内层 Carrier	$\mathbf c_i^t$	每个活跃传播步骤	承载当前传播状态，参与消息和动作计算
即时上下文	$\mathbf r_i^t$	每个传播步骤	表示本步实际接收的聚合消息
整轮 Observation	$\mathbf o_i$	内层传播结束后	汇总本轮上下文，参与对齐和修正

Carrier 可以译为“信息承载状态”。它是内层传播的工作状态，既保存中间信息，也参与来源接收、通道选择、停止决策，并为其他节点的消息构造提供输入。

为区分时间尺度，本文补充外层轮次索引 $r$ ，使用 $\mathbf h_i^{(r)}$ 与 $\mathbf c_i^{(r,t)}$ 。这不是论文新增机制，只是将正文省略的轮次关系显式化：

\mathbf c_i^{(r,0)}=\mathbf h_i^{(r)},\qquad \mathbf h_i^{(r+1)}=\operatorname{Correct}^{(r)} (\mathbf h_i^{(r)},\widehat{\mathbf o}_i^{(r)},\mathbf o_i^{(r)}).

同一个节点的两条状态路径：Carrier 在轮内变化，外层表示经观察反馈后跨轮延续。

图 3：外层轮次与内层步骤的关系。下一轮 Carrier 从修正后的节点表示重新初始化，论文没有直接令下一轮表示等于上一轮最终 Carrier。

论文式 (6) 的 $\mathbf s_i^t=\mathbf c_i^t$ 指内层决策使用当前 Carrier；Section 4.3 的 $\mathbf s_i=\mathbf h_i$ 指外层开始时用节点表示生成预测。内层初始化时两者数值相同，传播后可以不同。

默认 $R=2$ ，每轮最多 $T_{\max}=5$ 步。它包含轮末反馈、节点独立停止和 Carrier 重置，不能仅当作固定十层 GNN。Appendix B.3 还明确：同一外层轮次内，模块跨节点、边、图域及内层步骤共享参数；不同外层轮次使用不同参数集。

两种状态使传播和反馈修正有明确的职责边界，但这是架构选择。保留起始状态、使用单一递归状态再做末端校正，在数学上同样可以构造；双状态是否更好，需要针对性的比较，不能由“闭环必须如此”推出。

2.3 图环境怎样返回观察

Graph Environment 是当前图及其受策略控制的消息计算。原始边限定可直接交互的节点，节点及邻居的状态、来源权重和通道门控共同决定实际上下文。它与 Node-Agent 是计算角色的区分，无须部署成独立程序，也没有在此返回 RL 意义上的 Reward。

整轮交互可以先记住四件事：Predict 根据 $\mathbf h_i$ 预测上下文；Act 控制图上的信息传播；Observe 汇总这次传播实际获得的上下文；Correct 比较预测与观察，更新外层表示。接下来沿这条依赖逐项展开。原文 Section 4.2–4.6

3. Predict：先估计本轮会获得什么上下文

式 (9) 定义：

\widehat{\mathbf o}_i=f_{\mathrm{pred}}(\mathbf h_i), \qquad f_{\mathrm{pred}}:\mathbb R^d\to\mathbb R^d.

预测对象是本轮图交互产生的 Observation，不是节点类别、下一条边，也不是完整邻域的重建。它提供一个在传播开始前形成的参照。

这个预测与实际观察都在模型的表示空间中。实际观察由当前传播策略生成，因此其分布会随训练变化；它不是固定的外部真值。预测器通过观察对齐损失学习，也可能通过后续 Correct 路径接收重建等目标的梯度。

全文有两个不同的预测器。 $f_{\mathrm{pred}}$ 预测整轮观察；后面 $f_{\mathrm{gain}}$ 在内层预测本步上下文。二者输入、目标和使用时机都不同。

4. Act：把接收强度、信号内容和执行时长分开

每一步的动作是 $\mathbf d_i^t=(\boldsymbol\gamma_i^t,\boldsymbol\rho_i^t,z_i^t)$ 。其中 $\gamma$ 与 $\rho$ 按边计算， $z$ 按节点计算。执行时还需要活跃状态 $a_i^t$ 和转发预算 $b_i^t\in[0,1]$ 。

以下省略外层索引。 $u\to i$ 始终表示源节点 $u$ 向目标节点 $i$ 的消息方向；即使底层图无向，两种方向的控制量也可以不同。

4.1 Source Reception：从谁那里接收、多强地接收

正文式 (10) 给出抽象函数，附录式 (31)–(32) 展开为 Query–Key 兼容性与反馈网络之和：

s_{u\to i}^{\gamma,t}= \frac{(\mathbf W_q^\gamma\mathbf c_u^t)^\top (\mathbf W_k^\gamma\mathbf c_i^t)}{\sqrt{d_q}} +g_\gamma([\epsilon_u\Vert\epsilon_i\Vert b_u^t]), \qquad \gamma_{u\to i}^t=\sigma(s_{u\to i}^{\gamma,t}).

本文用 $d_q$ 表示论文式 (31) 中记为 $r$ 的投影维度，以免和外层轮次重名。 $\Vert$ 表示拼接； $\epsilon_u,\epsilon_i$ 是上一轮预测—观察交互的反馈线索。

第一项根据源、目标 Carrier 的学习投影评估兼容性；第二项结合历史反馈与源预算调整得分。Sigmoid 将每条边独立映射到 $(0,1)$ ，这里没有在全部邻居上做 softmax，因此所有 $\gamma$ 的和不必为 1。

真正生效的传输强度还需要式 (11)：

\mu_{u\to i}^t=a_i^t b_u^t\gamma_{u\to i}^t.

目标端 $a_i^t$ 决定是否继续接收，源端 $b_u^t$ 控制转发能力， $\gamma$ 决定这条方向上的接收偏好。例如人工设定 $a_i^t=1,b_u^t=0.5,\gamma=0.8$ ，则 $\mu=0.4$ 。这只是标量强度计算，不能读成“收到 0.4 比特”或“正确概率为 40%”。

4.2 低频与高频：先构造局部背景，再保留偏离

图上的低频可以直观理解为沿相邻节点变化较平缓的信号，高频则强调局部变化。AgentGFM 用邻域加权背景与残差构造两路分量，未显式执行拉普拉斯特征分解。

对 $t>0$ ，式 (12) 使用上一步接收分数构造权重：

\alpha_{u\to i}^t= \frac{\operatorname{sg}(\gamma_{u\to i}^{t-1})} {\sum_{v\in\mathcal N(i)}\operatorname{sg}(\gamma_{v\to i}^{t-1})+\varepsilon}.

首步使用均匀邻居权重； $\operatorname{sg}$ 表示停止梯度，前向数值不变，反向不沿这条依赖传播。分母含稳定常数，所以非零邻居情况下权重和接近 1，而非严格等于 1。这也不同于直接使用当前步的 $\mu$ ： $\alpha$ 没有乘目标活跃变量与源预算。

式 (13) 为每个节点构造：

\mathbf c_{i,\mathrm{low}}^t= \sum_{u\in\mathcal N(i)}\alpha_{u\to i}^t\mathbf c_u^t, \qquad \mathbf c_{i,\mathrm{high}}^t=\mathbf c_i^t-\mathbf c_{i,\mathrm{low}}^t.

低频是邻域背景，高频是自身相对背景的残差。例如某个标量特征的自身值为 5，两个邻居为 1 和 3，忽略稳定常数并取均匀权重，则背景为 2，残差为 3。这个例子只解释算子，不对应真实类别。

向 $i$ 发送消息时，使用的是源节点 $u$ 的两路分量。 式 (14) 写为：

\mathbf m_{u,\mathrm{low}}^t=\mathbf W_{\mathrm{low}}\mathbf c_{u,\mathrm{low}}^t, \qquad \mathbf m_{u,\mathrm{high}}^t=\mathbf W_{\mathrm{high}}\mathbf c_{u,\mathrm{high}}^t.

不能把下标 $u$ 换成接收节点 $i$ ，这会改变整个计算。

源节点的邻域背景与自身残差形成两路消息，由边级门控混合，再用有效强度加权送往目标。

图 4：消息构造的分解视图。来源强度决定接收量，通道门控决定内容配比；低高频分量围绕源节点构造。

4.3 Channel Selection：连续混合两类消息

令 $s_{ui}^t$ 为源、目标 Carrier 的余弦相似度，附录式 (33)–(34) 为：

\begin{aligned} s_{u\to i}^{\rho,t} ={}&\frac{(\mathbf W_q^\rho\mathbf c_u^t)^\top (\mathbf W_k^\rho\mathbf c_i^t)}{\sqrt{d_q}}\\ &+g_\rho([s_{ui}^t\Vert(1-s_{ui}^t)\Vert\epsilon_u\Vert\epsilon_i\Vert b_u^t]),\\ \rho_{u\to i}^t ={}&\sigma\left(\frac{s_{u\to i}^{\rho,t}+\beta_{\mathrm{smooth}}}{\tau_\rho}\right). \end{aligned}

$\beta_{\mathrm{smooth}}$ 调节低频偏置，正温度 $\tau_\rho$ 调节 sigmoid 的陡峭程度。相似度及其补量都在附录输入中，不能漏掉 $s_{ui}^t$ 。余弦相似度通常在 $[-1,1]$ ， $1-s_{ui}^t$ 也不天然是概率。

式 (15) 的消息为：

\mathbf m_{u\to i}^t= \rho_{u\to i}^t\mathbf m_{u,\mathrm{low}}^t+ (1-\rho_{u\to i}^t)\lambda_{\mathrm{high}}\mathbf m_{u,\mathrm{high}}^t.

$\rho$ 越大，越偏低频；越小，越偏高频。默认 $\lambda_{\mathrm{high}}=0.30$ ，因此两路系数分别是 $\rho$ 与 $0.30(1-\rho)$ ，不是直接对未缩放两路做等尺度插值。例如 $\rho=0.7$ 时，系数为 0.7 和 0.09；实际贡献还取决于两路向量的范数和方向。

$\gamma$ 与 $\rho$ 接收部分相似输入，但控制对象不同。前者调节整条消息的强度，后者改变消息内部配比。它们可能在优化中耦合，是否存在冗余需要实验，而不能只凭输入相似判断。

4.4 聚合上下文，并更新转发预算

式 (16) 把全部入边消息汇总：

\mathbf r_i^t=\sum_{u\in\mathcal N(i)}\mu_{u\to i}^t\mathbf m_{u\to i}^t.

$\mu$ 是标量， $\mathbf m$ 和 $\mathbf r$ 是 $d$ 维向量。这里也没有按入边 $\mu$ 总和再归一化。

附录式 (36)–(37) 更新预算：

\widetilde b_i^{t+1}=\mathcal T_{b_{\min}} \left[\operatorname{clip}\left(\eta_b\sum_{u\in\mathcal N(i)}\mu_{u\to i}^t,0,1\right)\right], \qquad b_i^{t+1}=a_i^t\widetilde b_i^{t+1}+(1-a_i^t)b_i^t.

$\eta_b$ 为缩放系数，clip 将数值限制到 $[0,1]$ ， $\mathcal T_{b_{\min}}$ 将低于阈值的值置零。预算按收到的有效传输强度之和重新计算，可以增加也可以减少，不是每步消耗一点的剩余电量。

它也没有直接检查消息是否正确。很多无关边的强度之和仍可能很大，因此“预算持续”仅表示这种计算下的转发能力持续，不能解释为语义价值已经得到验证。正文与附录策略细节

5. Gain-Aware Halting：收到当前消息后，决定下一步是否继续

5.1 先产生候选 Carrier

式 (17) 为：

\widetilde{\mathbf c}_i^{t+1}= \operatorname{Norm}_2\left(\mathbf c_i^t+ f_c([\mathbf c_i^t\Vert\mathbf r_i^t])\right).

$f_c:\mathbb R^{2d}\to\mathbb R^d$ 处理当前状态与本步上下文，输出更新量，经残差相加后做 L2 归一化。L2 归一化以向量长度为尺度；后面的 LayerNorm 按特征均值与方差处理，两者不能混用。

5.2 Gain 是当前上下文的预测改善

式 (18) 用同一个局部预测器分别处理旧状态与候选状态：

\begin{aligned} d_{i,-}^t&=\frac1d\|\mathbf r_i^t-f_{\mathrm{gain}}(\mathbf c_i^t)\|_1,\\ d_{i,+}^t&=\frac1d\|\mathbf r_i^t-f_{\mathrm{gain}}(\widetilde{\mathbf c}_i^{t+1})\|_1,\\ g_i^t&=d_{i,-}^t-d_{i,+}^t. \end{aligned}

正值表示候选更新后更容易预测已经收到的本步上下文。例如误差从 0.40 降到 0.15，则 $g=0.25$ ；它不是熵差意义上的严格信息增益，也不是“再传播一步会提高多少分类准确率”的直接预测。

这一点影响研究解释。负增益可能反映局部预测器不准确、更新不合适等情况，不能直接判定消息是噪声。甚至较大的正增益，也可能只表明候选状态更容易编码本步内容，而非后续继续传播必然有利。

5.3 停止网络与 STE

式 (19) 综合多个输入，而不是仅对 $g$ 取符号：

\kappa_i^t=f_{\mathrm{halt}} (\mathbf c_i^t,\mathbf r_i^t,\widetilde{\mathbf c}_i^{t+1},g_i^t,b_i^t,\mathbf e_t), \qquad \kappa_i^t\in(0,1).

$\mathbf e_t\in\mathbb R^4$ 是可学习的步骤嵌入。默认阈值 $\theta_0=0.55$ ，式 (20) 为：

z_{i,\mathrm h}^t=\mathbb I(\kappa_i^t\ge\theta_0),\qquad z_i^t=z_{i,\mathrm h}^t+\kappa_i^t-\operatorname{sg}(\kappa_i^t),\qquad a_i^{t+1}=a_i^t(1-z_i^t).

前向中后两项数值相消，因此执行硬停止；反向采用连续得分的代理梯度。按这个表达， $\partial z/\partial\kappa$ 的代理值为 1。它使停止控制器能参与端到端优化，但不是硬阈值的真实导数，也不保证最优离散决策。

5.4 停止不撤销当前步骤

式 (21) 更新 Carrier 时使用 $a_i^t$ ：

\mathbf c_i^{t+1}=a_i^t\widetilde{\mathbf c}_i^{t+1}+(1-a_i^t)\mathbf c_i^t.

若本步开始时仍活跃，当前消息已经接收，候选更新仍会采用。本步 $z_i^t=1$ 使下一步 $a_i^{t+1}=0$ ；它不会取消当前更新。预算也按当前 $a_i^t$ 更新。

节点停止的时序：当前步接收并更新，停止信号关闭下一步接收，冻结状态仍可能作为邻居的信息来源。

图 5：假设 B 在第一个执行步骤末停止。B 后续入边的有效接收为零，Carrier 和预算冻结；B→A 是否仍有效由 A 的活跃状态、B 的预算及该方向接收分数决定。

于是，已停止节点满足 $\mathbf c_i^{t+1}=\mathbf c_i^t$ 与 $b_i^{t+1}=b_i^t$ 。但 $\mu_{B\to A}^t=a_A^t b_B^t\gamma_{B\to A}^t$ 中没有 $a_B^t$ ：只要 A 活跃且 B 预算非零，B 仍可参与向 A 的消息计算。

这里还存在一个比“冻结后仍能发送”更细的区别。 $\mathbf c_{B,\mathrm{low}}^t$ 依赖 B 的邻居 Carrier 与权重， $\rho_{B\to A}^t$ 也依赖目标 A 的状态。因此，冻结的是 B 自己的 Carrier 和预算，不必然是 B 发出的整个消息向量。按印出的式 (12)–(15)，变化中的邻居仍可能通过 B 的通道构造影响其他活跃节点；B 自己的累计 Observation 则不再增加。

这也提醒我们不要把“一次 rollout 步骤”机械等同于“恰好增加一跳感受野”：源端消息构造本身已经读取源节点的邻域背景。具体感受野要沿完整依赖分析。论文在 Figure 5 中展示了五跳来源，但这不构成所有算子严格逐跳扩展的证明。

6. Observe：把整轮接收到的消息变成上下文

式 (22) 将消息沿时间求和，再做 LayerNorm 与 ReLU：

\mathbf o_i=\operatorname{ReLU}\left( \operatorname{LN}\left(\sum_{t=0}^{T-1}\mathbf r_i^t\right)\right).

由于 $a_i^t=0\Rightarrow\mu_{u\to i}^t=0\Rightarrow\mathbf r_i^t=\mathbf0$ ，所有节点可以统一求和到最大步数，停止后的项自动为零。无需把停止节点从原图删除。

最终 Carrier 与 Observation 有不同计算路径。前者从初始状态开始递归融合消息，用于内层决策与后续消息；后者汇总本轮接收的上下文，用于外层对齐与修正。Observation 虽然没有显式把初始 $\mathbf h_i$ 加入求和，但各步消息受节点状态、策略、邻居状态及反馈影响，不能把它当作与节点自身完全独立的“纯外部证据”。

6.1 手算一次 Observation

假设 A 的三步上下文分别为 $[1,0,0]$ 、 $[0,2,0]$ 、 $[0,0,0]$ ，最后一步因停止而为零。求和得到 $\mathbf R_A=[1,2,0]$ 。

为演示计算，设 LayerNorm 的仿射缩放为 1、平移为 0，并忽略稳定常数。特征均值为 1，方差为 $2/3$ ，因此

\operatorname{LN}(\mathbf R_A)=[0,\sqrt{3/2},-\sqrt{3/2}], \qquad \mathbf o_A\approx[0,1.225,0].

Observation 汇总示例：三个时刻的向量先求和，再统一归一化和整流，形成固定维度观察。

图 6：人工设定的三维教学示例。正常模型的 LayerNorm 含可学习仿射参数和稳定常数；图中数值采用上文简化条件。

这个计算保留了整轮上下文的一种压缩表示，但会丢失部分细节。对固定的消息列表，求和不区分时间顺序，且正负消息可能抵消；实际执行中交换步骤通常会改变 Carrier 和消息本身，所以不能进一步推断整个模型与顺序无关。

还需注意三个算子性质。第一，先求和再 LN、ReLU，一般不等于逐步 LN、ReLU 后求和。第二，式中没有除以活跃步数，不过 LN 对正的整体尺度变化具有近似不变性，步数影响并不能简单按幅度解释。第三，ReLU 保证最终观察非负，但最终表示经残差和 LayerNorm 后不必非负。

若测试时间聚合的替代方案，Mean 与 Sum 后接 LN 在忽略稳定常数等条件下可能近似等效，因而仅换 Mean 不一定形成强对照。跨步注意力或带门控的聚合，则确实改变了不同消息的相对权重。

7. Correct：以预测为参照，学习如何融合实际观察

7.1 差异是向量，融合门控也是向量

式 (23)–(24) 为：

\boldsymbol\delta_i=|\mathbf o_i-\widehat{\mathbf o}_i|,\qquad \mathbf q_i=\sigma\left(f_{\mathrm{rel}} (\mathbf h_i,\widehat{\mathbf o}_i,\mathbf o_i,\boldsymbol\delta_i)\right)\in(0,1)^d.

$\boldsymbol\delta_i$ 保留每一维的偏差幅度，不是标量损失。门控还读取预测、实际观察和当前状态，所以并未失去偏差方向信息，也不是只由绝对误差决定。

差异大可能因为预测失准，也可能因为观察受扰动。仅靠差异大小无法判断哪一方更可靠。论文把 $f_{\mathrm{rel}}$ 称作 reliability gate，但这里 $q_{i,j}=0.9$ 的可验证含义是“该维融合更偏向实际观察”，不是“该观察正确概率为 90%”。

式 (25) 可以改写为：

\widetilde{\mathbf o}_i= \mathbf q_i\odot\mathbf o_i+(1-\mathbf q_i)\odot\widehat{\mathbf o}_i =\widehat{\mathbf o}_i+\mathbf q_i\odot(\mathbf o_i-\widehat{\mathbf o}_i).

右式表明模型以预测为参照，学习沿有符号差值修正多少；绝对差异只参与门控输入，并非直接作为更新量相加。

7.2 三维融合示例

人工设定 $\widehat{\mathbf o}=[0.2,0.9,0.1]$ ， $\mathbf o=[0.8,0.6,0.1]$ ， $\mathbf q=[0.8,0.2,0.5]$ ，可得

\boldsymbol\delta=[0.6,0.3,0],\qquad \widetilde{\mathbf o}=[0.68,0.84,0.10].

第一维靠近实际观察，第二维靠近预测。第三维两者一致，所以任意门控值都会得到 0.1；对应直接融合路径的导数为

\frac{\partial\widetilde o_j}{\partial q_j}=o_j-\widehat o_j=0.

图 7：数轴上的逐维融合。第三维两端重合，改变该维门控不会改变直接融合结果。示例不表示模型内部某个维度对应可命名的语义。

7.3 残差修正与跨轮反馈

式 (26) 更新外层表示：

\mathbf h_i'=\operatorname{LN} \left(\mathbf h_i+\operatorname{Dropout}(\widetilde{\mathbf o}_i)\right).

残差保留旧表示并加入本轮上下文；Dropout 在训练时随机屏蔽部分特征，通常在推理模式关闭；LayerNorm 对特征维度归一化并执行可学习仿射变换。最终更新依赖整轮观察与预测，论文未设置 $\mathbf h_i'=\mathbf c_i^T$ 。

反馈进入下一轮有两条路径。明确的一条是 $\mathbf o_i\to\mathbf h_i'\to\mathbf c_i^{\mathrm{new},0}$ ，新 Carrier 改变下一轮策略输入。另一条是附录策略直接读取 $\epsilon_i$ 。原文说明它来自上一轮预测—观察交互，却未完整给出其构造、维度和首轮初始化。

因此， $\epsilon_i=\boldsymbol\delta_i$ 可以作为复现候选，但不是论文已经给出的等式。这个缺口不影响理解主要状态修正公式，却影响唯一确定的工程实现。原文反馈修正

8. 预训练：表示质量与传播成本共同塑造策略

8.1 掩码属性重建

式 (27) 只在被掩码的节点集合 $\mathcal M$ 上计算：

\mathcal L_{\mathrm{mae}}= \frac1{|\mathcal M|}\sum_{i\in\mathcal M} \|\mathbf x_i-f_{\mathrm{dec}}(\mathbf h_i')\|_1.

掩码遮蔽节点属性，节点和边仍然保留。模型利用可见属性与结构上下文恢复目标。L1 范数先对向量各维绝对误差求和，再对掩码节点平均；若在实现中直接对所有元素求 mean，会相差一个属性维度的缩放因子。

例如真实值 $[1,0,2]$ 与重建值 $[0.8,0.4,1.5]$ 的 L1 误差为 $0.2+0.4+0.5=1.1$ 。平方误差会对较大的偏差施加更强惩罚，两者不是同一个目标。

若重建在对齐空间进行，解码器应把 128 维隐藏表示映射回 50 维属性。这是与统一输入规格相容的解释；原文式 (27) 未进一步澄清重建目标究竟采用对齐属性还是原始属性，精确实现仍需核实。

重建损失通过解码器、修正后表示、融合观察、即时消息，向相关来源与通道控制参数传递梯度。它并未提供“最佳邻居”标签，而是通过重建结果间接塑造传播策略。

8.2 预测—观察对齐及停止梯度的范围

式 (28) 为：

\mathcal L_{\mathrm{pred}}=\frac1{|\mathcal V|}\sum_i \left(1- \frac{\widehat{\mathbf o}_i^\top\operatorname{sg}(\mathbf o_i)} {\|\widehat{\mathbf o}_i\|_2\|\mathbf o_i\|_2+\varepsilon} \right).

它鼓励方向相近，而非逐元素相等。例如忽略稳定常数时， $[1,0]$ 与 $[2,0]$ 的对齐损失为零，但绝对差异仍是 $[1,0]$ 。因此，对齐损失很小不保证 Correct 中的逐维差异也很小。

这里必须按印出的表达区分梯度。分子有 $\operatorname{sg}(\mathbf o)$ ，分母范数没有显式写 sg。若逐字实现，Observation 仍可从分母收到梯度。令 $\mathbf p=\widehat{\mathbf o}$ ， $N=\mathbf p^\top\operatorname{sg}(\mathbf o)$ ， $D=\|\mathbf p\|\|\mathbf o\|+\varepsilon$ ，对非零 $\mathbf o$ 有

\frac{\partial(1-N/D)}{\partial\mathbf o} =\frac{N\|\mathbf p\|}{D^2}\frac{\mathbf o}{\|\mathbf o\|}.

一般不为零。若将 Observation 整体 detach，再同时用于分子和分母，则该损失对实际观察分支的直接梯度为零。这两种写法前向数值相同，反向不同，需由对应实现确认作者意图。

即使完整 detach，也只截断这一损失的目标分支。Observation 通过 Correct 通向重建损失的路径仍可训练，不能把它理解成整套消息传播不接收梯度。

此外，余弦对齐本身不能保证避免表示坍塌：所有节点都输出相同非零向量，也能很好地对齐。掩码重建提供额外的数据恢复约束，但重建质量与分类可分性仍需用下游实验检验。

8.3 三项正则约束三个不同位置

附录式 (38)、(40)、(41) 将正文期望展开为：

\begin{aligned} \mathcal L_\gamma&=\frac1{T|\mathcal E|}\sum_{t,(u,i)\in\mathcal E}\gamma_{u\to i}^t,\\ \mathcal L_\mu&=\frac1{T|\mathcal E|}\sum_{t,(u,i)\in\mathcal E}\mu_{u\to i}^t,\\ \mathcal L_a&=\frac1{T|\mathcal V|}\sum_{t,i}a_i^{t+1}. \end{aligned}

第一项抑制所有来源都很强的接收倾向，第二项约束活跃状态、预算与接收强度共同作用后的实际传输量，第三项约束继续传播。第三项使用 $a^{t+1}$ ：若首步结束即停，后续活跃指示都为零，这个正则可为零，尽管首步消息已经处理。

这些项只惩罚量与时长，不直接提供信息价值标签。若权重过强，少接收、早停止就会占据优势，需要与表示学习目标权衡。

完整式 (30) 是：

\mathcal L=\lambda_{\mathrm{mae}}\mathcal L_{\mathrm{mae}} +\lambda_{\mathrm{pred}}\mathcal L_{\mathrm{pred}} +\lambda_\gamma\mathcal L_\gamma +\lambda_\mu\mathcal L_\mu +\lambda_a\mathcal L_a.

默认五个权重依次为 $1,0.5,0.001,0.001,0.001$ 。系数大小不等于实际梯度贡献大小，后者还取决于损失尺度和参数敏感性。

8.4 各模块从哪里获得学习信号

模块	主要计算与学习路径	需要保留的边界
整轮预测器 $f_{\mathrm{pred}}$	观察对齐、Correct 后续目标	目标观察随策略变化
来源策略 $\gamma$	消息影响的重建目标、接收与传输正则	没有最优来源标签
通道策略 $\rho$	消息内容影响后续表示与损失	没有最优频段标签
Carrier 更新器 $f_c$	通过后续消息和决策影响损失	最后一步 Carrier 不会直接成为外层输出
停止控制器 $f_{\mathrm{halt}}$	活跃状态与后续计算，经 STE 传递	使用代理梯度，具体路径可能为零
修正门控 $f_{\mathrm{rel}}$	融合表示通向重建等目标	没有可靠性概率标签
局部预测器 $f_{\mathrm{gain}}$	$g\to\kappa\to a\to\mathcal L$	总目标未单列上下文预测监督

最后一项尤其值得核实。能通过停止网络得到梯度，不等于预测器一定准确地预测了上下文，也不等于 $g$ 已经成为可信的未来收益估计。应测量其预测误差、增益分布及与实际任务收益的关系。

附录给出的轻量模块主要使用带 PReLU、Dropout 的两层 MLP；表示输出采用归一化，标量与逐维门控使用 sigmoid。没有 PPO、GRPO 或显式轨迹回报目标。原文训练目标与实现配置

8.5 主要默认配置

配置	值	配置	值
统一属性维度	50	隐藏维度	128
外层轮数	2	每轮最大步数	5
掩码比例	0.35	Dropout	0.10
学习率	$5\times10^{-4}$	Weight decay	$5\times10^{-4}$
训练轮数	500	停止阈值	0.55
高频缩放	0.30	支持集采样次数	100

以上来自 Table 10。首轮反馈、预算初始化、预算系数与阈值、通道温度和偏置、Query–Key 维度，以及损失怎样在外层轮次间汇总，并未在这张表中完整给出。

9. 下游迁移：用每类一个样本建立原型

论文采用 leave-one-dataset-out cross-domain 1-shot 协议。对于目标数据集 $D_j$ ，先用其他数据集预训练，再在 $D_j$ 上提取表示。不同目标对应不同留一设置，不能让目标数据提前参与对应模型的预训练。原文评估协议

目标图的无标签属性与拓扑在表示计算时可用；分类监督限制为每类一个支持样本。若类别 $k$ 的支持节点为 $v_k$ ，它的表示直接作为原型 $\mathbf p_k=\mathbf h_{v_k}$ 。其余节点按

\widehat y_v=\arg\max_k \frac{\mathbf h_v^\top\mathbf p_k}{\|\mathbf h_v\|_2\|\mathbf p_k\|_2}

分类。这不是整个目标图只用一个标签，也不是零样本分类；协议描述的适配主要在构建原型，不要求用一个样本重训整个 Encoder。

源图学习参数，未见目标图生成表示；每类一个支持样本成为原型，其余实例按余弦相似度分类。

图 8：1-shot 迁移的概念示意，平面上的点位不是实际嵌入投影。圈出的点表示带标签支持样本；目标图的无标签结构仍参与表示计算。

整图分类先做节点均值池化：

\mathbf g=\frac1{|\mathcal V|}\sum_{i\in\mathcal V}\mathbf h_i,

再用每类一个带标签图的向量建立原型。节点控制发生在 Encoder 内，池化将结果交给图级任务，因此节点级机制可以服务整图分类。

对于没有原生节点属性的数据，附录 B.1 先在节点标签可用时采用其 one-hot 编码，否则采用节点度数的 one-hot 编码，维度由整个数据集的最大标签值或最大度数确定。这里的节点标签作为输入属性，不等于图分类的目标标签。模型仍有输入特征；已有原生属性时则直接使用。MUTAG 属于小分子数据，DD、PROTEINS、ENZYMES 属于蛋白质或生物信息相关数据，IMDB-BINARY 属于社交图；不应将 DD 归入小分子图。

支持集选择会影响结果，作者重复采样 100 次报告均值和标准差。它反映支持集随机性的波动，不等于完成 100 次独立预训练，也不是置信区间或显著性检验。

10. 实验：整体优势、组件证据与解释边界

10.1 跨域节点分类

Table 1 覆盖 Cora、CiteSeer、PubMed、Computers、Photo、Texas、Wisconsin、Cornell、Chameleon、Squirrel。前几者覆盖引文与商品共购网络，WebKB 的三所大学覆盖网页链接，最后两者为 Wikipedia 网络。这些基准提供了不同领域与局部结构，不能仅凭领域名称确定每条边的语义价值。

AgentGFM 在十个目标上有九个取得最高报告均值，平均名次为 1.10。下表为部分结果；差值按原表均值计算，单位 pp 为百分点。

目标	AgentGFM（%）	最强基线均值（%）	差值
Cora	$51.94\pm7.28$	BRIDGE 44.43	+7.51 pp
CiteSeer	44.32	R-GFM 51.25	−6.93 pp
PubMed	52.96	GraphAny 52.16	+0.80 pp
Computers	55.93	GraphAny 49.11	+6.82 pp
Texas	42.21	GraphMAE 36.16	+6.05 pp
Cornell	39.83	GraphAny 34.59	+5.24 pp
Chameleon	30.54	GCOPE 30.32	+0.22 pp
Squirrel	24.20	GCOPE 23.77	+0.43 pp

这支持整体模型在所测跨域协议下具有竞争力，也显示收益并不均匀。CiteSeer 明显落后，Chameleon 与 Squirrel 仅略领先。仅凭这些均值，无法把 CiteSeer 的差距归因为“几何曲率优势”，也无法把 Computers 的收益全部归因为早停避免过平滑。

小差距尤其需要成对支持集上的比较与训练随机性分析。标准差较大并不自动否定均值差异，但平均排名第一也不能代替显著性检验。原文 Table 1

10.2 图分类与大规模节点分类

Table 2 的五个图分类目标中，AgentGFM 全部取得最高报告均值，平均名次为 1.00：

目标	AgentGFM（%）	最强基线均值（%）	领先
MUTAG	$59.52\pm11.99$	58.30	1.22 pp
IMDB-B	$52.59\pm7.35$	52.37	0.22 pp
ENZYMES	$21.50\pm2.64$	20.77	0.73 pp
PROTEINS	$56.87\pm13.01$	55.93	0.94 pp
DD	$56.50\pm7.11$	56.24	0.26 pp

这表明其表示能用于图级迁移，领先幅度则普遍较小。均值池化后表现改善，并未直接证明节点特征的“信噪比极高”或对图大小变化完全不敏感。原文 Table 2

大图设置使用八个源图预训练，再迁移到 Physics、ogbn-products、ogbn-arxiv，Table 3 为：

目标	AgentGFM（%）	最强基线（%）
Physics	$72.36\pm7.08$	GraphAny $74.18\pm12.92$
ogbn-products	$18.21\pm3.55$	BRIDGE $16.25\pm3.74$
ogbn-arxiv	$20.94\pm3.33$	GraphAny $17.99\pm5.08$

AgentGFM 在后两者领先，在 Physics 上低于 GraphAny。论文还报告 R-GFM 在后两者内存不足，而 AgentGFM 完成评估。这是相应设置下的可运行性证据，不能推广为所有资源条件下的效率优势。原文 Table 3

10.3 消融中反馈影响最大，但子机制仍耦合

根据 Table 9 的十个数据集逐项等权平均，可得到：

模型	宏平均准确率	相对完整模型下降
完整模型	45.40%	—
移除来源接收控制	43.88%	1.52 pp
移除通道选择	42.00%	3.40 pp
移除反馈	36.46%	8.94 pp
移除增益感知停止	42.82%	2.58 pp

组件消融的十数据集宏平均准确率：移除反馈带来的下降最大，但各模块的独立因果贡献尚未分离。

图 9：根据论文 Table 9 重算，横轴为准确率百分比，条形从零开始。该宏平均给予每个数据集相同权重，与按节点数加权的整体准确率不同。

反馈消融的影响具有明显差异：Photo 从 67.48% 降至 36.37%，Cora 从 51.94% 降至 34.08%，Cornell 则仅从 39.83% 降至 38.99%。因此，它支持反馈整体的重要性，却没有指出收益主要来自预测器、逐维门控、对齐目标，还是跨轮 $\epsilon$ 。

移除通道选择后 Texas 下降 8.39 pp、Cornell 下降 5.09 pp，与保留差异信号的动机相容；但仍需统计 $\rho$ 与局部结构的关系，才能确认模型如何选择通道。移除停止后，Wisconsin 从 44.57% 升至 44.96%，Chameleon 从 30.54% 升至 30.73%，说明停止机制也没有在每个数据集上都提高均值。

论文没有充分展开每种消融的替代计算。例如仅凭名称不能确定去除来源控制时是否令 $\gamma=1$ ，或改用归一化权重。组件相互影响，移除后的下降幅度不等于独立的因果贡献。原文 Table 9 与 Appendix C

10.4 停止分布与最大步数

Figure 4 报告平均 82.42% 的节点在第 2 步及之前停止；Cornell 的该比例为 96.72%。Cora、Computers、Photo 在第 4 或第 5 步停止的比例分别为 12.52%、13.69%、13.13%。这说明模型实际产生了不同的停止深度，排除了所有节点无条件执行满五步的情形。

但停止深度不同，不能单独证明停止决策接近最优。步骤嵌入、节点度数或状态数值分布都可能影响决策，需要把 $g$ 、停止行为与“强制继续传播后的真实收益”一起分析。

Table 4 中， $T_{\max}=2,3,4,5,6$ 的平均名次依次为 3.7、3.5、3.6、1.4、2.8。五步在七个数据集最好；Cora、Photo 的六步更好，Cornell 的四步更好。这支持适中上限的总体设置，没有建立固定五步普遍最优的结论。

Table 1 的 1.10、Table 4 的 1.4、Table 9 的 1.2 来自不同候选集合，不能横向比较谁“排名更好”。Figure 5 对 Cora 节点 1403 的展示则说明边级接收与通道偏好不同；较粗的边是否确实更有价值，仍需要删边反事实实验。原文行为分析

10.5 复杂度和实际耗时需要分别看

这是信息流部分的概括。包含隐藏维度投影和 MLP 时，节点投影可能涉及 $O(|\mathcal V|d^2)$ 等成本；完整训练还需保存反向传播中间量，不能直接用单步内存代表训练峰值。

Table 5 在八源图预训练、ogbn-arxiv 评估设置下报告：

方法	训练每 epoch	训练内存	测试时间	测试内存
BRIDGE	0.72 s	19.62 GB	0.35 s	1.58 GB
SAMGPT	0.53 s	8.14 GB	1.24 s	2.35 GB
GraphAny	1.75 s	0.67 GB	18.98 s	1.62 GB
AgentGFM	1.14 s	10.21 GB	0.89 s	3.24 GB

AgentGFM 的测试时间优于 SAMGPT 和 GraphAny，慢于 BRIDGE，测试内存高于这三个对照。节点提前停止首先控制语义上的接收过程；若实现仍执行固定步数的批量运算，仅用掩码屏蔽停止节点，就不会自动按停止比例获得加速。还需测量实际跳过的计算、端到端延迟和峰值内存。原文效率分析

11. 从理解方法到可验证的研究问题

AgentGFM 将来源筛选、低高频混合、停止控制和预测反馈组织成可跨图学习的执行过程。整体迁移结果与组件消融为其有效性提供了正面证据；更深入的问题在于，这些可学习控制量是否对应它们被赋予的信息价值、可靠性和收益语义。

11.1 复现应先验证执行，再比较准确率

小图上的第一组目标应是公式不变量：初始化时 $\mathbf c_i^0=\mathbf h_i$ ；已停止目标接收为零；Carrier 和预算冻结；当前停止动作只关闭下一步；冻结源仍可能影响活跃邻居；Observation 与跨步消息求和后的 LN、ReLU 一致；STE 存在预期代理梯度。

随后才适合实现掩码重建与原型评估。精确复现还需确认以下接口：

尚需确认	影响
$\epsilon_i$ 的内容、维度、首轮初始化与跨轮传递	决定显式反馈接口
$b_i^0,\eta_b,b_{\min}$	决定首步及后续转发能力
$d_q,\beta_{\mathrm{smooth}},\tau_\rho$	决定边策略参数化
SVD 拟合与目标图变换、输入投影	决定跨域输入与隐藏状态初始化
掩码替换方式、重建目标空间、Decoder	决定重建难度与输出维度
式 (28) 的完整停止梯度范围	决定预测损失的反向行为
各轮损失汇总和具体消融替代项	决定训练与消融可比性
空邻域、自环、有向边与边计数约定	决定边界行为和算子范围

截至本文整理日期，在本次核对的 arXiv 页面、全文和定向公开检索中，未定位到可确认的作者官方实现入口；这不等于证明代码从未公开。没有对应源码时，替代实现需要明确列出假设，其结果应称作基于这些假设的复现。

11.2 比重复大表更有信息量的对照

反馈可以拆开测试：直接采用实际观察、固定融合比例、学习逐维门控、保留 Correct 但去除显式 $\epsilon$ ，并控制参数量与训练预算。再比较最终 Carrier 直接读出与观察反馈读出，才能检验双状态路径的必要性。

停止可以与固定深度、匹配平均步数的随机停止、保留停止网络但移除 Gain 比较，同时记录预测误差与强制继续传播的真实效果。这样才能区分 Gain 的作用和单纯减少传播的作用。

通道可与固定低频、固定高频、固定混合比例比较，再观察 $\rho$ 与局部标签同配率、属性差异的关系；标签用于事后诊断时应与训练输入分开。来源选择则可以比较删除高接收权重边与删除同数量低权重边的影响，并控制度数、方向和消息范数等因素。

这几类实验共同把“模型有不同动作”推进到“动作是否基于可验证的信息需求”。

11.3 从节点 Agent 延伸到子图 Agent

学习过程里一个值得保留的问题是：既然节点可以控制传播，能否让子图作为 Agent？这个方向需要先找到节点级控制难以表达的问题，再确定粒度。

一种候选场景是多个目标节点反复请求相同的局部结构信息。子图单元可能共享获取成本，并对跨子图通信进行控制。但它需要明确状态如何汇总、边界怎样定义、重叠区域怎样去重，以及内部与外部的动作如何协调。

设计对象	一种待验证的候选
状态	子图内部表示、边界摘要与当前信息需求
动作	选择邻接区域、保留关键内部节点、分配跨边界传输量
观察	根据这些动作获得的外部上下文
停止	以子图内部更新或跨边界交互的收益为依据
代价	子图构造、重叠计算、边界通信与摘要损失

这些是研究设想，不是 AgentGFM 已完成的扩展。一个可证伪的起点是：在相同参数与实测计算预算下，子图级协调能否减少多个节点的重复信息获取，同时保持迁移性能？若只是将几个节点池化成一个向量再复制现有门控，尚不足以建立新的问题和贡献。

论文留下的研究空间因此较具体：让来源、通道、停止和反馈不只成为可训练变量，还能与信息需求和实际收益建立可检验的联系。

参考资料与阅读定位

AgentGFM，arXiv 摘要页：作者、版本与论文入口。
AgentGFM v1 全文：Section 3 为问题定义，Section 4 为方法，Section 5–6 为实验与效率。
论文 PDF：Figure 2 对照整体架构；Table 1–5 对照主要结果；Appendix B.3 对照式 (31)–(41)；Table 9 与 Appendix C 对照完整消融；Table 10 对照默认配置。