paper address: https://arxiv.org/pdf/1609.02907.pdf Author：Thomas N. Kipf and Max Welling source： ICLR 2017
这篇文章是GCN领域的经典论文，使用频谱卷积作用在图上，完成半监督学习任务。问题的提出，假设我们需要完成对一个图上的所以节点进行分类。但是我们只有这个图上的少量节点的信息。
文章以这样一个问题开始，假设我们需要对一个引文网络中的文档进行分类这就是一个图问题，我们有一个图，我们需要对图中的节点进行分类，但是我们只有图中一小部分节点的标签。这个问题就是一个基于图的半监督学习问题。
$$ \mathcal{L} = \mathcal{L}{0} + \lambda\mathcal{L}{reg}, \ with \ \mathcal{L}{reg} = \sum{i,j}A_{ij}\parallel f(X_i) - f(X_j)\parallel^2 = f(X)^T\Delta f(X) $$
这里$\mathcal{L}{0}$代表监督学习部分的loss，即这个图中有标签的节点产生的loss。$f(.)$ 一般是一个小的神经网络或者可微函数。$\lambda$ 是一个常量，$X$ 是一个包含所有节点特征向量的矩阵。$\Delta = D - A$ 表示这个图的拉普拉斯矩阵这，这个图是一个无向图$\mathcal{G} = (\mathcal{V}, \mathcal{E})$ ，它有$N$个节点，$V$个边，$\mathcal{v}{i} \in \mathcal{V}$且$(v_i, v_j) \in \mathcal{E}$，还有一个邻接矩阵$A \in \sum_j A_{i,j}$和一个度矩阵$D_{ii} = \sum_j A_{ij}$。在上述等式的建模方式中，我们假设图中的节点，如果他们相连，那么他们更有可能拥有相同的标签。
针对这个问题，我们首先使用一个神经网络模型$f(X,A)$ 对所有带标签的节点进行训练，获得监督学习部分的loss $\mathcal{L}_0$, 再使用$f(.)$对图的邻接矩阵进行处理，这将允许模型从监督损失L0中分配梯度信息，并使其能够学习带标签和不带标签的节点表示。
这篇文章的工作主要有两点，1. 文中针对上述的神经网络模型提出了一个简单，并且表现良好的分层传播机制。并解释了如何从谱图卷积中激发这个想法。2. 文中演示了这种基于图的神经网络模型如何用于快速和可扩展的图中节点的半监督分类。并且在大量数据集上的实验表明，文中提出的模型在分类精度和效率等方面都优于先进的半监督学习方法。
文中提出了一个基于如下传播规则的GCN：
$$ H^{l+1} = \delta(\tilde{D}^{- \frac{1}{2}} \tilde{A} \tilde{D}^{- \frac{1}{2}} H^{l} W^{l}) $$
其中，$\tilde{A} = A + I_{N}$ 是一个无向图$\mathcal{G}$的邻接矩阵和一个自连接矩阵的和。$I_{N}$ 是一个单位矩阵，$\tilde{D}{ii} = \sum{j}\tilde{A}_{ij}$ ，$W^{l}$ 是其中一层的权重矩阵。$\sigma(.)$ 是一个激活函数，$H^{l} \in R^{N\times D}$ 是网络的第$l$层参数矩阵，$H^{0} = X$。
这里我们先跳过文章的证明，回到这个半监督的节点分类问题。文中最终使用两层的GCN网络，在预处理部分，先完成$\hat{A} = \tilde{D}^{-\frac{1}{2}}\tilde{A}\tilde{D}^{-\frac{1}{2}}$ 的运算，整个模型的传播过程就是下面这个简单形式：
$$ Z = f(X, A) = softmax\Big(\hat{A}\ ReLU\Big(\hat{A}XW^{0}\Big)W^{1}\Big) $$