入门图神经网络

前置知识

图神经网络的主要思想是：对目标节点，使用相邻的节点来进行计算。而相邻节点又要需要他的相邻节点来计算，形成多层的结构。

至于，相邻节点如何用来计算目标节点，方法有两个，一个是平均领域的信息；另一个是使用神经网络来进行计算。

数学表示：
当前时刻的节点，由上一层的embedding,和它相邻节点平均值相加得到，并且经过非线性映射。

模型训练：
对权重矩阵 W, B,使用随机梯度方法进行更新。

至于无监督训练，一般假设，相似的节点具有相同的embedding。
有监督训练(节点分类情形）

搭建并训练一个简单图神经网络

根据官网教程，搭建一个简单的用于多分类的图卷积网络。输入是一个无向图数据（Graph data），图数据由节点数据（Node）和边数据（Edge）构成。节点数据是一个N × C 的矩阵，其中N 表示节点个数，而C 表示节点特征长度。边数据是一个2 × E的矩阵。E 表示有向边个个数。在PyG中，由于边数据被定义为有向边，如果表示无向边图的话，那么E / 2 才是无向边的个数。代码如下所示。node_features代表C ，而node_class代表预测类别，例子中是7类，即node_class=7。

class simpleNet(torch.nn.Module): # simpleNet继承自torch.nn.Module
    def __init__(self, node_features, node_classes): 
        super(simpleNet, self).__init__() # simpleNet继承自torch.nn.Module，做父类初始化
        self.conv1 = GCNConv(node_features, 16) # 构建一个通道数为16的标准图卷积
        self.conv2 = GCNConv(16, node_classes) # 构建一个通道数为node_classes的标准图卷积，用作预测
        
    # 卷积+激活函数和dropout是深度学习常见操作，对图卷积神经网络来说也不例外
    # 分类问题最后使用softmax做归一化
    def forward(self, data):
        x, edge_index = data.x, data.edge_index # 分解节点和边数据，x是N*C的张量
        x = self.conv1(x, edge_index) # 它是N*16张量
        x = F.relu(x)
        x = F.dropout(x, training=self.training)
        x = self.conv2(x, edge_index) # 它是N*7的张量
        return F.log_softmax(x,dim=1) # 输出N*7的张量，在dim=1的维度做softmax

简易的训练和测试过程如下所示：

def example_5():
    # load model and dataset
    dataset = Planetoid(root='Cora', name='Cora')
    data = dataset[0]
    model = simpleNet(dataset.num_features, dataset.num_classes)
    device = torch.device('cuda')

    # report
    print("dataset.num_features:", dataset.num_features)
    print("dataset.num_classes:", dataset.num_classes)

    # transfer them to GPU 笔记本陈旧，只能使用CPU训练（笑哭）
    # model = model.to(device)
    # data = data.to(device)

    # define optimizer
    optimizer = torch.optim.Adam(model.parameters(), lr=0.01, weight_decay=5e-4)

    # begin training with evaluation
    # train_mask和test_mask表示训练数据和测试数据的位置
    model.train()
    num_epoch = 5
    for epoch in range(num_epoch):
        # train
        optimizer.zero_grad()
        out = model(data)
        loss = F.nll_loss(out[data.train_mask.bool()], data.y[data.train_mask.bool()])
        loss.backward()
        optimizer.step()

    # evaluation
    model.eval()
    temp = model(data) # 模型输出N*7的张量
    _, pred = model(data).max(dim=1) # pred是N*1的张量，max(dim=1)表示选取7个类别概率最大的位置的索引
    correct = float(pred[data.test_mask.bool()].eq(data.y[data.test_mask.bool()]).sum().item())
    acc = correct/data.test_mask.sum().item()
    print('Accuracy: {:.4f}'.format(acc))
    print("finished...")
    print('data x type:', data.x.size())
    print('data edge_index type:', data.edge_index.size())
    print('temp type:', temp.size())
    print('pred type:', pred.size())

if __name__ == "__main__":
    example_5()

跟官网稍不一样的是，我在mask变量后面加上强制转换为bool类型的操作，即.bool()。不然运行时候会报警告UserWarning: indexing with dtype torch.uint8 is now deprecated, please use a dtype torch.bool instead.。输出结果是：

dataset.num_features: 1433
dataset.num_classes: 7
Accuracy: 0.6450
finished...
data x type: torch.Size([2708, 1433])
data edge_index type: torch.Size([2, 10556])
temp type: torch.Size([2708, 7])
pred type: torch.Size([2708])