2 PyTorch简介

查看大图

PyTorch 的核心不是某一个 API，而是把张量计算、自动求导、模型模块和优化器串成一套可调试的训练流程。

查看大图

我会把每段 PyTorch 代码翻译成四句话：数据在哪里，模型怎么算，错误怎么算，参数怎么更新。

在上一篇中，我们探讨了本系列教程的目的与内容概述，旨在帮助初学者逐步掌握深度学习的核心概念与实践技能。本篇将介绍PyTorch，一个由Facebook开发的开源深度学习框架。PyTorch因其灵活性和易用性而受到越来越多研究者和开发者的青睐。

什么是PyTorch？

PyTorch是一个深度学习框架，它能够构建和训练神经网络模型。它以其动态计算图特性而闻名，允许用户在代码执行过程中方便地修改网络结构。这种灵活性非常适合于研究和实验。相比于静态计算图的框架如TensorFlow，PyTorch让调试和模型设计变得简单直观。

查看大图

阅读 PyTorch 简介时，先把张量、模型、损失和优化器放到同一条训练循环里。理解这条循环，比零散记 API 更有用。

主要特点

• 动态计算图：与静态计算图不同，PyTorch的计算图是动态生成的。这意味着每次执行操作时，计算图都会根据当前状态动态更新。这使得PyTorch在处理具有动态变化输入或结构的模型时，极具灵活性。

• 易于调试：由于PyTorch紧密集成于Python，用户可以使用常规的Python调试工具（如pdb）对模型进行逐行调试。这使得代码的测试和修复变得容易。

• 丰富的生态系统：PyTorch拥有一个庞大的社区和丰富的第三方库，使得用户在研究和应用时可以借助大量的资源，如Torchvision（用于计算机视觉）和Torchtext（用于自然语言处理）。

PyTorch的基本构成

PyTorch的核心构件主要包括Tensors、Autograd和Modules。下面我们简要介绍这几部分。

查看大图

看《PyTorch简介》时，先把图中的问题、关键词、操作和验收标准对上，再读正文会更省力。读完后，最好能用自己的项目重新讲一遍。

1. Tensors

Tensors是PyTorch的基本数据结构，类似于NumPy的ndarray，但是可以在GPU上进行计算。通过Tensors，我们可以高效地进行数值计算。

import torch

# 创建一个2x3的随机Tensor
x = torch.rand(2, 3)
print(x)

2. Autograd（自动求导）

Autograd是PyTorch的自动求导引擎。当我们进行前向传播时，Autograd会自动记录计算过程，以便在反向传播中自动计算梯度。

# 创建一个带有梯度的Tensor
x = torch.ones(2, 2, requires_grad=True)

# 计算一个简单的函数
y = x + 2
z = y * y * 3

# 反向传播
z.backward(torch.ones_like(z))

# 输出梯度
print(x.grad)

3. Modules（模块）

Modules是构建神经网络的基础，允许用户将其模型结构和计算逻辑封装在一个类中。通过继承torch.nn.Module，用户可以轻松地定义自己的模型。

import torch.nn as nn

class SimpleNN(nn.Module):
    def __init__(self):
        super(SimpleNN, self).__init__()
        self.fc1 = nn.Linear(2, 2)
        
    def forward(self, x):
        return self.fc1(x)

model = SimpleNN()
print(model)

查看大图

学完《PyTorch简介》后，不妨换一个自己的场景试一次，重点观察输入、处理和输出是否能对应起来。

查看大图

如果想把《PyTorch简介》用到自己的任务里，可以先缩小场景，只验证一个最关键的判断点。

结语

通过本节的学习，我们简单了解了PyTorch的基本概念和主要特性。这个灵活且功能强大的框架为深度学习模型的构建与训练提供了便利。在下一篇中，我们将进一步探讨如何搭建环境，安装PyTorch，以便于后续的学习与实践。在此之前，我们希望您能够动手实践代码示例，并熟悉PyTorch的基本用法。随着后续教程的深入，您将能够更加自信地进行深度学习研究和开发。