如何在PYTORCH中使用TENSORBOARD

TensorBoard是用于机器学习实验的可视化工具包。TensorBoard允许跟踪和可视化指标，例如损失和准确性，可视化模型图，查看直方图，显示图像等等。在本教程中，我们将介绍TensorBoard的安装，PyTorch的基本用法以及如何可视化在TensorBoard UI中登录的数据。

 

安装

应该安装PyTorch以将模型和指标记录到TensorBoard日志目录中。以下命令将通过Anaconda安装PyTorch 1.4+（推荐）：

$ conda install pytorch torchvision -c pytorch

or pip

$ pip install torch torchvision

 

 

在PyTorch中使用TensorBoard

现在让我们尝试将TensorBoard与PyTorch一起使用！在记录任何内容之前，我们需要创建一个SummaryWriter实例。

import torch from torch.utils.tensorboard import SummaryWriter writer = SummaryWriter()

默认情况下将输出到目录./runs/

 

Log scalars

在机器学习中，重要的是要了解关键指标，例如损失以及它们在培训期间的变化。标量有助于节省每个训练步骤的损失值或每个时期之后的准确性。

要记录标量值，请使用 。例如，让我们创建一个简单的线性回归训练，并使用add_scalar(tag, scalar_value, global_step=None, walltime=None)add_scalar

x = torch.arange(-5, 5, 0.1).view(-1, 1) y = -5 * x + 0.1 * torch.randn(x.size()) ​ model = torch.nn.Linear(1, 1) criterion = torch.nn.MSELoss() optimizer = torch.optim.SGD(model.parameters(), lr = 0.1) ​ def train_model(iter): for epoch in range(iter): y1 = model(x) loss = criterion(y1, y) writer.add_scalar("Loss/train", loss, epoch) optimizer.zero_grad() loss.backward() optimizer.step() ​ train_model(10) writer.flush()

调用flush()方法以确保所有未决事件均已写入磁盘。

请参阅torch.utils.tensorboard教程 以找到更多可以登录的TensorBoard可视化类型。

如果不再需要摘要编写器，请调用close()method。

writer.close()

 

运行TensorBoard

通过命令行安装TensorBoard以可视化记录的数据

$ pip install tensorboard

现在，启动TensorBoard，指定您在上面使用的根日志目录。参数logdir指向TensorBoard将查找其可以显示的事件文件的目录。TensorBoard将递归遍历以logdir为根的目录结构，以查找。* tfevents。*文件。

$ tensorboard --logdir=runs

转到它提供的URL或http://localhost:6006/

 

dashboard 显示了损失和准确性在每个时期如何变化。还可以使用它来跟踪训练速度，学习率和其他标量值。在不同的训练运行中比较这些指标有助于改善模型。

 

共享TensorBoard dashboards

TensorBoard.dev可让您上载ML实验结果并与任何人共享。使用TensorBoard.dev托管，跟踪和共享TensorBoard dashboard。

安装最新版本的TensorBoard以使用uploader。

$ pip install tensorboard --upgrade

使用简单的命令上传和共享TensorBoard。

$ tensorboard dev upload --logdir runs \ --name "My latest experiment" \ # optional --description "Simple comparison of several hyperparameters" # optional

需要帮助，请运行。$ tensorboard dev --help

注意：上传的TensorBoards是公开的，所有人都可以看到。不要上传敏感数据。

通过终端提供的URL实时查看TensorBoard。例如https://tensorboard.dev/experiment/AdYd1TgeTlaLWXx6I8JUbA

 

​

 

接下来，给大家介绍一下租用GPU做实验的方法，我们是在智星云租用的GPU，使用体验很好。具体大家可以参考：智星云官网： http://www.ai-galaxy.cn/，淘宝店：https://shop36573300.taobao.com/公众号: 智星AI