使用tensorboard可视化模型

　　Tensorboard是TF自带的可视化工具。它可让咱们从各个角度观察与修改模型，好比观察模型在训练时的loss动态变化曲线而无需在迭代完毕后再画图、绘制神经网络的结构图、调节超参数等。下面以最简单的形式展现tensorboard的经常使用功能。

开启tensorboard

　　打开命令行输入

tensorboard --logdir logs

　　而后回车。前两个参数固定，第三个参数表示tensorboard所要观察的文件夹位置。后面再使用TF将信息写入该文件夹中，tensorboard就能够从中读取数据用于可视化。输出以下：

　　进入获得的连接，就是tensorboard的界面了。这时你的logs文件夹应该仍是空的，没有写入数据，因此tensorboard没法可视化。下面介绍如何向文件夹中写入数据。

Scalars

　　Scalars用来可视化时间步下的状态曲线，好比loss的变化曲线。下面是代码示例：

import numpy as np
import tensorflow as tf 
from datetime import datetime


current_time = datetime.now().strftime("%Y{y}%m{m}%d{d}-%H-%M-%S").format(y = '年',m = '月',d='日')
log_path = 'logs/'+current_time#——————1——————
log_writer = tf.summary.create_file_writer(log_path)#——————2——————
  
for i in range(100):  
  data1 = np.random.normal()#——————3——————
  data2 = np.random.normal()#——————3——————
  with log_writer.as_default():#——————4——————
    tf.summary.scalar('test1', data1, i) #——————5——————
    tf.summary.scalar('test2', data2, i) #——————5——————

　　#1/2：建立以时间命名的用于保存记录的文件，并获取用于往该文件中写入记录的对象实例。注意！文件要保存在logs文件夹中，tensorboard才能读取。 

　　#3：定义每次迭代要记录的值。

　　#4/5：使用#2定义的对象将记录以scalar的方式写入，scalar实际上就是画折线图，其中三个参数分别表明是：记录名、此次迭代要保存的值、第几回迭代。能够看出，一个文件能够保存多条记录，而每条记录都含有屡次迭代。

　　在tensorboard界面中，右上角点击刷新，或者在下拉选项中选择scalar，tensorboard就会显示输出的记录。界面中还能调节平滑度什么的，这里就不记录了。Tensorboard的一大好处在于它能在代码执行的时候同步可视化图像，上面的代码示例仅有100次迭代，很差体现，能够本身尝试一下。

　　可视化后的折线图界面以下：

 Graphs

　　可视化模型结构，可是显示出来的结构很乱，几乎无法看，暂时没弄懂看的是什么。这里先记录显示流程。代码示例以下：

import numpy as np 
from tensorflow.keras import Input,Model,layers,losses,callbacks 

logdir="logs/test"  
tensorboard_callback = callbacks.TensorBoard(log_dir=logdir)#——————1——————
class TestModel(Model):#——————2——————
  def __init__(self):
    super().__init__()
    self.layer1 = layers.Dense(10) 
    self.layer2 = layers.Dense(1)
  def call(self,inputs):
    x = self.layer1(inputs) 
    x = self.layer2(x)
    return x
model = TestModel()#——————3——————
model.compile(optimizer='rmsprop',loss='mse')#——————4——————
model.fit(np.ones([3,10]),
          np.ones([3,1]),
          callbacks=[tensorboard_callback]) #——————5——————

　　#1：定义保存模型结构的文件，获取一个回调函数对象，用于在fit的时候将模型计算图记录并保存。

　　#2：继承Model类自定义咱们的模型，只要实现以上两个函数便可。

　　#3/4/5：实例化模型、编译，而后fit，让上面定义的回调函数过一遍咱们的模型，这样一来它就能将结构记录下来了。

　　而后打开tensorboard网页，右上角下拉选中GRAPH，就能看到画出的图了。以下图（显示的玩意儿看不太懂）：

　　另外，由于是在fit中保存的结构，因此它在保存的时候会多包一层train文件夹。

Hparams

　　超参数优化。暂时用不到，之后再记录。