人工智能实战 第6次做业 郑浩

项目	内容
这个做业属于哪一个课程	人工智能实战 2019（北京航空航天大学）
这个做业的要求在哪里	人工智能实战第六次做业（我的）
我在这个课程的目标是	了解人工智能的基础理论知识，锻炼实践能力
这个做业在哪一个具体方面帮助我实现目标	了解参数的影响，学习调参
做业正文	见下文
其余参考文献	无

1.做业要求

• 将模型准确度调整至>97%
• 整理造成博客，博客中给出参数列表和对应值
• 给出最终的loss降低曲线
• 给出最终准确度结果

2.参数调节

• 调节learning rate

n_hidden1=64，n_hidden2=32，m_epoch = 2，batch_size = 10

learning_rate	accuracy rate
0.1	0.9634
0.15	0.9648
0.2	0.9665
0.25	0.9612
0.3	0.9623
0.4	0.9622

可见，准确率大概在learning rate=0.2时最大。

• 调节batch_size

n_hidden1=64，n_hidden2=32，m_epoch = 2，learning_rate=0.2

batch_size	accuracy rate
5	0.9595
8	0.9626
10	0.9653
13	0.9632
15	0.9606
20	0.9623

可见，准确率大概在batch_size=10时最大。

• 调节n_hidden一、n_hidden2

learning_rate=0.2，m_epoch = 2，batch_size = 10

n_hidden1	n_hidden2	accuracy rate
32	16	0.9587
64	16	0.9644
64	32	0.9665
128	16	0.961
128	32	0.9631
128	64	0.963

可见，准确率大概在n_hidden1=64，n_hidden2=32时最大。

• 调节m_epoch

n_hidden1=64，n_hidden2=32，batch_size = 10，learning_rate=0.2

m_epoch	accuracy rate
2	0.9636
5	0.9682
10	0.971
15	0.9727
20	0.9783

可见，m_epoch越大，准确率越高。这里取到20。

3.结果

learning_rate=0.2，batch_size = 10，n_hidden1=64，n_hidden2=32，m_epoch=20

Loss曲线：

获得的准确率：

rate=9783 / 10000 = 0.9783