使用ANNdotNET进行情感分析

2018年10月的MSDN杂志上发表了由James McCaffrey撰写的文章“使用CNTK的情感分析” 。在这篇博文中，我将向您介绍这篇很是好且写得很好的MSDN文章示例。我不打算重复MSDN文章中所写的文本，所以建议首先阅读该文，而后返回此处并在ANNdotNET中实现该示例。事实上，我已经在不到5分钟的时间内实施了完整的解。因为ANNdotNET是GUI工具，所以在模型培训和评估过程当中看到全部出色的可视化效果颇有趣。此外，ANNdotNET经过提供混淆矩阵，ROC曲线和其余二进制性能参数来提供完整的二进制模型评估，这个示例使得阅读更有趣和有价值。

整个示例分五步实施。

第1步：准备文件和文件夹结构

首先，咱们须要建立几个文件夹和文件，以建立空的annproject。手动建立文件夹是必要的，由于ANNdotNET v1.0没有建立Empty项目的选项。这将在下一个版本中添加。

首先，建立如下一组按层次排序的文件夹：

• SentimentAnalysis
  • MoveReview
    • 数据

下图显示了这组文件夹。

第2步：下载示例中使用的数据集。

咱们在MSDN文章中只须要训练和测试数据集。能够从MSDN示例下载数据：Code_McCaffreyTestRun1018.zip。下载zip文件后，解压缩示例，并将文件：imdb_sparse_train_50w.txt和indb_sparse_test_50w.txt复制到数据文件夹，如上图所示。

第3步：建立MoviewReview.ann和LSTM-Net.mlconfig文件

• 打开记事本并使用如下内容建立文件：

1 project:|Name:MovieReview |Type:NoRawData |MLConfigs:LSTM-Net
2 data:|RawData:MovieReview_rawdata.txt
3 parser:|RowSeparator:rn |ColumnSeparator: ; |Header:0 |SkipLines:0

将文件保存在SentimenAnalysis文件夹中做为MovieReview.ann。下图显示了磁盘上保存的annproject文件。

 

如今再次打开记事本，建立一个新的空文件。空文件应该是mlconfig文件，其内容以下所示。不要担忧文件的内容，由于一旦咱们用ANNdotNET打开它，全部这些细节都将可见。若是您想了解更多有关mlconfig文件结构的信息，请参阅ANNdotNET项目的这个wiki页面。

1 configid:msdn-oct-2018-issue-sentiment-analysis-article
2 metadata:|Column02:y;Category;Label;Random;0;1
3 features:|x 129892 1
4 labels:|y 2 0
5 network:|Layer:Embedding 50 0 0 None 0 0 |Layer:LSTM 25 25 0 TanH 1 1 |Layer:Dense 2 0 0 Softmax 0 0
6 learning:|Type:AdamLearner |LRate:0.01 |Momentum:0.85 |Loss:CrossEntropyWithSoftmax |Eval:ClassificationAccuracy |L1:0 |L2:0
7 training:|Type:Default |BatchSize:250 |Epochs:400 |Normalization:0 |RandomizeBatch:0 |SaveWhileTraining:0 |FullTrainingSetEval:1 |ProgressFrequency:1 |ContinueTraining:0 |TrainedModel:
8 paths:|Training:data\imdb_sparse_train_50w.txt |Validation:data\imdb_sparse_test_50w.txt |Test:data\imdb_sparse_test_50w.txt |TempModels:temp_models |Models:models |Result:LSTM-Net_result.csv |Logs:log

该文件应使用LSTM-Net.mlconfig文件名保存在MovieReview文件夹中。下图显示了mlconfig文件的存储位置。

步骤4.使用ANNdotNET GUI工具打开annproject文件

如今咱们已经设置了全部内容，以便用ANNdotNET打开和训练情绪分析示例。因为ANNdotNET实现MLEngine其基于CNTK，数据集是兼容的，而且能够由训练者读取。为了得到更好的结果，咱们稍微改变了学习参数。咱们使用AdamLearner代替SGD。

若是您的计算机上没有安装ANNdotNET工具，只需转到发布部分并下载最新版本。或者克隆GitHub存储库并在Visual Studio中运行它。有关如何将ANNdotNET做为独立应用程序或Visual Studio解决方案运行的全部信息，请访问GitHub页面https://github.com/bhrnjica/anndotnet。

在机器上简单解压缩ANNdotNET的二进制文件后，只需选择anndotnet.wnd.exe文件便可运行它。ANNdotNET运行后，单击“打开应用程序”命令并选择MoveReview.ann文件。在一秒钟内，应用程序使用相应的mlconfig文件加载项目。从项目浏览器中，单击LSTM-NET三项，并出现与下图类似的内容。

咱们写入mlconfig文件的全部内容如今都显示在网络设置标签页中。

1. 输入图层，尺寸为129892
2. 具备二维的输出层（二进制问题）
3. 学习参数：
   1. AdamLearner，动量为0.01 lr和0.85，
   2. 损失函数是CrossEntropywithSoftmax
   3. 评估功能是ClassificationAccuracy
4. NNetwork Designer显示典型的LSTM循环网络

步骤5.示例的训练和评估

如今咱们检查了网络设置，咱们能够切换到列车标签页，并查看培训参数。因为咱们已经在mlconfig文件中设置了训练参数，所以咱们无需进行任何更改。

单击“运行应用程序”命令启动培训过程。一段时间后，咱们应该看到如下结果：

若是咱们切换到评估页面，咱们能够执行一些统计分析，以评估模型是否良好。显示评估选项卡页面后，单击“刷新”按钮以根据培训和验证数据评估模型。

左侧统计数据用于训练数据集，左侧用于验证数据集。能够看出，该模型完美地预测了来自训练数据集的全部数据，而且大约70％的准确度描述了验证数据集。关闭cource，模型并不像咱们预期的那样好，可是这个演示已经足够了。还有两个按钮能够显示ROC曲线，以及其余二进制性能参数，这两个数据集都是读者的口味。

这是完成情感分析例程设置和运行所需的所有内容。若是您想要完整的ANNdotNET项目，能够从这里下载。