DL4NLP---第三讲

复习：简单的word2vec模型 cost fuction（ 求导结果参照视频教程）： 梯度下降 将所有参数转换成一个列向量Θ（V为词汇数，v是中心词的word vector，v’是external word vector）： 使用full batch最小化cost将要求计算cost对所有window的导数 更新Θ的每个元素： 向量化表示（对Θ中的所有元素）： 代码示例： SGD 数据集可能含有4

>>阅读原文<<