语言模型困惑度的两种形式及python实现

在天然语言处理中，对于一个语言模型，通常用困惑度来衡量它的好坏，困惑度越低，说明语言模型面对一句话感到困惑的程度越低，语言模型就越好。python 在网上关于语言模型困惑度的介绍文章中，通常会看到如下两种形式：web 实际上两种形式是同样的，只不过是不同的表达：svg 对于左边的式子，两边取对数以后，再反解出 PP(S) 就能够获得右式的结果。函数 上面式子中的 S 就是一句话，N 是这句话的长度

>>阅读原文<<