softmax

 void LogisticRegression_softmax(LogisticRegression *this, double *x) {
  int i;
  double max = 0.0;
  double sum = 0.0;


  for(i=0; i<this->n_out; i++) if(max < x[i]) max = x[i];
  for(i=0; i<this->n_out; i++) {
    x[i] = exp(x[i] - max);
    sum += x[i];
  }

  for(i=0; i<this->n_out; i++) x[i] /= sum;
}

发现它和文献中对softmax模型中参数优化的迭代公式中是不同！其实，若是没有那个求最大值的过程，直接取指数运算就同样的。而加一个求最大值的好处在于避免数据的绝对值太小，数据绝对值过小可能会致使计算一直停留在零而没法进行。就像对数似然函数，似然函数取对数防止几率太小同样。