parameter server介绍

1. Parameter Server介绍 参数服务器是一个编程框架，用于方便分布式并行程序的编写，其中重点在于对大规模参数的分布式存储和协同的支持。 机器学习系统相比于其他系统而言，有一些自己的独特特点。例如： 迭代性：模型的更新并非一次完成，需要循环迭代多次 容错性：即使在每个循环中产生一些错误，模型最终仍能收敛 参数收敛的非均匀性：有些参数几轮迭代就会收敛，而有的参数却需要上百轮迭代。 而且

>>阅读原文<<