JavaShuo
栏目
标签
精度
精度
全部
CornerNet:实现demo、可视化heatmap、测试各种别精度
2020-07-16
cornernet
实现
demo
可视化
heatmap
测试
种别
精度
java float和double类型的表示范围和精度
2020-07-16
java
float
double
类型
表示
范围
精度
Java
java中Double类型的运算精度丢失的问题 (小数点多出99999999999999)
2020-07-16
java
double
类型
运算
精度
丢失
问题
小数点
Java
javascript中可处理的浮点数的最高精度(和小数的一些小特性)
2020-07-16
javascript
可处理
浮点数
最高
精度
小数
些小
特性
JavaScript
1分钟教你完美解决地图开发中WebGL着色器32位浮点数精度损失问题
2020-07-19
1分
完美
解决
地图
开发
webgl
着色
浮点数
精度
损失
问题
TensorRT模型转换及部署,FP32/FP16/INT8精度区分
2020-07-20
tensorrt
模型
转换
部署
fp32
fp16
int8
int
精度
区分
float,double,decimal彼此转换会出现的精度问题(今天你Bug了吗?)
2020-07-21
float
double
decimal
彼此
转换
出现
精度
问题
今天
bug
CSS
2017电赛国赛滚球控制系统摄像头部分(精度偏差0.5cm左右)
2020-07-22
滚球
控制系统
摄像头
部分
精度
偏差
0.5cm
左右
pytorch apex 混合精度训练和horovod分布式训练
2020-07-25
pytorch
apex
混合
精度
训练
horovod
分布式
系统架构
模型压缩一半,精度几乎无损,TensorFlow推出半精度浮点量化工具包,还有在线Demo...
2020-07-26
模型
压缩
一半
精度
几乎
无损
tensorflow
推出
浮点
量化
工具包
还有
在线
demo
«
2
3
4
5
6
7
8
9
10
»
每日一句
每一个你不满意的现在,都有一个你没有努力的曾经。