NVIDIA® TensorRT™ supports different data formats

NVIDIA® TensorRT™ supports different data formats NVIDIA®TensorRT公司™ 支持不同的数据格式。需要考虑两个方面:数据类型和布局。 数据类型格式 数据类型是每个单独值的表示。它的大小决定了值的范围和表示的精度;它们是FP32(32位浮点或单精度)、FP16(16位浮点或半精度)、INT32(32位整数表示)和INT8(8位表示)。 布局
相关文章
相关标签/搜索