#tensorrt caffe

[marswh-blog]

原创作品，转载时请务必以超链接形式标明文章原始出处: http://www.dapalm.com/?p=206,作者：大数据，怕了么?

　　本手册为TensorRT 4.0.1.6 GA版英文手册翻译而来，博主英文水平一般般，主要作为备忘所用，分享出来以供更多开发者使用。TensorRT Developer Guide手册一共分为四个章节，主要内容在第二、三章，看懂这两章，写代码够用了。第一章为TensorRT综述，就是自吹有多牛逼。第四章为示例，介绍demo的代码结构及功能。开篇是目录，前三章每章为两到三篇，最后第四章示例，会拆分几个关键示例进行详细说明。 　　这是第二章最后一部分内容，关于自定义层、混合精度校准、部署。前两个非常重要需要通过具体编程来体会。尤其是自定义层一个新的模型是否能够部署，现阶段一定要保证常见层是支持int8量化的，不然对性能影响很大。

[toc]

第二章…

View On WordPress

[marswh-blog]

TensorRT 4 开发者手册 中文版 （三-3）

　　本手册为TensorRT 4.0.1.6 GA版英文手册翻译而来，博主英文水平一般般，主要作为备忘所用，分享出来以供更多开发者使用。TensorRT Developer Guide手册一共分为四个章节，主要内容在第二、三章，看懂这两章，写代码够用了。第一章为TensorRT综述，就是自吹有多牛逼。第四章为示例，介绍demo的代码结构及功能。开篇是目录，前三章每章为两到三篇，最后第四章示例，会拆分几个关键示例进行详细说明。 　　第二章，分别介绍了C++和Python两种语言接口下，TensorRT如何实现推理。下一篇文章再介绍Python接口如何实现推理。

[TOC] #第二章 TensorRT任务 　　本章主要内容是用户能使用TensorRT实现的目标和任务。假设已有训练好的模型，本章将覆盖使用TensorRT的必要步骤： 　‣导入模型创建TensorRT网络定义 　

View On WordPress

[marswh-blog]

TensorRT 4 开发者手册 中文版 （三-2）

　　本手册为TensorRT 4.0.1.6 GA版英文手册翻译而来，博主英文水平一般般，主要作为备忘所用，分享出来以供更多开发者使用。TensorRT Developer Guide手册一共分为四个章节，主要内容在第二、三章，看懂这两章，写代码够用了。第一章为TensorRT综述，就是自吹有多牛逼。第四章为示例，介绍demo的代码结构及功能。开篇是目录，前三章每章为两到三篇，最后第四章示例，会拆分几个关键示例进行详细说明。

第一章 什么是TensorRT？ 1.1 TensorRT优势

　　TensorRT是一个优化推理引擎，它将训练好的神经网络模型，通过压缩、优化，最后部署一个没有框架开销的运行环境到产品中去。TensorRT合并层、优化卷积核选择，并根据指定精度（FP32、FP16和INT8）执行归一化和转换去优化的矩阵数学，以降低延迟，提高吞吐量和效率。

对于深度学习推理，有5个…

View On WordPress

[marswh-blog]

TensorRT 4 开发者手册 中文版 （三-1）

　　本手册为TensorRT 4.0.1.6 GA版英文手册翻译而来，博主英文水平一般般，主要作为备忘所用，分享出来以供更多开发者使用。TensorRT Developer Guide手册一共分为四个章节，主要内容在第二、三章，看懂这两章，写代码够用了。第一章为TensorRT综述，就是自吹有多牛逼。第四章为示例，介绍demo的代码结构及功能。开篇是目录，前三章每章为两到三篇，最后第四章示例，会拆分几个关键示例进行详细说明。

第一章 什么是TensorRT？ 1.1 TensorRT优势

1.2 TensorRT适用场景

1.3 TensorRT如何工作

1.4 API概述

1.5 获取TensorRT

第二章 TensorRT任务 2.1 C++初始化TensorRT

2.2 C++创建网络定义

　2.2.1C++使用解析器导入模型

　2.2.2使用C++解析器API导入Caffe模型

View On WordPress