Jetson TX2 NX 使用GPU预测没问题，使用TRT就卡住

[iFish85]

问题描述 / Problem Description

跟这个问题一样：#12590

使用GPU预测时没有问题 但是在打开TensorRT后运行到I0603 6020 engine.cc:301 Run Paddle-TRT Dynamic Shape mode. 会卡很久。 但是在第一次运行时不存在 trt_det_shap.txt，trt_cls_shap.txt，trt_rec_shao.txt这三个shap文件时就是正常的加载时间，

回复中有人提到 确保配置的动态形状范围合理，请问如何配置？LOG中没有任何动态范围的报错。

运行环境 / Runtime Environment

• HW: Jetson TX2 NX
• OS: Ubuntu 18.04
• Paddle: 2.5
• PaddleOCR: main
• CUDA: 10.2.300
• cuDnn: 8.2.1.32
• TensorRT: 8.2.1.9

复现代码 / Reproduction Code

./build/ppocr --det_model_dir=inference/det --rec_model_dir=inference/rec
--use_angle_cls=false --det=true --rec=true --cls=false
--image_dir=test_img/1.jpg
--use_gpu=true --gpu_mem=512 --use_tensorrt=true --cpu_threads=4
--det_db_score_mode=fast --precision=fp32
--benchmark=true --limit_side_len=480
--visualize=false --rec_batch_num=10

完整报错 / Complete Error Message

可能解决方案 / Possible solutions

附件 / Appendix

first.log
second.log

[GreatV]

trt 要 cache 不同的图片尺寸，所以会慢。

[iFish85]

trt 要 cache 不同的图片尺寸，所以会慢。

不是慢，是卡住完全不动了

[Shawn-Tao]

trt 要 cache 不同的图片尺寸，所以会慢。

不是慢，是卡住完全不动了

需要优化很长时间，我用jetson NX Xavier跑了一个多小时（det40分钟，rec现在还在跑，跑了25分钟还没跑完，等的实在难受上来看看issue。。。）