推理失败求助

[Cristhine]

运行时环境是A100
安装的是pytorch版本是1.12 cuda版本是11.2
执行代码里面的python demo/demo_lazy.py --config-file configs/LVISCOCOCOCOSTUFF_O365_OID_VGR_SA1B_REFCOCO_GQA_PhraseCut_Flickr30k/ape_deta/ape_deta_vitl_eva02_clip_vlf_lsj1024_cp_16x4_1080k.py --input demo/examples/Pisa.jpg --output save_draw/ --confidence-threshold 0.1 --text-prompt 'person,car,chess piece of horse head' --with-box --with-mask --with-sseg --opts train.init_checkpoint=checkpoint/ape_deta_vitl_eva02_clip_vlf_lsj1024_cp_16x4_1080k_mdl_20230829_162438/model_final.pth model.model_language.cache_dir="" model.model_vision.select_box_nums_for_evaluation=500 model.model_vision.text_feature_bank_reset=True model.model_vision.backbone.net.xattn=False

然后报错
File "/ssd1/vis/duyuting/anaconda3/envs/ape/lib/python3.10/site-packages/torch/nn/modules/module.py", line 1130, in _call_impl
return forward_call(*input, **kwargs)
File "/ssd1/vis/duyuting/code/APE/ape/layers/multi_scale_deform_attn.py", line 334, in forward
output = MultiScaleDeformableAttnFunction.apply(
File "/ssd1/vis/duyuting/code/APE/ape/layers/multi_scale_deform_attn.py", line 44, in forward
output = torch.ops.ape.ms_deform_attn_forward(
File "/ssd1/vis/duyuting/anaconda3/envs/ape/lib/python3.10/site-packages/torch/_ops.py", line 143, in call
return self._op(*args, **kwargs or {})
RuntimeError: Not compiled with GPU support

[Cristhine]

运行时环境是A100 安装的是pytorch版本是1.12 cuda版本是11.2 执行代码里面的python demo/demo_lazy.py --config-file configs/LVISCOCOCOCOSTUFF_O365_OID_VGR_SA1B_REFCOCO_GQA_PhraseCut_Flickr30k/ape_deta/ape_deta_vitl_eva02_clip_vlf_lsj1024_cp_16x4_1080k.py --input demo/examples/Pisa.jpg --output save_draw/ --confidence-threshold 0.1 --text-prompt 'person,car,chess piece of horse head' --with-box --with-mask --with-sseg --opts train.init_checkpoint=checkpoint/ape_deta_vitl_eva02_clip_vlf_lsj1024_cp_16x4_1080k_mdl_20230829_162438/model_final.pth model.model_language.cache_dir="" model.model_vision.select_box_nums_for_evaluation=500 model.model_vision.text_feature_bank_reset=True model.model_vision.backbone.net.xattn=False

然后报错 File "/ssd1/vis/duyuting/anaconda3/envs/ape/lib/python3.10/site-packages/torch/nn/modules/module.py", line 1130, in _call_impl return forward_call(*input, **kwargs) File "/ssd1/vis/duyuting/code/APE/ape/layers/multi_scale_deform_attn.py", line 334, in forward output = MultiScaleDeformableAttnFunction.apply( File "/ssd1/vis/duyuting/code/APE/ape/layers/multi_scale_deform_attn.py", line 44, in forward output = torch.ops.ape.ms_deform_attn_forward( File "/ssd1/vis/duyuting/anaconda3/envs/ape/lib/python3.10/site-packages/torch/_ops.py", line 143, in call return self._op(*args, **kwargs or {}) RuntimeError: Not compiled with GPU support

求助安装环境哪里不一致 尝试使用作者给的docker环境，在执行上述推理命令的时候也是报错缺少各种库

[shenyunhang]

可以检查一下APE是否成功安装了，具体安装步骤这里。

如果无法安装成功，则不能用cuda版本的`MultiScaleDeformableAttn'。
可以改成pytorch版本的，在配置里加入：

model.model_vision.transformer.encoder.pytorch_attn=True
model.model_vision.transformer.decoder.pytorch_attn=True

[Cristhine]

可以检查一下APE是否成功安装了，具体安装步骤这里。

如果无法安装成功，则不能用cuda版本的`MultiScaleDeformableAttn'。 可以改成pytorch版本的，在配置里加入：

model.model_vision.transformer.encoder.pytorch_attn=True
model.model_vision.transformer.decoder.pytorch_attn=True

感谢回复，经过多次尝试，发现ape这个库会因为之前的环境编译而引入脏变量，在手动一步一步编译的前提下，重新拉取辛苦完成了推理验证

[chengyansheng24]

可以检查一下APE是否成功安装了，具体安装步骤这里。
如果无法安装成功，则不能用cuda版本的`MultiScaleDeformableAttn'。 可以改成pytorch版本的，在配置里加入：

model.model_vision.transformer.encoder.pytorch_attn=True
model.model_vision.transformer.decoder.pytorch_attn=True

感谢回复，经过多次尝试，发现ape这个库会因为之前的环境编译而引入脏变量，在手动一步一步编译的前提下，重新拉取辛苦完成了推理验证

你好，进行验证推理是否只需要下载model_final.pth预训练权重即可，可否请教一下

[shenyunhang]

可以检查一下APE是否成功安装了，具体安装步骤这里。
如果无法安装成功，则不能用cuda版本的`MultiScaleDeformableAttn'。 可以改成pytorch版本的，在配置里加入：

model.model_vision.transformer.encoder.pytorch_attn=True
model.model_vision.transformer.decoder.pytorch_attn=True

感谢回复，经过多次尝试，发现ape这个库会因为之前的环境编译而引入脏变量，在手动一步一步编译的前提下，重新拉取辛苦完成了推理验证

你好，进行验证推理是否只需要下载model_final.pth预训练权重即可，可否请教一下

对的。

[wdc233]

可以检查一下APE是否成功安装了，具体安装步骤这里。
如果无法安装成功，则不能用cuda版本的`MultiScaleDeformableAttn'。 可以改成pytorch版本的，在配置里加入：

model.model_vision.transformer.encoder.pytorch_attn=True
model.model_vision.transformer.decoder.pytorch_attn=True

感谢回复，经过多次尝试，发现ape这个库会因为之前的环境编译而引入脏变量，在手动一步一步编译的前提下，重新拉取辛苦完成了推理验证

请问xformer包是怎么解决的呢