TRT加速问题 #342

Open

opened

on Jan 21, 2025

你好，同一个模型，使用不同版本的tensorRT进行量化，在TRT8上推理速度为6ms，在TRT10上推理速度为9ms，使用的是仓库提供的预训练模型，这是什么原因呢？

to join this conversation on GitHub. Already have an account? Sign in to comment

Metadata

Assignees

No one assigned

Labels

No labels

No labels

Projects

No projects

Milestone

No milestone

Relationships

None yet

Development

No branches or pull requests