TensorRT-LLM
索引说明：本页内容为本站爬虫自动索引的第三方平台公开页面元信息，本平台不存储、不缓存任何资源文件。点击下方按钮将跳转至第三方网站平台访问，访问第三方资源链接需要 VIP 权限。
资源简介
TensorRT-LLM provides users with an easy-to-use Python API to define Large Language Models (LLMs) and build TensorRT engines that contain state-of-the-art optimizations to perform inference efficiently on NVIDIA GPUs. TensorRT-LLM also contains components to create Python and C++ runtimes that execute those TensorRT engines.
- 资源类型
- 软件
- 第三方域名
- github.com
- 索引时间
- 2026-08-04 03:45
开通 VIP 后访问第三方资源
访问第三方资源链接需要 VIP 权限。注册与搜索永久免费，VIP 仅用于访问第三方链接。