NIM

NIM（NVIDIA Inference Microservice）是NVIDIA提供的推理微服务，用于高效部署和运行AI模型，支持GPU加速，降低推理延迟。