批量推理

支持对大量数据或请求进行并行处理与推理，适用于批量数据分析、内容生成等需要高吞吐量的AI任务。