机器学习推理工具

机器学习推理工具指部署训练好的模型进行预测或分类的软件，用于图像识别、自然语言处理等实时或批量推理场景。