实时推理

实时推理指AI模型在接收到输入后立即生成输出结果的能力，适用于低延迟场景如在线客服、语音识别和即时翻译。