长期以来，人工智能的进步往往以规模衡量：更大的模型、更庞大的数据集、更长的上下文窗口。然而，这种“越多越好”的假设正面临挑战。在模型处理更长的提示时，其可靠性反而可能下降。研究者将此现象称为“上下文衰减”：随着AI系统处理更多信息，无关细节会充斥其工作记忆，导致响应准确性降低、成本上升，并逐渐侵蚀信任。

问题的核心在于，当前许多企业AI系统依赖检索增强生成技术，将文档切分成片段进行检索。但语义相似性不等于相关性。一个片段可能看起来匹配，却遗漏了关键定义或例外情况。没有额外的上下文，这些片段可能只是噪音，导致AI在过多信息中挣扎，却无法理解哪些部分真正重要。

解决方案并非塞入更多文本，而是找到与当前业务问题更相关的文本。这意味着需要为AI配备一个知识层，以反映世界真实运作的方式——即一个由实体和关系构成的网络，而非孤立的数据点。人类并非基于文档推理，而是基于关系。知识图谱能明确捕获这些连接：人员、地点、产品及其间的关联。

当数据以图谱形式存储和搜索时，检索就从“最接近的近似匹配”转变为“最佳支持的答案”。例如，一个法律助理查询合同条款，基于关键词或向量的搜索可能返回一个看似相关的条款，而基于图谱的系统能理解该条款属于一个更大的定义，并检索所有相关部分。这样得到的答案更完整、更具情境性，避免了在不同信息块间连接信息的难题。最终，模型生成相关答案所需的标记数量大幅减少。

图谱的另一大优势是透明度。向量嵌入对机器强大，对人类却完全不可读。相比之下，图谱易于查看和理解，它记录了系统得出结论所使用的事实链、来源及相关权限，并能以人类可理解的方式可视化。这种可追溯性在受监管的环境中至关重要。基于图谱的AI具备内置的治理和可解释性，使其更适合企业应用并值得信赖。

一些领导者认为未来的模型会更智能，从而不必担心上下文问题。尽管大语言模型进步迅速，但无论其能力多强，它们都未曾基于你的私有企业数据进行训练。基础模型就像一个具备卓越推理能力却没有你公司信息索引的搜索引擎。它可以生成答案，但若没有输入正确的上下文，它无法知道你的知识中哪些部分具有权威性、是最新的或与问题最相关。因此，构建能够提供精准、相关上下文的知识层，是释放下一代智能潜力的关键。