近年来，关于AI黄金时代的宣告不绝于耳，开发者宣称这是新的工业革命，企业高管承诺将带来无缝的生产力和突破。然而，这片金色光辉下暗藏阴影。越来越多的迹象表明，AI技术的问题并非能通过下次更新解决的小事，而是其技术本身与部署中持久且不可避免的要素。即使技术本身不令人恐惧，人们使用它的方式也可能足够可怕。

过去几个月发生的事件暗示了更具破坏性的可能。它们单独来看虽不保证灾难，却无法唤起AI拥趸所期望的乐观情绪，描绘了一幅技术发展速度远超其治理框架的图景。若人工智能真的带来末日，这些事件或许将被视为最初的征兆。

警示一：AI安全专家离职。本月，Anthropic的AI安全研究负责人高调辞职，并公开警告“世界处于危险之中”，质疑核心价值是否仍在指导公司决策。这位本应思考长期风险及系统可能如何出错的高级人物认为无法继续下去。其离职之前，行业内已有一系列其他重要人物离开，包括xAI等知名实验室的创始人和高级员工。这些离职往往伴随着道德担忧，以及描述内部关于安全标准、竞争压力的论述。当负责安装刹车的人开始离开车辆，暗示着这辆车可能正以令内部人士都感到不安的方式加速。

警示二：深度伪造的危险。深度伪造并非新事物，但现在用户只需合适的提示和几分钟耐心，就能制作出几年前需要大量专业技术的伪造图像。一旦被篡改的图像在互联网上传播，受害者几乎无计可施。从末日视角看，这并非单一丑闻，而是信任的侵蚀。对视觉证据的信任本就脆弱，如今正在破裂。如果任何图像都可能被合理质疑为合成，任何人都可能被数字技术置于不利境地，公共 discourse 所依赖的共同事实基础便开始瓦解。

警示三：现实世界的“幻觉”。多年来，大多数AI失败案例局限于屏幕之内，但随着AI系统开始协助驾驶汽车、协调仓库机器人、引导无人机，这一边界正在模糊。它们在物理世界中解读传感器数据并做出瞬间决策。安全研究人员警告，这些系统出人意料地容易被欺骗。当AI的“幻觉”或错误判断发生在高速行驶的汽车或自主无人机上时，后果将从数字错误转变为物理伤害。