Wipro全球隐私与人工智能治理主管伊万娜·巴托莱蒂近日指出，代理式人工智能的兴起，正在为人工智能领域的伦理和安全治理带来新的复杂性。她在一次行业峰会期间阐述了这一观点，强调随着AI系统自主性的增强，企业将面临前所未有的治理挑战。

巴托莱蒂认为，代理式AI不同于传统AI模型，其能够自主执行任务、做出决策并与其他系统交互，这种高度的自主性放大了潜在的伦理风险与安全隐患。企业不仅需要确保AI系统的输出符合伦理规范，还必须管理其自主行动可能引发的连锁反应和不可预见的后果。

这要求企业在治理框架上进行根本性升级。传统的AI治理模式可能难以应对代理式AI的动态性和复杂性。企业需建立更前瞻、更灵活且贯穿AI生命周期的治理体系，涵盖从设计开发、部署运行到持续监控的全过程。

具体而言，新的治理挑战包括但不限于：如何界定自主AI系统的责任归属、如何确保其决策过程的透明与可解释性、如何防止其被恶意利用或产生有害的自主行为，以及如何在全球范围内协调相关的法规与标准。巴托莱蒂的评论凸显了在AI技术快速演进的同时，构建与之匹配的稳健治理机制已成为行业迫在眉睫的关键任务。