AI治理无法突破企业风险防线：从技术实现到制度执行的鸿沟

Source: TokenPost Original Title: AI 통제 없인 확산도 없다…루브릭, 기업 리스크 대응 기술에 승부수 Original Link: https://www.tokenpost.kr/news/ai/315080

核心观点

AI的大规模企业应用面临的最大障碍并非技术成本或开发难度，而是缺乏有效的风险管理和治理体系。

问题分析

据云数据安全企业Rubrik的AI负责人Dev Rishi透露，该公司在去年夏季与约180家客户的交流中发现，企业在AI部署的实行阶段普遍面临三大困境：

1. 政策与执行脱节：大多数企业已制定AI政策和指导方针，但这些文件仅停留在纸面阶段，未能与实际系统层面的控制机制相连接。

2. 自主系统的失控风险：相比人工系统拥有验证程序、直觉判断和责任追溯机制，AI系统缺乏相应的制衡手段，可能对组织的安全和风险管理体系造成混乱。

3. ROI难以实现：部分组织因无法找到有效的AI应用价值而选择撤回投资。

行业动向

Rubrik通过推出"Rubrik Agent Cloud"等产品，试图为企业提供实质性的AI系统可见性、审计能力和恢复功能。该公司已吸引Arm Holdings等主要客户，并将战略重心放在强化对AI代理的可控性和完整的审计体系上。

长期展望

AI的成功与否最终取决于其治理的精细程度和可执行性，而非单纯的技术能力。当前的AI治理竞争将成为行业的关键分水岭，那些建立起完善的监督和控制机制的组织将获得竞争优势。