A governança de IA não consegue ultrapassar a linha de defesa de riscos das empresas: do desenvolvimento técnico à implementação institucional

Fonte: TokenPost Título Original: AI 통제 없인 확산도 없다…루브릭, 기업 리스크 대응 기술에 승부수 Link Original: https://www.tokenpost.kr/news/ai/315080

Ponto Central

A maior barreira à adoção em larga escala de IA pelas empresas não são os custos técnicos ou a dificuldade de desenvolvimento, mas sim a falta de sistemas eficazes de gestão de risco e governança.

Análise do Problema

Segundo Dev Rishi, responsável por IA na empresa de segurança de dados em nuvem Rubrik, durante as trocas com cerca de 180 clientes na última verão, foi constatado que, na fase de implementação de IA, as empresas enfrentam geralmente três grandes dificuldades:

1. Desalinhamento entre política e execução: A maioria das empresas já criou políticas e diretrizes de IA, mas esses documentos permanecem apenas no papel, sem conexão com mecanismos de controle efetivos a nível de sistema.

2. Risco de perda de controle de sistemas autônomos: Em comparação com sistemas manuais, que possuem procedimentos de verificação, julgamento intuitivo e mecanismos de rastreabilidade de responsabilidade, os sistemas de IA carecem de mecanismos de freio adequados, podendo gerar confusão na segurança e na gestão de riscos da organização.

3. Dificuldade em alcançar ROI: Algumas organizações optam por retirar seus investimentos devido à incapacidade de encontrar valor efetivo na aplicação de IA.

Tendências do Setor

A Rubrik, por meio do lançamento de produtos como o “Rubrik Agent Cloud”, busca fornecer às empresas visibilidade real sobre sistemas de IA, capacidades de auditoria e funções de recuperação. A empresa já atraiu clientes principais como a Arm Holdings e colocou o foco estratégico em fortalecer a controlabilidade dos agentes de IA e um sistema de auditoria completo.

Perspectivas de Longo Prazo

O sucesso da IA depende, em última análise, do grau de refinamento e de execução de sua governança, e não apenas da capacidade técnica. A competição atual em governança de IA será um divisor de águas para o setor; organizações que estabelecerem mecanismos de supervisão e controle robustos terão vantagem competitiva.