Estudo indica crescimento acelerado no uso de agentes até 2028 e alerta para riscos de governança, segurança e controle nas organizações
O avanço do uso de agentes de inteligência artificial nas empresas deve ganhar escala nos próximos anos, trazendo desafios relevantes de governança e gestão. De acordo com o Gartner, uma empresa global média da Fortune 500 deverá operar mais de 150 mil agentes de IA até 2028, ante menos de 15 em 2025. Apesar do crescimento projetado, apenas 13% das organizações afirmam possuir uma governança adequada para esse tipo de tecnologia, segundo o levantamento.
As informações são baseadas em análises e previsões do Gartner, que reúne insights de especialistas em negócios e tecnologia, além de estudos e relatórios voltados à adoção de inteligência artificial em ambientes corporativos.
“Conforme Chief Information Officers (CIOs) e líderes de TI observam uma explosão de agentes de IA em suas organizações, muitos estão enfrentando uma proliferação desgovernada de agentes que expõe suas organizações a uma série de riscos, incluindo desinformação, compartilhamento excessivo e perda de dados”, diz Max Goss, diretor analista sênior do Gartner.
“Muitas organizações recorrem ao bloqueio ou à restrição do uso de agentes de IA, mas essa não é uma solução de longo prazo. Se os funcionários não puderem trabalhar com as ferramentas autorizadas, provavelmente contornarão os controles da organização e começarão a usar shadow AI, o que apresenta riscos muito maiores. As organizações precisam encontrar um equilíbrio que lhes permita governar os agentes e gerenciar sua expansão, mas também capacitar com segurança os funcionários para inovar com essas ferramentas.”
Seis etapas para governança de agentes de IA
Diante desse cenário, o Gartner identificou seis etapas para ajudar CIOs e líderes de tecnologia a estruturar a governança e reduzir riscos associados à proliferação de agentes:
1. Estabelecer governança e políticas para agentes
Definir regras claras sobre quando e como os agentes são criados, quem pode criá-los e compartilhá-los, além de quais conectores são permitidos.
2. Criar um inventário centralizado de agentes
Utilizar ferramentas de gerenciamento de confiança, risco e segurança de IA (AI TRiSM) para identificar e categorizar agentes em diferentes aplicações, incluindo soluções autorizadas e shadow AI, permitindo a aplicação de controles conforme o nível de risco.
3. Definir identidade, permissões e ciclo de vida dos agentes
Gerenciar identidade e acessos, além de revisar e desativar agentes redundantes para evitar expansão descontrolada.
4. Desenvolver a governança da informação de IA
Controlar quais dados os agentes acessam, garantir atualização das informações, gerenciar permissões e arquivar conteúdos obsoletos para evitar compartilhamento excessivo.
5. Monitorar e corrigir o comportamento dos agentes
Estabelecer visibilidade contínua sobre o uso, garantir conformidade com políticas, detectar comportamentos anômalos e corrigir desvios em relação ao escopo definido.
6. Promover uma cultura de uso responsável da IA
Oferecer treinamento e incentivar boas práticas para apoiar a adoção segura e ampliar a maturidade organizacional no uso da tecnologia.
Escala e riscos na adoção de IA
A projeção de crescimento acelerado no número de agentes evidencia um cenário de maior complexidade tecnológica nas organizações. O Gartner aponta que a expansão sem controle pode gerar riscos relevantes, especialmente em relação à segurança da informação e à governança de dados. Nesse contexto, o desafio das empresas passa a ser equilibrar inovação e controle, permitindo o uso de agentes de IA de forma segura, sem limitar o potencial de transformação da tecnologia.
