Projeto open source reúne empresas de tecnologia, instituições acadêmicas e pesquisadores para automatizar a conexão entre requisitos de segurança, compliance e implantação de inteligência artificial
A Red Hat anunciou a criação do asago (AI Safety And Governance Orchestration), um projeto comunitário de código aberto desenvolvido para automatizar a transformação de políticas de governança de inteligência artificial em sistemas de IA prontos para produção e implantados com segurança.
A iniciativa reúne Red Hat, Alquimia AI, Brave Software, coalizão EvalEval, IBM Research, Interdisciplinary Transformation University Austria, Microsoft, MIT Lincoln Laboratory, North Carolina State University, NVIDIA e The Alan Turing Institute, com o objetivo de reduzir a distância entre os requisitos de políticas de IA e a implementação prática de controles de segurança.
O asago conecta etapas, ferramentas e requisitos que hoje costumam envolver diferentes equipes, como engenharia, compliance, ciência de dados e infraestrutura, criando um fluxo de trabalho automatizado, auditável e rastreável para apoiar a entrega de sistemas de IA mais seguros.
O projeto utiliza uma plataforma open source padronizada para traduzir políticas corporativas e regulatórias de governança de IA em controles operacionais. A proposta é integrar a flexibilidade dos desenvolvedores com mecanismos de governança, estruturando o processo em quatro etapas principais: mapeamento de riscos, avaliação de riscos, mitigação de riscos e implantação em produção.
Na primeira etapa, o framework interpreta políticas de governança de IA e relaciona seus requisitos a estruturas consolidadas de gestão de riscos, como o NIST AI RMF, o OWASP LLM Top 10 e a Lei de IA da União Europeia (EU AI Act), por meio do IBM AI Risk Atlas. A partir disso, transforma diretrizes em perfis de risco acionáveis.
Na avaliação de riscos, o asago gera e executa cenários específicos para cada caso de uso, realizando testes automatizados de segurança adaptados aos riscos identificados. Na etapa de mitigação, recomenda medidas de proteção, incluindo guardrails de segurança, com justificativas e trilhas de auditoria para revisão.
Já na implantação em produção, o projeto orquestra controles recomendados em configurações preparadas para diferentes ambientes, incluindo nuvem híbrida e Kubernetes, reduzindo a necessidade de codificação manual da infraestrutura.
Segundo a Red Hat, o asago busca eliminar o atrito entre áreas responsáveis por políticas, desenvolvimento e operação ao oferecer um padrão aberto para reunir equipes de compliance, cientistas de dados e administradores de infraestrutura. A plataforma também pretende apoiar a criação de controles de segurança para agentes autônomos de IA e modelos corporativos de linguagem de grande porte (LLMs).
“À medida que as organizações avançam de projetos-piloto experimentais para agentes autônomos de IA de longo prazo, estabelecer guardrails operacionais claros torna-se um requisito essencial de infraestrutura”, afirma Steven Huels, vice-presidente de Engenharia de IA na Red Hat.
Para Stuart Battersby, arquiteto de segurança e avaliação de modelos de IA na Red Hat, a colaboração aberta é um elemento central do projeto. “O projeto asago é um verdadeiro esforço colaborativo de código aberto que reúne representantes da indústria de tecnologia, da academia e do setor público”, afirma Stuart Battersby, arquiteto de segurança e avaliação de modelos de IA na Red Hat. “Convidamos novos colaboradores a participarem dessa iniciativa liderada pela comunidade, especialmente de diferentes partes do mundo, para garantir a maior abrangência possível de perspectivas sobre segurança em IA”, comenta.
Entre os principais destaques do projeto estão a automação para reduzir a complexidade das políticas de IA, a criação de uma trilha única de auditoria para responsáveis por políticas, CIOs, desenvolvedores de IA, engenheiros de plataforma e auditores externos, além da disponibilização do código aberto sob a licença Apache License 2.0.
O asago também foi desenvolvido para permitir implantação independente da infraestrutura, gerando configurações declarativas para Kubernetes, Terraform e Ansible, com o objetivo de manter uma postura consistente de segurança em diferentes ambientes de nuvem e instalações locais.
“O projeto asago reúne diferentes áreas de conhecimento para enfrentar desafios que envolvem segurança, proteção e governança da inteligência artificial. Nenhuma organização, sozinha, é capaz de solucionar esses desafios”, afirmou Sarah Bird, diretora de produtos de IA Responsável da Microsoft. “Padrões abertos e amplamente adotados podem contribuir para uma governança mais consistente em todo o ecossistema, enquanto a inteligência coletiva da comunidade pode acelerar o progresso em relação aos desafios mais relevantes. Estamos entusiasmados em fazer parte da comunidade asago e trabalhar ao lado de outras organizações para ajudar a desenvolver uma IA segura, protegida e digna da confiança das pessoas.”
O projeto asago está atualmente na fase de formação da comunidade. Desenvolvedores, pesquisadores acadêmicos e organizações interessadas em adotar a iniciativa de forma antecipada já podem acessar o repositório e participar da governança do projeto por meio do GitHub.
