Com avanço dos agentes de IA nas empresas, EY desenvolve framework de governança para escalar uso da tecnologia com segurança

Modelo estabelece regras de governança, rastreabilidade e supervisão para empresas que começam a operar milhares de agentes de IA simultaneamente

Se há alguns anos as empresas gerenciavam poucos agentes de inteligência artificial voltados para tarefas específicas, hoje algumas organizações já operam milhares de sistemas autônomos simultaneamente em áreas como atendimento, operações e processos financeiros. Esse crescimento acelerado tem criado um novo desafio corporativo: como garantir controle, rastreabilidade e governança sobre agentes de IA que passam a atuar de forma cada vez mais integrada ao negócio.

O futuro da IA corporativa não está em agentes isolados, mas em ecossistemas de agentes autônomos que interagem, negociam e tomam decisões em conjunto. Esse modelo, conhecido como federação de agentes, cria uma nova fronteira de valor, mas também um novo campo de risco.

As empresas precisam explorar como a governança precisa evoluir, deixando de ser uma camada de controle e passando a ser parte do design central. O diferencial competitivo não será quem tem mais agentes, mas quem consegue governá-los com clareza, eficiência e confiança. Nesse cenário, a EY, uma das maiores empresas de auditoria e consultoria do mundo, desenvolveu um framework para orquestrar ecossistemas de agentes autônomos. Este Framework foi criado para apoiar empresas na gestão, supervisão e escalabilidade desses sistemas de IA dentro das organizações.

“Quando as empresas começam a ganhar escala no uso de agentes de IA, a governança deixa de ser opcional. Sem mecanismos adequados de monitoramento e rastreabilidade, os riscos operacionais, financeiros e reputacionais aumentam significativamente”, afirma Andrei Graça, sócio-líder de Inteligência Artificial e Dados da EY Brasil.

Segundo o executivo, o principal objetivo da federação de agentes é centralizar padrões de desenvolvimento, acessos, permissões, rastreabilidade, accountability e monitoramento, além de controlar a eficiência operacional e o custo. Esse modelo evita que diferentes áreas da empresa criem agentes de forma isolada, sem integração ou supervisão adequada, mitigando a proliferação desordenada de soluções desconectadas no ambiente corporativo.

O framework também estabelece processos internos para escolha da melhor tecnologia para o desenvolvimento do agente, inventário, ciclo de aprovação, definição clara de responsabilidades e regras estruturadas de acesso aos dados corporativos, dentre outros processos, garantindo maior controle, consistência e governança na operação de agentes de IA, possibilitando as empresas a democratizarem o desenvolvimento de agentes nas áreas de negócio.

A implementação começa por um inventário estruturado dos agentes de IA já existentes na organização, identificando responsáveis, funções desempenhadas, dados acessados, permissões e relação entre custo e retorno operacional. A partir desse mapeamento, a empresa passa a definir padrões tecnológicos e mecanismos comuns de governança para novos desenvolvimentos.

“O desafio não é apenas criar agentes, mas garantir visibilidade sobre como eles operam, quais sistemas acessam e se estão atuando dentro das regras definidas pela companhia”, explica Andrei.

O modelo também prevê mecanismos de orquestração capazes de direcionar demandas entre diferentes agentes de IA sem criar gargalos operacionais. Na prática, agentes conseguem encaminhar tarefas entre si de forma coordenada, identificando qual sistema é mais adequado para cada atividade. A estrutura também inclui mecanismos contínuos de supervisão e monitoramento. Segundo a EY, esse tipo de abordagem se torna cada vez mais necessário à medida que os agentes passam a executar atividades críticas dentro das empresas.

Para a EY, a discussão sobre governança ganha relevância em um momento em que os agentes de IA começam a assumir tarefas ligadas a áreas auditáveis das organizações, como contas a pagar, contas a receber, compras e fluxos operacionais. Em empresas sujeitas a estruturas regulatórias e de compliance, a rastreabilidade das ações desses sistemas tende a se tornar cada vez mais necessária.

No Brasil, o projeto de regulamentação da IA segue em discussão no Congresso, principalmente em torno do Projeto Lei 2,338/2023, que propões um marco regulatório para inteligência artificial baseado em risco, governança e responsabilização. Já na União Europeia, o EU AI Act começou a entrar em vigor de forma gradual, com implementação faseada. A avaliação da EY é que as empresas precisarão demonstrar capacidade de monitorar, explicar e auditar decisões tomadas por sistemas autônomos.

“Não se trata apenas de adotar a tecnologia, mas de implementá-la de forma responsável, segura e aderente às exigências regulatórias e de negócios”, finaliza Andrei.

Texto original: FSB