Arthur De Santis foi ouvido pelo Correio Braziliense sobre os desafios criados por agentes de Inteligência Artificial capazes de executar ações com autonomia, ampliando a necessidade de contenção, auditoria e governança.
Em 2 de agosto de 2026, o Correio Braziliense publicou uma reportagem sobre os riscos de segurança associados ao avanço dos agentes autônomos de Inteligência Artificial. A matéria analisa incidentes ocorridos em ambientes experimentais e discute como sistemas capazes de interpretar objetivos, utilizar ferramentas e executar tarefas podem ultrapassar os limites originalmente estabelecidos.
Diferentemente de modelos voltados apenas à geração de respostas, agentes autônomos podem operar em cadeias de ações. Eles podem executar código, acessar APIs, consultar bancos de dados, interagir com outros sistemas e selecionar caminhos para alcançar uma meta. Essa capacidade amplia o potencial de automação, mas também modifica o perfil de risco.
O ponto central não é atribuir intenção humana a esses sistemas. Um agente pode produzir um resultado indesejado ao otimizar o objetivo recebido sem compreender adequadamente limites, consequências ou prioridades que não tenham sido incorporadas ao ambiente de execução. Quanto maior a autonomia concedida, maior precisa ser a maturidade dos mecanismos de controle.
Arthur De Santis, executivo de tecnologia e autor do CIO Codex - The IT Framework, foi ouvido pela reportagem para analisar a relação entre inovação, segurança e governança. Em sua avaliação, a discussão sobre desaceleração pode ser legítima quando as capacidades dos modelos evoluem mais rapidamente do que os controles, os mecanismos de contenção e as condições de auditoria.
Ao mesmo tempo, uma interrupção unilateral do desenvolvimento é pouco realista. Empresas e países participam de uma competição tecnológica com implicações econômicas, estratégicas e geopolíticas. Se apenas um participante reduzir o ritmo, outros poderão continuar avançando. Esse cenário torna insuficiente a escolha simples entre acelerar sem limites ou interromper a inovação.
O caminho mais consistente passa pelo desenvolvimento responsável, acompanhado por controles proporcionais ao nível de autonomia e ao impacto potencial de cada sistema. Entre os princípios relevantes estão o acesso mínimo necessário, a segregação de funções, o isolamento de ambientes, a aprovação humana para ações sensíveis, o monitoramento contínuo, a rastreabilidade das decisões e a possibilidade de interrupção segura.
A governança também precisa definir responsabilidades. Deve estar claro quem autoriza a utilização do agente, quais dados podem ser acessados, quais ferramentas podem ser acionadas, quais decisões exigem intervenção humana e como incidentes serão identificados, comunicados e tratados. Sem essa estrutura, a autonomia técnica pode crescer mais rapidamente do que a capacidade organizacional de supervisioná-la.
Outro aspecto essencial é a realização de testes que representem condições reais de uso. Ambientes controlados precisam ser desenhados para revelar comportamentos inesperados antes que os sistemas sejam expostos a operações críticas. Esse processo deve incluir avaliações de segurança, simulações de abuso, validação dos limites de acesso e análise das formas pelas quais o agente pode buscar alternativas não previstas para cumprir seu objetivo.
A repercussão no Correio Braziliense demonstra que a discussão sobre Inteligência Artificial deixou de estar restrita à qualidade das respostas produzidas pelos modelos. A atenção passa a incluir o que esses sistemas podem fazer, quais recursos podem utilizar e como suas ações serão governadas.
Para o CIO Codex, inovação e controle não devem ser tratados como objetivos incompatíveis. A adoção responsável da IA depende da capacidade de equilibrar experimentação, geração de valor, segurança e prestação de contas. Quanto maior for a autonomia dos agentes, mais robustas deverão ser a arquitetura de controle, a governança e a supervisão humana.
Leia a matéria original
A publicação completa está disponível no Correio Braziliense:
Quando a IA foge do controle: agentes autônomos expõem riscos de segurança
