A Anthropic, empresa especializada em inteligência artificial, anunciou um avanço relevante no campo da IA explicável, com implicações diretas para a governança de sistemas algorítmicos. Sua nova técnica, chamada de interpretação escalável, permite rastrear os chamados “pensamentos internos” dos modelos de linguagem, ou seja, compreender como e por que a IA toma certas decisões antes de gerar uma resposta.
A tecnologia mapeia milhares de padrões internos ativados por conceitos como “intenção”, “ameaça” ou “ironia”, oferecendo uma visão sem precedentes sobre o funcionamento interno dos algoritmos. Essa capacidade de rastreamento contribui para o desenvolvimento de sistemas mais auditáveis, confiáveis e alinhados com princípios éticos, ajudando a mitigar riscos como alucinações, enviesamentos ou respostas potencialmente danosas. Para empresas e setores regulados, trata-se de um passo importante rumo a uma IA mais transparente e governável.
LEIA MAIS: Tropicalização da governança de inteligência artificial no Brasil
No Brasil, o Projeto de Lei 2338/2023, que busca estabelecer um marco legal para a inteligência artificial, prevê princípios fundamentais como transparência, prestação de contas, supervisão humana e mitigação de riscos. A proposta também impõe obrigações adicionais para sistemas de alto risco, exigindo documentação técnica, mecanismos de explicabilidade e canais de contestação de decisões automatizadas.
Além da conformidade legal, a explicabilidade dos modelos de IA impacta diretamente a gestão de riscos reputacionais e a confiança do mercado. No Brasil, setores como crédito, saúde, varejo e recursos humanos já utilizam algoritmos para decisões sensíveis, muitas vezes sem mecanismos claros de revisão ou auditoria. Ferramentas como a proposta pela Anthropic podem fortalecer a governança interna, reduzir riscos de discriminação algorítmica e aumentar a legitimidade institucional do uso de IA, não apenas como inovação, mas como prática responsável e alinhada às expectativas sociais e regulatórias.
