Entenda o que é IA responsável, conheça seus seis princípios e saiba como preparar sua empresa para as novas exigências de governança e regulamentação.
Em resumo:
Veja mais informações a seguir!
A inteligência artificial já faz parte da rotina de muitas empresas. No entanto, a adoção dessas ferramentas nem sempre é acompanhada de medidas para garantir segurança, transparência e responsabilidade sobre os resultados produzidos.
Modelos treinados com dados sem procedência verificada, decisões automatizadas sem supervisão humana e contratação de fornecedores sem avaliação de privacidade são alguns exemplos de problemas que podem expor as organizações a riscos jurídicos, financeiros e reputacionais.
Nesse cenário, a IA responsável (Responsible AI ou RAI) ganha espaço nas discussões sobre governança corporativa. O conceito reúne princípios e práticas para garantir que sistemas de inteligência artificial sejam desenvolvidos e utilizados de maneira ética, segura e transparente.
No Brasil, essa discussão avança mesmo antes da consolidação de uma regulamentação específica. Com iniciativas como o Marco Legal da Inteligência Artificial e o EU AI Act, empresas precisam começar a estruturar seus processos de governança.
Antecipar essa preparação pode reduzir riscos e evitar custos maiores quando as exigências regulatórias se tornarem obrigatórias.
Sua gestão de projetos está pronta para a inteligência artificial?
IA responsável é a abordagem que orienta o desenvolvimento, a contratação e o uso de sistemas de inteligência artificial com atenção aos impactos que essas tecnologias podem produzir sobre pessoas, empresas e sociedade.
Na prática, significa estabelecer critérios para que os sistemas sejam confiáveis, seguros, justos e transparentes, além de definir quem responde pelas decisões tomadas com o auxílio da tecnologia.
A implementação desse conceito envolve diferentes áreas da organização, como tecnologia, jurídico, recursos humanos, segurança da informação e gestão.
Embora existam diferentes frameworks de governança, seis princípios aparecem com frequência nas principais diretrizes de IA responsável.
Os princípios de IA responsável ajudam as organizações a estabelecer critérios para avaliar sistemas de inteligência artificial e identificar possíveis riscos durante sua utilização.
Um sistema de IA precisa funcionar de acordo com as especificações para as quais foi desenvolvido. Isso significa apresentar resultados previsíveis dentro dos limites estabelecidos e permitir a identificação de falhas antes que elas provoquem danos em larga escala.
Um exemplo é um modelo utilizado para análise de crédito. Mesmo que apresente uma pequena margem de erro durante os testes, sua aplicação em milhares de operações pode gerar prejuízos significativos para clientes e para a própria instituição financeira.
Por isso, testes, monitoramento e mecanismos de correção precisam fazer parte do ciclo de vida da tecnologia.
Os dados utilizados para treinar, validar e operar sistemas de inteligência artificial precisam respeitar os direitos dos titulares.
No Brasil, isso significa observar a Lei Geral de Proteção de Dados (LGPD), Lei nº 13.709/2018. Em operações internacionais, também podem ser aplicáveis normas como o Regulamento Geral de Proteção de Dados da União Europeia (GDPR).
Antes de contratar uma ferramenta de IA, a empresa precisa verificar questões como:
A avaliação deve incluir tanto os sistemas desenvolvidos internamente quanto as soluções adquiridas de terceiros.
A segurança em inteligência artificial vai além das práticas tradicionais de cibersegurança.
Modelos de linguagem, por exemplo, podem ser manipulados por ataques conhecidos como prompt injection, nos quais instruções maliciosas tentam alterar o comportamento esperado do sistema.
Já ferramentas de visão computacional podem ser enganadas por imagens modificadas especificamente para provocar classificações incorretas.
Por isso, a proteção de sistemas de IA exige avaliações específicas de robustez, testes de vulnerabilidade e mecanismos de prevenção contra usos maliciosos ou acidentais.
Sistemas de inteligência artificial não devem produzir resultados sistematicamente desfavoráveis a determinados grupos sociais.
O problema pode aparecer em ferramentas utilizadas para seleção de candidatos, concessão de crédito, reconhecimento facial e avaliação de desempenho.
Um modelo treinado com dados históricos que apresentam desigualdades pode reproduzir ou ampliar esses padrões.
Para evitar esse cenário, as empresas precisam avaliar possíveis vieses relacionados a características como raça, gênero, origem e deficiência.
Essa análise deve ser sistemática e considerar diferentes grupos de usuários. Corrigir erros isolados não é suficiente quando o problema está incorporado ao funcionamento do modelo.
As pessoas afetadas por decisões baseadas em inteligência artificial precisam ter acesso a informações compreensíveis sobre como a tecnologia influencia os resultados.
Isso não significa necessariamente divulgar o código-fonte ou todos os parâmetros técnicos de um modelo. O objetivo é oferecer explicações adequadas sobre os critérios utilizados e permitir que decisões relevantes sejam compreendidas e questionadas.
Uma instituição financeira que utiliza IA para avaliar pedidos de crédito, por exemplo, precisa considerar como explicar os critérios que influenciaram uma negativa.
A transparência também envolve informar quando uma decisão foi produzida ou influenciada por sistemas automatizados, conforme as obrigações legais aplicáveis.
A responsabilização estabelece que deve existir uma pessoa ou instituição claramente identificada como responsável pelos resultados produzidos por sistemas de inteligência artificial.
Esse princípio é especialmente importante quando empresas terceirizam o desenvolvimento ou a operação de ferramentas de IA.
Contratar uma plataforma externa não significa transferir automaticamente toda a responsabilidade pelos impactos de seu uso.
Se uma ferramenta utilizada por uma instituição financeira negar crédito de maneira injustificada, por exemplo, é necessário avaliar as responsabilidades dos diferentes agentes envolvidos, considerando suas atribuições e obrigações legais.
Por isso, cada processo apoiado por IA precisa ter responsáveis definidos, com autoridade para revisar resultados, corrigir problemas e interromper operações quando necessário.
Suas equipes executam atividades ou geram valor estratégico?
A discussão sobre IA responsável também está relacionada ao avanço das regulamentações internacionais e nacionais.
Dois movimentos merecem atenção especial: o regulamento europeu de inteligência artificial e a proposta brasileira de criação de um marco legal para o setor.
O EU AI Act foi aprovado em 2024 e estabelece regras para o desenvolvimento e a utilização de sistemas de inteligência artificial na União Europeia.
Uma de suas principais características é a classificação das ferramentas conforme o nível de risco que representam.
O regulamento trabalha com quatro categorias:
Entre as aplicações classificadas como de alto risco estão sistemas utilizados em áreas como educação, emprego, infraestrutura crítica, saúde, crédito, migração e aplicação da lei.
Para essas ferramentas, o regulamento prevê obrigações específicas, que incluem:
O descumprimento de algumas obrigações pode resultar em multas de até 35 milhões de euros ou 7% do faturamento anual global da empresa, dependendo da infração. As penalidades variam conforme a categoria de violação.
A implementação do regulamento ocorre de maneira progressiva, com diferentes obrigações aplicáveis entre 2025 e 2027.
No Brasil, o Projeto de Lei nº 2.338/2023 propõe estabelecer regras para o desenvolvimento, a implementação e o uso de sistemas de inteligência artificial.
A proposta também adota uma abordagem baseada em riscos, com exigências proporcionais ao potencial de impacto das aplicações.
Entre os temas contemplados estão:
O avanço da proposta sinaliza uma tendência de maior exigência sobre as empresas que desenvolvem, contratam ou utilizam soluções de IA.
Por isso, esperar a aprovação definitiva de uma regulamentação para começar a estruturar processos de governança pode representar um risco desnecessário.
Preparar a organização antecipadamente permite identificar vulnerabilidades, revisar contratos e estabelecer responsabilidades antes que eventuais problemas se transformem em crises jurídicas ou reputacionais.
Por que algumas ideias nunca se transformam em projetos reais?
A adoção de IA responsável não depende apenas da criação de políticas institucionais ou documentos de conformidade.
Para que os princípios sejam aplicados na prática, as organizações precisam estabelecer procedimentos de controle, acompanhamento e responsabilização.
Três medidas ajudam a diferenciar empresas que realmente incorporam a governança de IA daquelas que se limitam a produzir documentos formais.
A primeira etapa é identificar quais dados são utilizados pelos sistemas de inteligência artificial e em quais condições essas informações podem ser processadas.
A análise deve considerar dados coletados diretamente pela empresa, informações adquiridas de terceiros e bases utilizadas por fornecedores de soluções de IA.
Na contratação de ferramentas externas, algumas perguntas precisam ser respondidas:
As respostas devem ser documentadas e, sempre que necessário, incorporadas aos contratos e procedimentos internos.
Cada processo que utiliza inteligência artificial para recomendar ou tomar decisões precisa ter um responsável humano claramente identificado.
Essa pessoa deve ter autoridade para revisar resultados, questionar recomendações e solicitar intervenções quando identificar problemas.
A medida é especialmente importante em atividades como:
A responsabilidade não deve ficar atribuída genericamente ao departamento de tecnologia ou ao fornecedor da plataforma.
É necessário definir quem responde pelo processo, quais são suas atribuições e com que frequência os resultados serão revisados.
Um modelo de inteligência artificial pode apresentar resultados diferentes ao longo do tempo.
Isso acontece porque as condições do ambiente mudam, os padrões de comportamento dos usuários se transformam e os dados utilizados pelos sistemas podem deixar de representar adequadamente a realidade.
Uma ferramenta treinada com informações anteriores à pandemia, por exemplo, pode apresentar limitações quando aplicada a um cenário econômico e social diferente daquele utilizado durante seu desenvolvimento.
Por isso, a auditoria não deve acontecer apenas antes da implementação do sistema.
O ideal é estabelecer um calendário de avaliações que contemple:
Também é importante estabelecer limites objetivos de desempenho. Se a taxa de erro ultrapassar determinado patamar, por exemplo, o sistema deve passar por uma nova avaliação antes de continuar sendo utilizado.
Você está usando todo o potencial da IA nas suas decisões?
A inteligência artificial responsável deixou de ser uma discussão restrita às equipes de tecnologia. O tema envolve decisões estratégicas, gestão de riscos, proteção de dados e responsabilidade corporativa.
Para começar, gestores podem levar três perguntas à equipe:
Se alguma dessas perguntas não puder ser respondida imediatamente, a empresa já tem um ponto de partida para melhorar sua governança.
A IA responsável não começa com uma política corporativa extensa, mas com a definição de critérios claros sobre como a tecnologia será utilizada, quem supervisionará suas operações e quem responderá pelos resultados.
Mais do que uma preparação para futuras exigências legais, essa estrutura é uma condição para utilizar a inteligência artificial de maneira sustentável, confiável e alinhada aos objetivos do negócio.
Mario H. Trentim é membro do Board of Directors do PMI, Reitor da Allevo Tech / Qeevo Group, doutorando do ITA e autor de 13 livros sobre gestão e execução estratégica.
Atua como conselheiro e conector estratégico em organizações em transformação.
Sua equipe pratica agilidade ou apenas segue rituais?
Entenda o que é IA responsável, conheça seus seis princípios e saiba como preparar sua empresa para as novas exigências de governança e regulamentação.
Entenda o modelo BCG 10-20-70 e descubra por que 70% do valor gerado pela inteligência artificial depende de pessoas, processos e mudanças organizacionais.
Conheça cinco técnicas de prompt engineering para gestores e aprenda a criar comandos mais precisos para obter melhores resultados com IA generativa.
