Governança de IA
Políticas, processos e controles empregados para gerenciar o desempenho, a conformidade e os riscos de ferramentas e sistemas de inteligência artificial ao longo de seu ciclo de vida, resultando em sistemas confiáveis e auditáveis.
O que é governança de IA
A governança de inteligência artificial é uma estrutura de gestão que estabelece funções, controles e documentação para o desenvolvimento, a avaliação, a implementação e o monitoramento de projetos envolvendo IA. Normalmente, essa estrutura abrange inventários de modelos, avaliações de risco, supervisão humana e resposta a incidentes. As equipes a usam para alinhar a IA a objetivos comerciais, princípios éticos e regulamentos. Os programas de governança de IA estão ligados a outras práticas, como a gestão de riscos e a avaliação de conformidade. Muitas vezes, complementam instrumentos de privacidade, como a avaliação do impacto sobre a proteção de dados.
A Gartner define a governança de IA como o processo de atribuir e assegurar responsabilidades, direitos sobre as decisões, gestão de riscos, políticas e investimentos em relação à aplicação da inteligência artificial.
Por que a governança de IA é importante
A governança de IA ajuda os executivos e as equipes de produtos a implementar a IA de forma responsável, esclarecendo as responsabilidades, aplicando controles e registrando evidências. Ela melhora a eficiência por meio de fluxos de trabalho padronizados, minimiza imprevistos nas operações e fortalece a confiança das partes interessadas, com decisões transparentes e barreiras de proteção mensuráveis. Estruturas regulatórias como a Lei de IA da União Europeia, a estrutura de gestão de riscos em IA do Instituto Nacional de Normas e Tecnologia dos Estados Unidos (NIST AI Risk Management Framework), a norma ISO/IEC 42001 e os Princípios de IA da OCDE (Organização para a Cooperação e Desenvolvimento Econômico) requerem controles baseados em riscos, transparência, qualidade dos dados, supervisão humana e monitoramento pós-comercialização. Uma governança sólida reduz a exposição a sanções, proporciona uma melhor experiência ao usuário por meio de decisões explicáveis e protege as marcas ao prevenir comportamentos injustos, inseguros ou não confiáveis.
Como a governança de IA é usada na prática
- Em geral, as organizações estabelecem um modelo de registro e inventário, vinculando os sistemas de IA a responsáveis, riscos, conjuntos de dados e avaliações.
- Os programas de governança costumam incluir avaliações de risco pré-implementação, com testes documentados de enviesamento, robustez e segurança, além de revisão e aprovação por seres humanos.
- O monitoramento e a geração de registros são normalmente empregados para acompanhar e avaliar desempenho, desvios, incidentes e impressões dos usuários, além de desencadear ações como a reversão de sistemas e a repetição do treinamento.
- Os controles (por exemplo, consentimento, avisos de transparência, registros de atividades) são geralmente localizados, para atender aos requisitos de jurisdições como União Europeia, Reino Unido e Estados Unidos.
- Modelos de terceiros são comumente avaliados, a fim de coletar informações para auditorias e processos de aquisição.
Leis e normas relacionadas
- Lei de IA da UE
- NIST AI Risk Management Framework (NIST AI RMF, Estrutura de Gestão de Riscos do Instituto Nacional de Normas e Tecnologia dos Estados Unidos)
- Princípios de IA da OCDE
- ISO/IEC 42001:2023 (norma para sistemas de gestão de IA)
- Regulamento Geral de Proteção de Dados da UE (GDPR)
Como a OneTrust pode ajudar
A OneTrust fornece o software AI Governance, que cataloga sistemas de IA, avalia riscos, monitora a postura em diferentes plataformas e aplica controles de forma programática. Ao alinhar a governança corporativa à realidade técnica, as equipes podem expandir mais rapidamente seus projetos, reduzir os riscos e manter a confiança.
Perguntas frequentes
A governança de IA define as políticas, funções e controles gerais para programas de inteligência artificial. A gestão de riscos se concentra na identificação, avaliação e tratamento de ameaças específicas ao longo do ciclo de vida dessa tecnologia. As duas funcionam juntas.
A responsabilidade normalmente abrange as áreas jurídica/de privacidade, engenharia/produto, ciência de dados e segurança. A coordenação fica a cargo de um conselho central de governança ou de um gerente de programa. O encarregado pela proteção de dados (DPO) pode se envolver em caso de risco à privacidade.
A governança estrutura as tarefas de conformidade: manutenção de inventários de modelos, avaliação de riscos e enviesamento, supervisão humana, registro dos resultados dos testes, monitoramento pós-comercialização e comunicação de incidentes.
