Guia de conceitos

IA responsável

A IA já ajuda a analisar pedidos de empréstimo, fazer a triagem de candidatos a vagas e apoiar médicos. Basta ela acertar? Não exatamente. Também é preciso perguntar se ela trata algum grupo de forma injusta, se alguém consegue explicar por que ela decidiu o que decidiu e quem responde quando ela erra. Neste guia, você vai conhecer os princípios da IA responsável e as formas práticas que as equipes usam para cumpri-los de verdade.

01

Os princípios da IA responsável

Governos, organismos internacionais e empresas de IA publicaram seus próprios princípios. Os nomes e a quantidade variam um pouco, mas o conteúdo é quase o mesmo. Na cena abaixo, escolha um princípio e veja o que dá errado quando ele falha.

Princípio
Equidade
Não tratar de forma diferente pessoas em situações parecidas
Quando falha
Com a mesma experiência, pessoas de um gênero recebem notas mais baixas

Só com os seis princípios juntos dá para sustentar uma IA confiável

Equidade: Não tratar de forma diferente pessoas em situações parecidas. Quando falha: Com a mesma experiência, pessoas de um gênero recebem notas mais baixas.

PrincípioO que significa
EquidadeNão tratar de forma diferente pessoas em situações parecidas por causa de um grupo, como gênero, idade ou região
Confiabilidade e segurançaFuncionar de forma estável, como esperado, em condições diferentes (robustez), sem causar danos
Privacidade e segurançaProteger os dados e usá-los só dentro do que as pessoas autorizaram
InclusãoQualquer pessoa consegue usar, seja qual for a deficiência, a idade, o idioma ou a região
TransparênciaAvisar que há IA envolvida e como ela toma decisões (inclui a explicabilidade)
ResponsabilidadeAlguém responde pelo resultado e existe um jeito de contestar e corrigir erros

Escrever os princípios não faz ninguém segui-los. O resto deste guia mostra o que você realmente mede e constrói para cada um.

Se a questão disser… → escolha isto

  • “Trata de forma diferente pessoas em situações parecidas, conforme o grupo”Um problema de equidade
  • “Funciona de forma estável em condições bem diferentes”Confiabilidade e segurança (robustez)
  • “Qualquer pessoa consegue usar, seja qual for a deficiência ou o idioma”Inclusão
  • “Avisa os usuários que há IA envolvida e como ela decide”Transparência
  • “Um responsável definido e um processo para o resultado”Responsabilidade

O princípio que mais causa problemas é a equidade. Mas por que uma IA trataria um grupo pior que outro?

02

De onde vem o viés

A IA não sai por aí querendo discriminar. A maior parte do viés vem dos dados. Um modelo aprende com os exemplos que recebe; se os dados pendem para um lado, os resultados pendem para o mesmo lado. A cena abaixo mostra um modelo de reconhecimento de voz: quantos dados de treinamento ele tinha para cada sotaque e com que frequência errava cada um.

Sotaque padrão
900 h · 5% de erro
Sotaque regional
100 h · 22% de erro

Modelo de reconhecimento de voz: dados de treinamento e taxa de erro por sotaque (exemplo)

O áudio com sotaque regional é só 10% dos dados de treinamento, então o modelo não entende essas pessoas mais ou menos uma vez a cada quatro (22%). O modelo não discrimina de propósito: os dados estão desequilibrados.

Tipo de viésComo aconteceExemplo
Viés de amostragem (de representação)Alguns grupos têm poucos dadosHá poucas gravações com sotaque regional, então o modelo entende mal essas pessoas
Viés históricoDecisões injustas do passado ficaram gravadas nos dadosUm grupo que quase não era contratado também recebe notas baixas do modelo
Viés de medição ou de rótuloO jeito de rotular as respostas pende para um ladoO comportamento de um grupo era marcado como “arriscado” com mais frequência
Variáveis proxyOutros atributos revelam a informação sensível que você removeuVocê tirou o gênero, mas o nome e os hobbies continuam entregando
Aqui é onde muita gente se confunde: tirar das entradas atributos sensíveis como gênero, idade ou região não faz o viés sumir. Outros atributos podem carregar a mesma informação. Por isso é preciso separar os resultados por grupo e medir de verdade.

Se a questão disser… → escolha isto

  • “O desempenho é baixo porque um grupo tem poucos dados de treinamento”Viés de amostragem (de representação) → coletar mais dados
  • “O modelo copia decisões discriminatórias do passado”Viés histórico
  • “Remover atributos sensíveis elimina o viés”Errado: as variáveis proxy continuam lá
  • “Verificar a proporção de cada grupo no conjunto de dados”Detecção de viés (análise de dados)

Então, como você verifica com números reais se um modelo é justo?

Exclusivo Pro

Até aqui vai a parte gratuita

Os outros 5 capítulos estão disponíveis para assinantes Pro. Cada um continua com visuais em 3D e dicas de “se a questão disser…”, e no último capítulo você testa o que aprendeu.

  1. 03Medir a equidade
  2. 04Explicabilidade
  3. 05Transparência e documentação
  4. 06Governança e regulação
  5. 07Lendo situações como princípios
Conhecer o ProJá é Pro? Entre

Publicidade

PasslyExam

Você já leu o conceito. Agora teste com questões de prova

O PasslyExam oferece questões práticas originais, explicações e simulados completos baseados no guia oficial de cada certificação. As explicações mostram por que a opção certa está certa e por que as opções parecidas estão erradas. Cadastre-se e pratique de graça todos os dias.

Comece grátisEntrar

Provas que cobrem este conceito