Uso Responsável da Inteligência Artificial

Duração prevista: 120 minutos, em sessão presencial.

Todos os casos, nomes, instituições e números usados nesta lição são fictícios e servem apenas de exercício.

Como o tempo desta lição está distribuído

• Acolhimento e objectivos: 10 minutos.
• Exposição: 35 minutos.
• Actividade prática: 60 minutos.
• Partilha e síntese: 15 minutos.

Como trabalhamos na sala: recomenda-se um computador por pessoa. Quando não for possível, no máximo duas pessoas por computador, alternando quem executa a meio da actividade, de modo que ambas façam. Na partilha apresentam apenas dois grupos, com tempo limitado; os restantes entregam por escrito e recebem comentário do formador. Marcar a lição como concluída é registo de aprendizagem e não é registo de assiduidade.

Objectivos da lição

• Calcular, a partir da tabela fornecida, a taxa de falsos negativos e a taxa de falsos positivos de cada grupo, escrevendo o numerador e o denominador de cada conta.
• Comparar o desempenho entre grupos e escrever em que grupo o sistema falha mais e de que maneira falha.
• Explicar porque é que uma diferença entre grupos não prova, por si, causalidade nem discriminação, e indicar que informação adicional seria precisa.
• Identificar, no caso fornecido, pelo menos três origens possíveis da diferença: representação nos dados, variáveis indirectas e barreiras de acesso.
• Propor quatro medidas — uma de mitigação técnica ou de processo, uma de consulta, uma de revisão periódica e uma alternativa acessível — com responsável por função e prazo.

Explicação

Preconceito algorítmico não é o sistema «ter opinião». É mais simples e mais incómodo do que isso: o sistema funciona melhor para umas pessoas do que para outras, e ninguém dá por isso enquanto olhar só para o número global. Um sistema com oitenta por cento de acerto pode ter noventa por cento num grupo e cinquenta noutro. A média esconde exactamente aquilo que interessa saber.

A primeira origem é a representação nos dados. Se um sistema aprendeu com pedidos submetidos em português, escritos em zona urbana, por pessoas habituadas ao formulário, é nesses que funciona bem. Os pedidos escritos noutro registo de língua, preenchidos com ajuda de terceiro, ou vindos de zonas onde o serviço é raro, estão pouco representados no treino — e o sistema não aprendeu os seus padrões. Não é malícia de ninguém: é o reflexo de quem estava nos dados.

A segunda origem são as variáveis indirectas, também chamadas proxies. Retirar o campo do sexo, da língua ou da origem não elimina a diferença, porque outros campos carregam a mesma informação por vias indirectas. O bairro pode estar associado à origem; a hora de submissão, ao tipo de emprego; o canal usado — balcão ou internet —, à conectividade e ao rendimento; a existência de endereço de correio electrónico, à escolaridade. O sistema pode reproduzir uma diferença entre grupos sem nunca ter visto o campo que define o grupo.

A terceira origem são as barreiras de acesso, que actuam antes do sistema. Se o formulário só existe em português escrito, quem é atendido noutra língua depende de intermediários e o texto que fica no registo não é o seu. Se o portal não funciona com leitor de ecrã, uma pessoa cega submete por outra via, com outras características. Se a rede é fraca, o pedido é submetido em condições diferentes. As diferenças que depois aparecem nos resultados foram criadas antes, pelo desenho do serviço.

Agora a advertência central desta lição, e a que mais custa a respeitar quando a tabela está à nossa frente: uma diferença entre grupos é um sinal, não uma prova. Não prova causalidade, porque pode haver uma terceira coisa a explicar as duas — por exemplo, se os pedidos de um grupo forem em média mais complexos, é natural que haja mais erros, e a diferença seria de complexidade e não de grupo. E também não prova, por si, discriminação, que é uma qualificação jurídica com critérios próprios, e não uma conclusão que se tira de uma tabela numa sala de formação. O que a diferença faz — e é muito — é obrigar a investigar, com dados sobre a composição dos grupos, sobre a complexidade dos casos, sobre o desenho do serviço e ouvindo as pessoas afectadas.

Há ainda um ponto que muda a leitura dos números: os dois tipos de erro não custam o mesmo, e podem não custar o mesmo a cada grupo. Num sistema que assinala pedidos com risco de estarem incompletos, um falso positivo incomoda — a pessoa é chamada a confirmar documentos que já tinha entregue. Um falso negativo custa mais — o pedido segue incompleto, é devolvido semanas depois e a pessoa perde tempo e viagem. Se os falsos negativos se concentram no grupo que já tem mais dificuldade em deslocar-se, o sistema acrescenta dificuldade a quem já tinha mais. É por isso que se olha para cada tipo de erro por grupo, e não para a taxa de acerto global.

Por fim, as respostas. Mitigar pode ser técnico — reequilibrar dados de treino, mudar o limiar de aviso, deixar de usar um campo que funciona como variável indirecta — ou pode ser de processo, por exemplo obrigar a revisão humana em todos os casos do grupo onde o sistema falha mais. Consultar é falar com quem é afectado, incluindo organizações de pessoas com deficiência, antes de decidir o que fazer, e não depois. Rever periodicamente é fixar uma data em que se volta a medir, porque o desempenho muda quando muda a população atendida. E manter uma alternativa acessível é garantir que existe sempre um caminho sem o sistema — balcão, papel, apoio presencial — para quem o sistema serve mal. Dessas quatro, a alternativa acessível é a que nunca deve faltar.

Caso fictício — o aviso de pedidos incompletos em Muanzo, três meses depois

A Direcção Distrital Fictícia de Muanzo instalou, há três meses, um sistema que assinala os pedidos com maior risco de estarem incompletos, para serem conferidos antes de entrarem na fila. Tudo o que se segue é inventado para esta aula.

Nos primeiros três meses passaram pelo sistema seiscentos pedidos. A direcção mandou verificar, um a um, quantos estavam de facto incompletos, e comparou com o que o sistema tinha assinalado. Os resultados estão na tabela, repartidos por três grupos de submissão.

No relatório interno, alguém escreveu: «o sistema acerta em setenta e oito por cento dos casos, o que é satisfatório». A frase está aritmeticamente correcta e é enganadora. Vamos ver porquê.

Os três grupos não são grupos de pessoas definidos por nenhuma característica protegida: são grupos de submissão — como o pedido entrou no serviço. Mas a maneira como um pedido entra está ligada à língua em que a pessoa é atendida, à distância a que vive, à ligação de que dispõe e ao apoio de que precisa. É por aí que a análise tem de passar.

Ficha de trabalho — resultados dos três meses, por grupo de submissão

Números fictícios, preparados para esta aula. VP são pedidos incompletos que o sistema assinalou; FN são incompletos que não assinalou; FP são pedidos completos que assinalou indevidamente; VN são completos que não assinalou. As colunas das taxas ficam em branco e são calculadas pelo grupo, com a conta escrita.

Anexo A — como se calculam as duas taxas

Definições de trabalho, para que toda a gente use o mesmo denominador.

Taxa de falsos negativos = FN dividido pelo número de incompletos reais desse grupo, isto é FN dividido por (VP + FN). Responde à pergunta: dos pedidos que estavam mesmo incompletos, que proporção é que o sistema deixou passar?

Taxa de falsos positivos = FP dividido pelo número de completos reais desse grupo, isto é FP dividido por (FP + VN). Responde à pergunta: dos pedidos que estavam bem, que proporção é que o sistema chamou indevidamente?

Taxa de acerto global = (VP + VN) dividido pelo total. Nunca se usa sozinha, e nunca se compara entre grupos sem olhar para as duas taxas acima.

Escrever sempre o numerador e o denominador. Uma percentagem sem denominador não permite discussão nenhuma.

Anexo B — o que se sabe e o que não se sabe sobre os três grupos

Informação fictícia, deliberadamente incompleta. Serve para treinar a distinção entre o que a tabela mostra e o que seria preciso saber.

Sabe-se: o sistema foi treinado com pedidos dos últimos dois anos, dos quais cerca de quatro quintos tinham entrado pelo portal.

Sabe-se: o formulário do portal existe apenas em português escrito e não foi testado com leitor de ecrã.

Sabe-se: no grupo C, o pedido é escrito por um terceiro que acompanha a pessoa, e o campo de descrição costuma ser mais curto.

Não se sabe: se os pedidos do grupo B são, em média, mais complexos do que os do grupo A.

Não se sabe: que campos pesam mais na decisão do sistema.

Não se sabe: quantas pessoas do grupo C desistiram antes de submeter, porque quem desiste não aparece em tabela nenhuma.

Actividade prática

Trabalho em pares, com a tabela em papel; calculadora simples ou a do telemóvel autorizada, com 60 minutos de trabalho, seguidos de 15 minutos de partilha e síntese em plenário.

Parte A. Calculem, para cada um dos três grupos e para o total, a taxa de falsos negativos e a taxa de falsos positivos, escrevendo sempre o numerador e o denominador. Confirmem primeiro que, em cada linha, VP mais FN dá os incompletos reais e FP mais VN dá os completos reais.

Parte B. Calculem a taxa de acerto global e escrevam, em duas frases, porque é que a frase do relatório interno — «acerta em setenta e oito por cento, o que é satisfatório» — é enganadora.

Parte C. Escrevam em que grupo o sistema falha mais e de que maneira falha, distinguindo os dois tipos de erro e dizendo qual deles custa mais à pessoa afectada e porquê.

Parte D. Usando o anexo B, listem três origens possíveis da diferença observada: uma de representação nos dados, uma de variável indirecta e uma de barreira de acesso. Em cada uma, escrevam uma frase a explicar como produziria este resultado.

Parte E. Escrevam duas frases sobre os limites da vossa conclusão: o que é que estes números não provam, e que informação adicional pediriam antes de afirmar que há tratamento desigual.

Parte F. Proponham quatro medidas, uma de cada tipo — mitigação, consulta, revisão periódica e alternativa acessível — cada uma com responsável por função e prazo.

Produto esperado: Uma ficha por par com: a tabela completada com as seis taxas por grupo e as do total, com contas visíveis; a crítica à frase do relatório; a análise do grupo mais afectado; as três origens; os limites da conclusão; e as quatro medidas com responsável e prazo.

Como o produto é apreciado

• Grupo A: taxa de falsos negativos = 15 dividido por 60 = 0,25, isto é 25 por cento; taxa de falsos positivos = 24 dividido por 240 = 0,10, isto é 10 por cento.
• Grupo B: taxa de falsos negativos = 30 dividido por 60 = 0,50, isto é 50 por cento; taxa de falsos positivos = 35 dividido por 140 = 0,25, isto é 25 por cento.
• Grupo C: taxa de falsos negativos = 8 dividido por 20 = 0,40, isto é 40 por cento; taxa de falsos positivos = 20 dividido por 80 = 0,25, isto é 25 por cento.
• Total: taxa de falsos negativos = 53 dividido por 140 = 0,3786, cerca de 37,9 por cento; taxa de falsos positivos = 79 dividido por 460 = 0,1717, cerca de 17,2 por cento; taxa de acerto global = (87 + 381) dividido por 600 = 468 dividido por 600 = 0,78, isto é 78 por cento.
• A crítica à frase do relatório assenta em que a taxa global é dominada pelo grupo A, que tem metade dos pedidos e os melhores resultados, e esconde que no grupo B o sistema deixa passar metade dos pedidos incompletos.
• A parte C identifica o grupo B como o mais afectado nos falsos negativos e explica que o falso negativo custa mais, porque o pedido segue incompleto e é devolvido semanas depois, obrigando a nova deslocação — precisamente a quem vive mais longe.
• As três origens estão ancoradas no anexo B: quatro quintos do treino vindos do portal é representação; o canal de submissão a funcionar como indicador indirecto de conectividade e rendimento é variável indirecta; o formulário só em português escrito e não testado com leitor de ecrã é barreira de acesso.
• A parte E diz expressamente que a diferença não prova causalidade nem discriminação e pede pelo menos a comparação de complexidade dos pedidos entre grupos, o peso dos campos na decisão e a escuta das pessoas afectadas, incluindo quem desistiu.
• As quatro medidas são distintas, com responsável por função e prazo, e a alternativa acessível garante um caminho sem o sistema para quem ele serve pior.

Síntese em leitura fácil

• Um sistema pode acertar muito no total e falhar muito num grupo.
• Veja sempre os dois erros separados: deixar passar e chamar sem ser preciso.
• Escreva a conta com o número de cima e o número de baixo. Percentagem sozinha não chega.
• Os dados de treino trazem quem estava neles. Quem não estava pode ser servido pior — é preciso medir para saber.
• Retirar o campo do sexo ou da língua não resolve: outros campos dizem a mesma coisa por outro caminho.
• Algumas diferenças nascem antes do sistema, no desenho do serviço: língua, internet, acessibilidade.
• Uma diferença entre grupos manda investigar. Não prova, sozinha, causa nem discriminação.
• Quem desiste de submeter não aparece em tabela nenhuma.
• Fale com as pessoas afectadas antes de decidir a solução.
• Deve existir sempre um caminho sem o sistema para quem o sistema serve mal.

Verificação formativa

Estas perguntas não contam para a nota final e não são perguntas do exame final. Servem para a pessoa formanda confirmar o que percebeu.

1. O relatório diz que o sistema «acerta em 78 por cento». Usando os números da tabela, mostre com uma conta porque é que isso não descreve o que acontece no grupo B.
2. Uma colega conclui da tabela: «está provado que o sistema discrimina as pessoas da zona rural». O que corrige, e o que propõe fazer a seguir?

Respostas comentadas da verificação formativa

As respostas abaixo pertencem às perguntas de verificação formativa desta lição. Não são perguntas nem respostas do exame final e não têm efeito na nota. Tente responder primeiro e só depois compare.

Pergunta 1. O relatório diz que o sistema «acerta em 78 por cento». Usando os números da tabela, mostre com uma conta porque é que isso não descreve o que acontece no grupo B.

Resposta: A taxa global é 468 dividido por 600, igual a 0,78. Mas no grupo B o sistema deixa passar 30 dos 60 pedidos realmente incompletos: 30 dividido por 60 é 0,50, ou seja metade. No grupo A deixa passar 15 em 60, isto é 25 por cento. O número global é puxado pelo grupo A, que tem metade de todos os pedidos e os melhores resultados.

Comentário: A média ponderada resume o conjunto todo, mas quando um grupo pesa muito no total aproxima-se sobretudo desse grupo e pode ocultar diferenças importantes nos restantes. Por isso a leitura por grupo, com denominadores à vista, é o mínimo antes de qualquer juízo sobre o sistema.

Pergunta 2. Uma colega conclui da tabela: «está provado que o sistema discrimina as pessoas da zona rural». O que corrige, e o que propõe fazer a seguir?

Resposta: Corrijo duas coisas. Primeira: a tabela mostra uma diferença de desempenho entre grupos de submissão, e uma diferença é um sinal, não uma prova de causa — pode haver, por exemplo, diferença de complexidade dos pedidos que explique parte do resultado. Segunda: discriminação é uma qualificação jurídica, com critérios próprios, e não se estabelece a partir de uma tabela numa sala de formação. Proponho investigar: comparar a complexidade dos pedidos entre grupos, ver que campos pesam na decisão, procurar quem desistiu de submeter, e ouvir as pessoas afectadas e as organizações que as representam. E, entretanto, manter revisão humana obrigatória nos casos do grupo B e garantir a alternativa presencial.

Comentário: Rigor não é indiferença. Dizer que não está provado não é dizer que está tudo bem: o sinal é forte e obriga a agir de imediato na protecção, enquanto se investiga a causa.

Referências consultadas

• OECD AI Principles — definição de sistema de inteligência artificial — https://oecd.ai/en/ai-principles (consultado em 21 de Setembro de 2026).
• NIST AI Risk Management Framework — quadro voluntário de gestão de risco — https://www.nist.gov/itl/ai-risk-management-framework (consultado em 21 de Setembro de 2026).
• UNESCO — Recommendation on the Ethics of Artificial Intelligence — https://www.unesco.org/en/artificial-intelligence/recommendation-ethics (consultado em 22 de Setembro de 2026).
  Síntese da equipa: A UNESCO publica uma Recomendação sobre a Ética da Inteligência Artificial, adoptada pelos Estados membros. Uma recomendação deste tipo é um instrumento normativo de referência: exprime compromissos assumidos entre Estados e orienta políticas públicas, mas não é, por si, lei nacional em país nenhum. Só passa a obrigar na medida em que cada país a transponha para o seu direito. O texto organiza-se em valores e princípios — respeito pelos direitos humanos e pela dignidade, proporcionalidade e não causar dano, equidade e não discriminação, transparência e explicabilidade, responsabilidade e prestação de contas, supervisão humana, sustentabilidade ambiental, privacidade e protecção de dados — e acrescenta áreas de acção prática, como avaliação de impacto ético, governação, política de dados, educação, género, cultura e ambiente. Para um serviço público moçambicano interessa sobretudo como lista de verificação: antes de adoptar um sistema, perguntar quem pode ser prejudicado, que dados são usados, quem responde pela decisão e como é que a pessoa afectada reclama.
• União Africana — Continental Artificial Intelligence Strategy — https://au.int/en/documents/20240809/continental-artificial-intelligence-strategy (consultado em 22 de Setembro de 2026).
  Síntese da equipa: A União Africana disponibiliza uma Estratégia Continental para a Inteligência Artificial. Uma estratégia é documento de orientação política: define prioridades e propõe caminhos. Não é lei, mas não se diga que uma estratégia nunca obriga: o efeito depende do acto que a aprova, e uma estratégia adoptada por um governo pode vincular administrativamente os serviços que dela dependem. Esta orienta os Estados e não cria, por si, obrigações directas para um serviço distrital moçambicano. O documento aborda o aproveitamento da inteligência artificial para o desenvolvimento do continente, a criação de capacidades — pessoas, dados e infra-estrutura —, os riscos e a governação, e a cooperação entre Estados africanos, incluindo a preocupação de que África participe na definição das regras internacionais. Para uma direcção distrital, o valor prático está em situar decisões locais num quadro continental: ao escolher uma ferramenta, perguntar onde ficam os dados, que dependência se cria face a um fornecedor estrangeiro e se há alternativa que desenvolva competências internas. Não se deve citar esta estratégia como se fosse legislação nem como aprovação de qualquer solução concreta.