# Human Oversight Ai
**Source:** https://pt-pt.airisks.net/human-oversight-ai
**Language:** Portuguese (Portugal)

---

A supervisão humana da IA é a capacidade de pessoas com a devida autoridade e conhecimento compreenderem, monitorizarem e intervirem uso de um sistema de IA. Uma supervisão eficaz dá ao humauma oportunidade significativa de questionar ou alterar um resultado, em vez de lhe pedir que aprove uma decisão que não consegue avaliar.

Duas descrições comuns são human-in-the-loop e human-on-the-loop. Numa disposição human-in-the-loop, o sistema faz uma pausa para obter a opinião ou aprovação humana antes de ser tomada uma ação definida. Numa disposição human-on-the-loop, o sistema atua dentro de limites estabelecidos enquanto uma pessoa monitoriza o seu funcionamento e pode intervir. Nenhuma das etiquetas garante uma boa supervisão: os detalhes da autoridade, temporização, informação e carga de trabalho determinam se uma pessoa consegue fazer a diferença.

## Tornar a intervenção prática

As pessoas precisam de saber para que serve o sistema, o que este não consegue fazer de forma fiável, que casos necessitam de atenção e que evidências fundamentam um resultado. Precisam de tempo suficiente para rever essa informação e de uma forma de contestar ou anular o sistema. Se a interface ocultar a incerteza, a fila for demasiado longa ou a gestão premiar apenas a velocidade, um passo de aprovação nominal pode transformar-se numa mera formalidade.

O design da supervisão deve corresponder ao impacto e à reversibilidade da ação. Uma sugestão de baixo impacto pode ser verificada através de regras de amostragem e de escalamento. Uma decisão que possa negar uma oportunidade a uma pessoa ou afetar a segurança pode exigir uma revisão individual, fundamentos que possam ser examinados e uma via para reconsiderar o resultado. A organização deve testar se esses controlos funcionam sob pressão temporal realista e quando o sistema falha.

## O humadesignado

Todos os sistemas de IA implementados devem ter um responsável humanomeado. O responsável é prestável contas pelo seu propósito e funcionamento aprovados, sabe que equipas realizam testes e monitorização, e tem autoridade para solicitar uma revisão ou suspender a sua utilização. Esta função não pode ser atribuída vagamente a uma comissão. As comissões podem definir políticas e contestar evidências, mas uma pessoa específica precisa de ser proprietária de cada sistema e agir quando um limite é ultrapassado.

Esse responsável deve ser apoiado por especialistas técnicos, equipas jurídicas e de risco, utilizadores da linha da frente e pessoas afetadas, quando aplicável. As responsabilidades devem ser documentadas ao longo do ciclo de vida: quem aprova a implementação, quem monitoriza o desempenho, quem lida com incidentes e quem decide se o sistema pode ser retomado após uma pausa. O responsável também precisa de um suplente nomeado ou de um plade continuidade para caso de ausência.

A supervisão humana não substitui um design fiável ou limites adequados. As pessoas podem cometer erros, tornar-se excessivamente dependentes da automatização ou carecer do contexto necessário para reconhecer um erro. Uma boa governação combina o julgamento humacom testes de sistemas, limites claros, registos, vias de escalotamento e autoridade para intervir. O objetivo é tornar a responsabilidade real e manter as decisões contestáveis quando as consequências são importantes.

## Termos relacionados

- Governação de IA
- Risco de IA agentiva
- Apetite ao risco de IA

Aprofundar: Framework EW-AiRM™