UMA REFERÊNCIA EM LINGUAGEM SIMPLES
Risco de IA, explicado
O risco de IA é a possibilidade de danos, perdas ou resultados não intencionais decorrentes do desenvolvimento, implementação ou utilização de sistemas de inteligência artificial. Inclui riscos para pessoas, organizações e os sistemas dos quais dependem.
Explorar a biblioteca de referênciaUm ponto de partida
Três grandes famílias de risco de IA
Três famílias oferecem um ponto de partida; um evento pode afetar várias camadas ao mesmo tempo.
Risco estratégico
O risco estratégico diz respeito a se uma organização deve utilizar IA, se está preparada e se os benefícios esperados justificam a exposição. Inclui o desalinhamento com objetivos, utilizações inadequadas, responsabilidade fraca e dependências inaceitáveis.
Risco operacional
O risco operacional surge na conceção, aquisição, implementação e utilização de IA. Inclui resultados pouco fiáveis, dados tendenciosos ou incompletos, falhas de privacidade e segurança, utilização indevida, revisão fraca e perturbações. Os controlos devem considerar modelos, pessoas, fornecedores e processos em conjunto.
Risco sistémico e Cisnes Negros da IA
Os riscos sistémicos espalham-se pelas organizações ou pela sociedade através de modelos, infraestruturas, dados ou incentivos partilhados. Alguns riscos de cauda de elevado impacto situam-se fora de uma taxonomia operacional. O planeamento da resiliência questiona como detetar e responder sem pretender prever todos os desconhecidos.
Porque é que o risco da IA difere do risco tecnológico convencional
Espera-se que o software tradicional siga regras escritas com antecedência. Os sistemas de IA produzem resultados a partir de padrões aprendidos, pelo que os resultados podem variar entre contextos e atualizações. O comportamento pode ser difícil de explicar, reproduzir ou testar exaustivamente, especialmente quando os modelos se combinam com dados, pessoas e outros sistemas.
Isto pode tornar o caminho de uma decisão para causar danos mais difícil de rastrear. Um resultado pode moldar uma decisão humana, desencadear uma ação ou passar entre agentes. A análise de risco deve examinar o modelo, o sistema mais amplo, o propósito, as condições operacionais e as pessoas responsáveis. O objetivo é tornar explícitos os pressupostos, a responsabilidade e os planos de resposta.
Biblioteca de referência
Explorar termos de risco de IA
Cada entrada começa com uma definição curta, depois explica como a ideia se aplica na prática.
Perguntas comuns
Risco de IA: respostas rápidas
- O risco de IA é o mesmo que o risco de cibersegurança?
- Não. A cibersegurança é uma parte do risco de IA, e ambos sobrepõem-se, mas o risco de IA também inclui dimensões comportamentais, éticas e sistémicas.
- Quem é responsável pelo risco de IA numa organização?
- Em última análise, o conselho de administração é responsável pela supervisão de risco da organização. Cada sistema de IA implementado deve também ter um responsável humano nomeado com autoridade para o monitorizar e agir quando as condições mudam.
- Qual é a diferença entre a gestão de risco de IA e a governação de IA?
- A governação define a responsabilidade, os direitos de decisão e o apetite ao risco. A gestão de risco é a disciplina operacional que identifica, avalia e trata o risco dentro dessa governação.