Uma taxonomia de riscos de IA é uma forma estruturada de agrupar e nomear riscos associados à inteligência artificial. Oferece às pessoas um vocabulário partilhado para identificar, comparar e discutir riscos, ao mesmo tempo que ajuda as organizações a perceberem onde as suas avaliações podem ter lacunas.

Uma taxonomia é um mapa, e não uma avaliação de riscos completa. Uma categoria pode apontar para um tipo de dano ou para uma causa, mas não consegue decidir quão provável é o risco numa utilização específica, qu qual seria a gravidade do seu impacto ou que controlo funcionará. Essas questões dependem do contexto: o propósito do sistema, as pessoas afetadas, o ambiente de implementação, a escala de operação e os controlos já em vigor.

O Repositório de Riscos de IA do MIT

O Repositório de Riscos de IA é mantido pelo MIT FutureTech como uma referência dinâmica de riscos extraídos de estruturas e classificações de IA existentes. A sua base de dados contém mais de 1.700 riscos categorizados. A sua Taxonomia de Domínios agrupa os riscos em sete domínios e 24 subdomínios, enquanto uma taxonomia causal separada ajuda a descrever como, quando e porque é que os riscos surgem. O repositório está licenciado sob a licença Creative Commons Attribution 4.0 (CC BY 4.0), que permite a reutilização com a devida atribuição.

Essa amplitude torna o repositório útil para a descoberta e análise partilhada. As equipas podem utilizá-lo para comparar os seus próprios registos de riscos com um conjunto mais amplo de preocupações publicadas, ou para encontrar terminologia para um problema que, de outro modo, seja descrito de forma inconsistente. Também pode apoiar investigações, auditorias e discussões entre funções técnicas, políticas e organizacionais.

Explorar o Repositório de Riscos de IA do MIT.

Utilizar as categorias de forma responsável

Inventários grandes podem criar uma falsa sensação de exaustão. Um risco pode encaixar-se em várias categorias, e novas utilizações ou combinações de sistemas podem criar exposições que não foram antecipadas quando uma taxonomia foi criada. Uma equipa deve, por isso, registar o cenário concreto por trás de cada item selecionado: o que poderia acontecer, quem ou o que pode ser afetado, e sob que condições.

A partir daí, a organização pode avaliar o impacto e a probabilidade, escolher controlos proporcionados e identificar um responsável. Alguns riscos necessitam de testes técnicos; outros exigem alterações na formação, no design de processos, na revisão humana ou em acordos com fornecedores. Uma taxonomia ajuda a organizar este trabalho, mas não deve substituir o julgamento local ou a monitorização após a implementação.

Para uma empresa, o valor reside em ligar as classificações às decisões. Um registo de riscos que utilize uma taxonomia comum pode apoiar a comunicação entre equipas, mantendo simultaneamente detalhes suficientes para refletir sistemas individuais. Reveja o registo quando o objetivo, o modelo, os dados, o grupo de utilizadores ou o ambiente operacional mudarem, e registe quaisquer novos riscos que as categorias atuais não descrevam adequadamente.