Um Sistema de IA pode estar associado a dezenas de riscos.

Sistemas de IA diferem em complexidade, autonomia, contexto de utilização e potencial de impacto. Por isso, a avaliação de riscos precisa considerar as características específicas de cada sistema.

Mas todos precisam ser avaliados?

QUAIS RISCOS AVALIAR?

Quais profissionais precisam participar da avaliação?

QUANDO AVALIAR?

Quais riscos demandam avaliação naquele Sistema de IA?

QUEM DEVE AVALIAR?

Em qual etapa do ciclo de vida essa avaliação deve acontecer?

A gestão não termina quando o Sistema de IA entra em produção.

Identificar → Planejar → Avaliar → Tratar → Monitorar → Reavaliar

E DEPOIS?

Como tratar, monitorar e reavaliar os riscos conforme o Sistema de IA evolui?

Identificação dos Riscos Revelantes

Antes de avaliar os riscos, é preciso saber quais riscos merecem ser avaliados.

Um dos componentes centrais do OpGov AI® é o: MAPA DE RELEVÂNCIA DOS RISCOS PARA AVALIAÇÃO

NRA — Nível de Relevância para Avaliação

O NRA não representa a probabilidade de ocorrêncianem a criticidade do risco. Ele indica a relevância de realizar sua avaliação naquele Sistema IA.

MANDATÓRIO | IMPORTANTE | RECOMENDÁVEL | OPCIONAL

O Mapa permite orientar:

Risco → qual risco considerar para avaliação
Relevância → qual seu NRA
Etapa → em que momento do ciclo de vida avaliá-lo
Responsável → qual perfil profissional é recomendado para realizar a avaliação

Essas informações orientam a elaboração do Plano de Avaliação de Riscos e Impactos do SIA.

A partir das características e do contexto de utilização de cada Sistema de IA, o método identifica quais riscos apresentam maior propensão à necessidade de avaliação e determina seu:

Do Sistema de IA ao Mapa de Relevância dos Riscos para Avaliação

Como transformamos as características e o contexto de um Sistema de IA em orientação para avaliação?

SISTEMA DE IA + CONTEXTO

↓

AIA
Avaliação de Impacto Algorítmico

+

FCG
Fator de Complexidade de Governança

+

ICAR
Índice de Criticidade da Área de Riscos

↓

IDENTIFICAÇÃO DOS RISCOS

↓

NRA
Nível de Relevância para Avaliação

↓

ETAPA DO CICLO DE VIDA + RESPONSÁVEL RECOMENDADO

↓

MAPA DE RELEVÂNCIA DOS RISCOS PARA AVALIAÇÃO

↓

PLANO DE AVALIAÇÃO DE RISCOS E IMPACTOS

Método de Implantação

Uma abordagem adaptada à realidade da sua organização

A Gestão do Ciclo de Riscos e Impactos de IA pode ser implantada integralmente ou a partir de uma necessidade prioritária.

A implantação começa entendendo o que a organização precisa alcançar e o que já possui.

1 - DEFINIR

2 - DIAGNOSTICAR

3 - ESTRUTURAR

4 - IMPLANTAR E EVOLUIR

Construção da Capacidade

Os componentes priorizados são desenvolvidos e incorporados progressivamente à operação.

Resultado: capacidade organizacional implantada e preparada para evoluir com a utilização da IA.

Objetivo e Escopo

Qual capacidade precisa ser implantada?

Ciclo completo? Um processo específico? O Mapa de Relevância? Novos Sistemas de IAs? Soluções de terceiros? Sistemas existentes no inventário?

Resultado: objetivo, escopo e resultados esperados da implantação.

Capacidades Existentes e Gaps

O que a organização já possui?

Analisamos métodos, processos, catálogos, critérios, ferramentas, responsabilidades e mecanismos existentes.

Resultado: identificação do que pode ser mantido, adaptado, integrado ou precisa ser estruturado.

Prioridades e Roadmap

O que precisa ser implantado, em qual sequência e com quais dependências?

Resultado: prioridades e Roadmap de Implantação.

A organização não precisa implantar tudo de uma vez.

A implantação pode começar pela capacidade prioritária e evoluir progressivamente.

Implantação Orientada à Construção de Capacidade

Uma implantação Direcionada, Proporcional, Colaborativa e com Geração Contínua de Valor

Base Metodológica

Uma Base Metodológica Comum sustenta a implantação

FUNDAMENTOS

Gestão de Riscos e Impactos de IA
Tipologia e Áreas de Riscos
Riscos ao longo do Ciclo de Vida
Papéis, competências e responsabilidades

COMPONENTES DO OpGov AI® que são aplicados e fornecidos e que podem ser adotados completamente ou adaptados pela Organização

Catálogo de Riscos de IA

AIA — Avaliação de Impacto Algorítmico

FCG — Fator de Complexidade de Governança

ICAR — Índice de Criticidade da Área de Riscos

NRA — Nível de Relevância para Avaliação

Matriz de Avaliação dos Riscos no Ciclo de Vida

Mapa de Relevância dos Riscos para Avaliação

KAQs — Key Assurance Questions

Registros de Decisão, Avaliação e Tratamento

Micro-OKRs para mitigação e rastreabilidade

Referências

ISO/IEC 42001:2023 | ISO 31000:2018 | ISO/IEC 23894:2023 | NIST AI RMF | OECD AI Principles | Alan Turing Institute

Importante: os componentes são configurados e integrados conforme o contexto e as capacidades existentes. O objetivo não é substituir estruturas organizacionais que já funcionam.

Independentemente do ponto de entrada, a implantação utiliza uma base comum de conceitos, critérios e componentes para estruturar a Gestão de Riscos e Impactos de IA.

Modelos de Implantação

O Resultado

Mais do que artefatos, capacidade organizacional

RESULTADOS

CAPACIDADES

Mas esses artefatos não são o resultado final.

Eles devem permitir que a organização desenvolva:

Métodos compreendidos

Responsabilidades definidas

Competências desenvolvidas

Decisões estruturadas e rastreáveis

Aplicação prática

Monitoramento incorporado à operação

Capacidade de evolução

A Implantação pode resultar em:

Processos / Critérios / Mapas / Planos / Matrizes / Registros / Indicadores

O resultado é a capacidade da organização de tomar e executar decisões sobre riscos e impactos de seus Sistemas de IA.

Para quem se destina?

Esta abordagem é especialmente relevante para organizações que se enquadram em uma ou mais condições a seguir:

Gestão do Ciclo de Riscos e Impactos de IA

Por onde sua organização precisa começar?

O primeiro passo é entender o que precisa ser alcançado, qual deve ser o escopo e quais capacidades já existem.

A partir daí, estruturamos o caminho juntos.

• já utilizam ou estão ampliando o uso de Sistemas de IA;

• Estão estruturando sua Governança de IA;

• Precisam estabelecer ou fortalecer a Gestão de Riscos e Impactos de IA;

• Possuem Sistemas de IA no inventário que precisam ser regularizados;

• Estão implementando ou evoluindo um Sistema de Gestão de IA;

• Precisam integrar riscos de IA aos processos corporativos existentes;

• Buscam uma abordagem estruturada para acompanhar os riscos durante todo o ciclo de vida.

• Estão preocupadas com o desenvolvimento e uso da IA de forma Responsável e Confiável.