Por que priorizar riscos?

Sistemas de IA diferem em complexidade, autonomia, contexto de utilização e potencial de impacto. Por isso, a avaliação de riscos precisa considerar as características específicas de cada sistema.

Nem todo sistema de IA exige o mesmo nível de atenção

01 — COMPREENDER

Riscos relevantes

Direcionar a avaliação para os riscos que demandam maior atenção de acordo com as características e impactos do sistema.

02 — AVALIAR

Características do sistema

Entender como o sistema funciona, como é utilizado e quais características podem aumentar a complexidade de sua governança.

03 — PRIORIZAR

Impactos potenciais

Analisar como o sistema e suas decisões podem afetar pessoas, a organização e outras partes interessadas.

O objetivo não é avaliar todos os riscos da mesma forma, mas concentrar os esforços onde eles são mais relevantes.

Como Funciona?

Conhecimento para compreender os riscos. Diagnóstico para direcionar a avaliação.

A abordagem combina capacitação aplicada e análise do sistema de IA, permitindo que os participantes compreendam os conceitos e os utilizem no contexto real da organização.

Capacitação sobre Riscos de IA

4 horas | In Company

Capacitação aplicada para compreender como os riscos podem surgir nos sistemas de IA, seus potenciais impactos e como estruturá-los para avaliação e tratamento.

Principais temas

Riscos de sistemas de IA
Causas, eventos e impactos
Características e contexto do sistema
Avaliação e priorização de riscos
Governança e tratamento

Aplicação do Diagnóstico

Aplicado a um sistema de IA da organização

Análise estruturada das características e do contexto do sistema para identificar e priorizar os riscos que precisam ser considerados em sua avaliação.

Resultado

Uma visão estruturada dos riscos relevantes para orientar as próximas etapas de avaliação, tratamento e governança.

Equipe capacitada para aplicar o Diagnóstico nos demais Sistemas de IA da organização.

O que o Diagnóstico considera

Uma avaliação orientada pelas características e pelo impacto do sistema

O diagnóstico considera fatores que ajudam a determinar quais riscos devem receber maior atenção na avaliação do sistema de IA.

Complexidade de Governança

Considera características da solução de IA que podem ampliar as necessidades de governança, controle e supervisão

Impacto Algorítmico

Considera o contexto de utilização e o potencial de impacto do sistema sobre pessoas, organização e demais partes interessadas

Criticidade dos Riscos

Considera a relevância dos diferentes riscos de acordo com as características e o contexto do sistema avaliado.

CARACTERÍSTICAS DO SISTEMA + IMPACTO + CRITICIDADE → PRIORIDADE PARA AVALIAÇÃO

O que a organização obtém

Do diagnóstico ao direcionamento da avaliação

VISÃO ESTRUTURADA DOS RISCOS

Identificação dos riscos relevantes associados ao sistema analisado.

PRIORIZAÇÃO

Indicação de quais riscos demandam maior atenção e aprofundamento na avaliação.

FUNDAMENTAÇÃO

Registro dos fatores considerados para orientar a priorização dos riscos.

DIRECIONAMENTO

Base para apoiar as etapas seguintes de avaliação, tratamento e governança dos riscos.

Quando essa abordagem faz sentido

Quando realizar um Diagnóstico de Riscos de Sistemas de IA?

Esta abordagem é especialmente relevante quando a organização:

Precisa iniciar a avaliação de riscos de um sistema de IA
e não sabe quais riscos devem receber maior atenção.

Possui diferentes tipos de sistemas de IA
e precisa adotar uma abordagem proporcional às características e impactos de cada solução.

Está estruturando ou fortalecendo a Governança de IA
e precisa incorporar critérios para identificação e priorização de riscos.

Precisa direcionar seus esforços de avaliação
para os riscos mais relevantes de cada sistema.

Qual é o nível de atenção que os seus sistemas de IA exigem?

O diagnóstico ajuda a transformar as características e os impactos de cada sistema em um direcionamento estruturado para a avaliação de riscos.