O que é risco de IA e como gerenciá-lo

Os aplicativos de Inteligência Artificial (IA) tornaram-se populares hoje, desde o ChatGPT para uso público até os mais específicos, como os de saúde ou finanças. As organizações que usam esses aplicativos de IA têm a responsabilidade de garantir que esses modelos de IA sejam explicáveis, responsáveis, confiáveis ​​e livres de tendências prejudiciais. A adoção da IA ​​aumentou e, portanto, tem seu potencial de ter enormes implicações na sociedade – tanto positivas quanto negativas. Assim, torna-se imperativo que existam processos, ferramentas e práticas para gerenciar os riscos da IA ​​para evitar quaisquer efeitos adversos decorrentes de seu uso.

O Instituto Nacional de Padrões e Tecnologia (NIST) nos EUA publicou recentemente uma estrutura para AI Risk Management, chamada AI RMF — Artificial Intelligence Risk Management Framework. O risco surge ao longo do ciclo de vida da IA ​​e, usando a estrutura, várias partes interessadas no processo, como cientistas de dados, desenvolvedor de modelo, validador de modelo e até mesmo os executivos C-suite, influenciam como esse risco pode ser gerenciado.

O que é risco de IA e confiabilidade de IA?

O AI RMF descreve algumas características de um sistema de IA confiável:

• válido e confiável — quão preciso e robusto é o sistema de IA
• seguro - coloca em risco a vida humana ou o meio ambiente
• seguro e resiliente - pode resistir a eventos adversos
• responsável e transparente - fornece informações sobre o sistema de IA e suas saídas, como dados de treinamento, estrutura do modelo, informações sobre decisões tomadas durante e após a implantação etc.
• explicável e interpretável - pode fornecer informações sobre como e por que uma decisão foi tomada pelo modelo ou sistema de IA
• privacidade aprimorada - fornece normas e práticas para ajudar a proteger a autonomia, a identidade e a dignidade humanas
• justo com viés prejudicial gerenciado - pode identificar viés sistemático, computacional ou estatístico e humano-cognitivo e fornecer maneiras de abordar questões de igualdade e equidade

Como gerenciar o risco de IA?

O AI RMF Core fala sobre quatro funções que fornecem orientação às organizações para gerenciar riscos de IA e desenvolver sistemas de IA confiáveis ​​e responsáveis. As 4 funções do AI RMF Core são:

• Governar : fornece orientação sobre a estrutura, processo e outras atividades para antecipar, identificar e gerenciar riscos
• Mapa : aprimora a capacidade da organização de identificar riscos para tomar decisões informadas sobre prosseguir com o design, desenvolvimento ou implantação do sistema de IA ou não
• Medida : os sistemas de IA devem ser testados antes da implantação, bem como durante a produção. Isso inclui métricas de monitoramento de confiabilidade e outras medidas aplicáveis
• Gerenciar : as organizações podem gerenciar riscos de IA com planos de tratamento de riscos para responder, mitigar e comunicar incidentes

A gestão de riscos de IA e as práticas de governança dependem amplamente da organização, incluindo as partes interessadas. O IBM AI Governance ajuda a configurar os processos para abordar e implementar várias atividades de gerenciamento de risco. Usando o IBM AI Governance, as organizações podem:

• garanta a governança de risco do modelo configurando fluxos de trabalho para todo o ciclo de vida da IA
• realizar avaliação de risco para mapear e identificar riscos para o sistema de IA
• rastreie e monitore várias métricas e metadados do modelo para medir suas características confiáveis, como imparcialidade, explicabilidade, qualidade do modelo e variação do modelo. Capture metadados automaticamente e gere documentos informativos para maior responsabilidade e transparência em todo o ciclo de vida da IA.
• gerencie os riscos e incidentes que surgem recebendo alertas e tomando as ações apropriadas para remediar problemas no sistema de IA

Conteúdo do AI RMF do NIST proveniente do AI RMF Playbook do National Institute of Standards and Technology

#AIGovernance #responsibleAI #explainableAI #trustworthyAI #AIRisk #IBM #IBMWatson