23/01/2024 / Tecnologia

[ARTIGO] IA Desgovernada

A seção sobre "Ungoverned AI" no documento "Eurasia Group 2024 Top Risks" aborda os desafios emergentes no campo da Inteligência Artificial (IA). Ela discute como os avanços rápidos em IA estão superando os esforços de governança, com modelos e ferramentas de IA se espalhando além do controle governamental. Aspectos críticos incluem: 1. Política: Conflitos políticos e institucionais limitam a ambição das estruturas de governança, resultando em abordagens fragmentadas para testar modelos de IA e gerenciar IA de código aberto versus fechado. 2. Inércia Governamental: A atenção governamental é limitada, e a urgência na governança da IA pode diminuir, especialmente quando implica em difíceis compensações políticas. 3. Ausência de participação: Os principais stakeholders da IA têm cooperado em padrões de governança, mas o avanço tecnológico e os benefícios percebidos podem incentivar a quebra desses acordos. 4. Velocidade Tecnológica: A IA está avançando rapidamente, com capacidades dobrando aproximadamente a cada seis meses, superando esforços de contenção em tempo real. A seção também destaca dois riscos principais para 2024: desinformação e proliferação. A IA geradora de desinformação pode influenciar eleições e agravar conflitos geopolíticos. Além disso, a proliferação da IA permitirá que novos atores geopolíticos desenvolvam capacidades avançadas, aumentando riscos de acidentes e abrindo oportunidades econômicas. A falta de governança eficaz da IA é comparada com a paisagem de mídia social largamente desregulada, mas com um potencial ainda maior de dano. Em outro artigo que escrevi, destaquei que o papel do CISO e do DPO na era da IA é mais crítico do que nunca, demandando uma abordagem que contemple segurança de dados, privacidade, conformidade regulatória e governança ética. À medida que a IA continua a se integrar nos processos de negócios, a necessidade de governança eficaz e monitoramento proativo se torna imperativa para garantir que as empresas não apenas cumpram a legislação, mas também promovam a confiança e a responsabilidade no uso da tecnologia. A AuditSafe pode ajudar as empresas que não fizeram nada em relação à IA e pode prover treinamentos de como melhor usar a IA com baixo risco. Para as empresas já iniciadas, pode prover um diagnóstico de como melhor utilizar as oportunidades com foco nos riscos, se mantendo eficaz e controlado (em relação aos riscos). E para as empresas que já estão maduras no uso da IA, validar os estudos dos riscos envolvidos. Vamos falar mais a respeito? Fernando Ferreira

Notícias relacionadas

25/09/2023

O que sua empresa precisa em relação à segurança cibernética?

26/09/2023

Segurança Cibernética para Crianças

A primeira parte deste guia foi criado com o objetivo de ajudar pais e filhos a navegar pelo vasto...

02/10/2023

ChatGPT Exposed: Protegendo sua organização contra o lado sombrio da IA

Por Fernando Ferreira*Com o avanço da Inteligência Artificial (IA) e o surgimento de modelos generat...

Copyright 2005 - 2023 AuditSafe - All Rights Reserved