O que é necessário para tornar a IA segura e eficaz

Você está preparado para uma Declaração de Direitos de IA? O recente projeto dos Estados Unidos (EUA) visa proteger a sociedade da IA nociva, com o objetivo de lembrar a todos os desenvolvedores e usuários de modelos de IA que eles precisam incluir medidas de segurança em seus modelos e estratégias de IA. É necessária uma abordagem rigorosa ao AI TRiSM. 

Gartner define AI TRiSM como uma diretriz que dá suporte à governança, confiabilidade, imparcialidade, segurança, solidez, eficácia e privacidade ao modelo de IA. Essa diretriz inclui soluções, técnicas e processos destinados a clientes e empresas para a interpretação e explicabilidade de modelos, privacidade, operações de modelos e resistência a ataques adversariais.

Baixe o e-book: Seu guia detalhado para as 10 principais tendências estratégicas de tecnologia do Gartner para 2023

“Líderes de TI precisam dedicar tempo e recursos ao suporte de AI TRiSM. Os líderes que cumprirem essa tarefa alcançarão resultados de IA aprimorados em relação a adoção, metas de negócios e aceitação de usuários internos e externos”, afirma Avivah Litan, destacada Vice-Presidente Analista da Gartner. “As ameaças e interferências da IA (prejudiciais ou benignas) ocorrem continuamente e estão em constante evolução, portanto AI TRiSM deve ser um projeto contínuo, não um exercício pontual.”

Em 2026, Gartner espera que as organizações que operacionalizem transparência, confiança e segurança de IA verão seus modelos alcançarem uma melhora de 50% no resultado em relação à adoção, metas de negócios e aceitação do usuário. Gartner também prevê que até 2028, as máquinas baseadas em IA serão responsáveis por 20% da força de trabalho global e 40% de toda a produtividade econômica.

Porém, de acordo com os resultados da pesquisa realizada pela Gartner, organizações também implementaram centenas ou milhares de modelos de IA que os líderes de TI não são capazes de explicar ou interpretar. 

As organizações que não gerenciam os riscos associados à IA estão muito mais propensas a obter resultados negativos e violações de IA. Os modelos de IA não funcionarão como planejando, ocorrendo falhas de segurança e privacidade, perdas financeiras e de reputação, e danos aos indivíduos. A IA que é executada indevidamente também pode conduzir organizações a tomarem más decisões de negócios.

Baixe agora: Plano de ação 2021-2023 de tecnologia emergente

As regulamentações de IA estão crescendo. Entretanto, antes de as proteções serem obrigatórias, é importante implementar práticas que garantam confiança, transparência e proteção ao consumidor. Líderes de TI precisam aplicar novos recursos de AI TRiSM para garantir confiabilidade, fidelidade, privacidade e segurança do modelo.

Não espere que os modelos estejam em fase de produção para aplicar AI TRiSM. Essa demora permite que o processo esteja sujeito a eventuais riscos. Líderes de TI devem se familiarizar com diversas soluções de compensação e usar o conjunto de soluções de AI TRiSM para que possam proteger adequadamente a IA.

AI TRiSM requer uma equipe multifuncional trabalhando em conjunto. O que inclui funcionários provenientes de equipes jurídicas, de observância, de segurança, de TI e de análise de dados. Se possível, forme uma equipe dedicada. Caso não seja viável, constitua uma força tarefa para obter os melhores resultados. Garanta a representação comercial adequada para cada projeto de IA.

Baixe a Agenda de CIOs 2023: Quatro maneiras para garantir que os investimentos em tecnologia paguem os dividendos digitais

Alguns benefícios incluem a melhoria dos resultados de negócios que a organização obtém através do uso de IA, e não apenas o cumprimento das regulamentações.

Resumo:

• Recursos de AI TRiSM garantem confiabilidade, fidelidade, segurança e privacidade do modelo.

• Para obter melhores resultados em relação a adoção de IA, metas de negócios alcançadas e aceitação por parte de usuários, as organizações precisam gerenciar a confiança, o risco e a segurança de IA. 

• Considere AI TRiSM como um conjunto de soluções para proteger IA corretamente.

Avivah Litan é uma destacada Vice-Presidente Analista do departamento de Pesquisa do Gartner e membro da equipe de IA para Líderes de TI que abrange IA e Blockchain. Ela é especialista em todos os aspectos de inovação de Blockchain, assim como o gerenciamento de segurança, risco e confiança de IA. Avivah tem uma sólida formação em muitos aspectos de segurança cibernética e fraude, incluindo a integração de IA com esses domínios.