As empresas de contabilidade do Big Four estão correndo para criar um novo tipo de auditoria que verifica a eficácia das ferramentas de IA (inteligência artificial), buscando lucrar com a demanda dos clientes por provas de que seus sistemas de IA funcionam e são seguros.
Deloitte, EY e PwC informaram ao Financial Times que estão se preparando para lançar serviços de garantia de IA, esperando usar a reputação adquirida em auditorias financeiras para conquistar trabalhos que avaliem se sistemas de IA, como os de carros autônomos e programas de detecção de câncer, funcionam conforme o esperado.
As auditorias abririam uma fonte de receita para os auditores, semelhante a quando as empresas lucraram com a tendência das companhias de buscar garantias para suas métricas ambientais, sociais e de governança. A iniciativa surge enquanto algumas seguradoras começaram a oferecer cobertura para perdas causadas por mau funcionamento de ferramentas de IA, como chatbots de atendimento ao cliente.
As empresas de auditoria esperam que a demanda pelos novos serviços de garantia de IA seja impulsionada pela necessidade de maior confiança na tecnologia e pelo desejo das empresas de confirmar que estão cumprindo as regulamentações.
A garantia de IA era “crítica” para a adoção da IA, disse Richard Tedder, sócio de auditoria da Deloitte.
“[As empresas] vão querer garantias sobre a IA que usam para gerenciar outras funções críticas”, disse ele. “Os consumidores individuais também vão querer garantias… se começarem a usar serviços de IA para gerenciar partes críticas de suas vidas, como saúde ou finanças”.
A PwC UK lançará a garantia de IA “em breve”, disse Marc Bena, diretor de tecnologia para auditoria. A empresa já realiza trabalhos avaliando “ferramentas específicas de clientes, como verificar se chatbots estão respondendo perguntas com precisão e identificando problemas como viés”, acrescentou.
O Instituto de Contadores Certificados da Inglaterra e País de Gales, uma entidade profissional, realizou no mês passado sua primeira conferência sobre o tema, enquanto as grandes empresas de contabilidade tentam moldar o campo emergente e evitar perder espaço para startups ágeis.
Mas Pragasen Morgan, líder de risco tecnológico da EY no Reino Unido, alertou que desenvolver sistemas de garantia de IA pode levar tempo, particularmente devido às grandes responsabilidades potenciais para as empresas de auditoria se um produto de IA garantido não funcionar como esperado.
“Ainda estamos bastante longe de poder dizer que estamos inequivocamente dando garantia de um modelo de IA”, disse ele, observando que, como os modelos continuam a ingerir dados e se desenvolver ao longo do tempo, eles nem sempre reagirão da mesma maneira em um determinado cenário.
“Então, dar garantia completa sobre isso não é algo que eu acho que estaríamos prontos para fazer, e nem qualquer outra empresa do Big Four… ainda”, disse Morgan.
Centenas de empresas no Reino Unido já fornecem formas de garantia de IA, segundo pesquisas governamentais. Mas esse fornecimento de garantia de IA é principalmente realizado pelos próprios desenvolvedores de IA, levantando preocupações sobre independência.
Diferentemente das auditorias de demonstrações financeiras, há falta de padronização no incipiente mercado de garantia de IA, o que significa que o nível de verificação fornecido varia significativamente. Algumas “garantias” podem ser conselhos superficiais ou limitados a verificar se a IA está em conformidade com uma legislação específica.
Pesquisas do Departamento de Ciência, Inovação e Tecnologia do Reino Unido descobriram que a demanda por garantia de IA era maior em setores como serviços financeiros, ciências da vida e empresas farmacêuticas.
