Na semana passada, a Vivo anunciou a implantação de inteligência artificial (IA) generativa no suporte de suas operações de call center. O uso do denominado I.Ajuda desenvolvido em colaboração com a Microsoft chamou a atenção do conselheiro da Agência Nacional de Telecomunicações (Anatel), Alexandre Freire, que solicitou informações detalhadas sobre o algoritmo de IA implantado pela operadora.
O conselheiro quer saber detalhes sobre o emprego da tecnologia que já está sendo utilizada por cerca de 11 mil atendentes. De acordo com a Vivo, o I.Ajuda funciona como um “copiloto” para dúvidas e consultas durante o atendimento ao cliente. A empresa deve fornecer as informações no prazo de 15 dias.
“A transparência algorítmica, que é uma projeção da matriz de transparência que os fornecedores devem desenvolver junto com os seus consumidores, é um princípio fundamental no uso de tecnologias de inteligência artificial, especialmente em setores sensíveis como o atendimento ao consumidor”, apontou Freire em seu pedido de explicação.
Em sua resposta, a Vivo deve incluir várias questões técnicas, de segurança e até regulatórias sobre o uso da IA generativa, como impactos no atendimento ao consumidor, medidas de transparência, segurança e proteção de dados empregadas, além de possíveis impactos regulatórios.
“A transparência algorítmica é um ponto crucial, especialmente para garantir que as decisões tomadas pela IA sejam compreensíveis e justas para os consumidores”, afirma Alexandre Freire.
O ofício especifica uma série de informações que a Anatel considera fundamentais para avaliar o impacto da solução I.Ajuda. Entre elas estão detalhes técnicos do algoritmo, incluindo uma descrição pormenorizada de suas funcionalidades e dos processos de machine learning aplicados, além de informações sobre as fontes de dados usadas no treinamento do algoritmo e os mecanismos de atualização e aprendizado contínuo.
São solicitados também as medidas adotadas pela Vivo para assegurar a transparência do algoritmo, incluindo como a empresa garante que as decisões tomadas pela IA são compreensíveis e auditáveis e descrição da interface utilizada pelos agentes de atendimento
Em relação à segurança e conformidade, a Anatel quer detalhes sobre as camadas de proteção e segurança implementadas, especialmente no contexto do Microsoft Azure OpenAI Service, além de garantias de que as informações dos clientes são processadas e armazenadas conforme os padrões de privacidade e segurança estabelecidos.
“Essas informações são essenciais para garantir que os direitos dos consumidores sejam protegidos e que o impacto da solução I.Ajuda no mercado de telecomunicações seja devidamente avaliado”, pontuou o conselheiro.
As informações fornecidas pela Vivo serão compartilhadas e analisadas pelo Grupo de Pesquisa em Inteligência Artificial (IA.lab), instituído no âmbito do Centro de Altos Estudos em Comunicações Digitais e Inovações Tecnológicas (Ceadi) da Anatel.
