A Carta de empresários contra a AI – Inteligência Artificial, conta com a participação de dois brasileiros. Elionai Moura Cordeiro, estudante de doutorado em Bioinformática na UFRN (Universidade Federal do Rio Grande do Norte) e o diretor de marketing digital Raoni Kirschner Sava.
Na última semana o Future of Life Institute, organização sem fins lucrativos criada em 2014, teve a iniciativa de fazer um pedido público que solicitava a pausa no avanço dos estudos da IA por seis meses. Diversos nomes da tecnologia assinaram o documento, sendo o mais famoso Elon Musk.
Os brasileiros acreditam que é preciso ponderar muitos pontos sobre a IA
Elionai Moura Cordeiro, além de estudante de doutorado em Bioinformática na UFRN é e CEO da Plus3D.app, startup que utiliza a inteligência artificial para o desenvolvimento de biofármacos.
Ele é um dos signatários de uma carta pública que destaca a necessidade de estabelecer mecanismos legais e tecnológicos para auditar e minimizar possíveis impactos negativos da inteligência artificial. Segundo ele, é essencial identificar os responsáveis em cada etapa da cadeia de aplicação da IA, prever impactos sociais e remediar ou minimizar esses impactos.
Cordeiro ilustra a importância dessa abordagem com o exemplo de um acidente de trânsito envolvendo um carro autônomo. Ele questiona sobre a quem cabe a culpa: à empresa que desenvolveu o sistema de navegação, ao usuário do serviço ou à empresa que oferece serviços de aluguel de veículos automatizados? Sem uma legislação adequada, fica difícil determinar a responsabilidade pelos incidentes envolvendo inteligência artificial.
“Vamos pensar num cenário real: é fácil falar sobre um acidente de trânsito com carro que dirige sozinho, mas é preciso analisar a situação mais a fundo. A culpa recai sobre a empresa que desenvolveu o sistema de navegação? Recai sobre o usuário do serviço? Sobre a empresa que presta serviços de aluguel de veículos automatizados? Não existe legislação sobre”
O profissional de marketing digital, Raoni Kirschner Sava, decidiu apoiar a suspensão de pesquisas com inteligência artificial. Segundo ele, é necessário considerar os possíveis impactos socioeconômicos e garantir que o progresso não resulte em desvantagens, como o agravamento das disparidades sociais.
“Temos que ter muita atenção em diversos pontos que ainda são obscuros quando falamos de inteligência artificial. Dentre eles poderia dizer que a perda de postos de trabalho, a dependência excessiva dos usuários, a falta de controle que ameaça a privacidade e um possível viés de discriminação. Isso foi predominante para minha decisão”, diz Sava.
O que diz o documento
A competição entre sistemas de inteligência artificial (IA) e a inteligência humana pode representar sérios riscos para a sociedade e a humanidade. A pressa na corrida pela IA está acirrando a concorrência pelo lançamento rápido de novas tecnologias, sem a necessária articulação e medidas para avaliar seus impactos.
Empresas têm lançado sistemas de IA tão complexos que nem mesmo seus criadores conseguem entender, prever ou controlar com confiabilidade. Além disso, não há um planejamento adequado para lidar com as mudanças que a tecnologia pode causar.
Por esses motivos, o Future of Life Institute propôs uma interrupção pública e verificável dos treinamentos de sistemas de IA mais avançados que o GPT-4 – o mais recente lançamento na categoria – por seis meses. Esse período seria usado para definir protocolos de segurança e modelos de governança para a tecnologia.
O documento enfatiza que essa pausa não afetaria o desenvolvimento geral de IA.
