O embaixador de IA do Google caminha na linha tênue entre o hype e a desgraça

Jun 22, 2024

MOUNTAIN VIEW, Califórnia – Em meio ao entusiasmo sobre inteligência artificial na conferência anual de desenvolvedores do Google em maio, coube a James Manyika, o novo chefe de “tecnologia e sociedade” da empresa, falar sobre as desvantagens da IA.

Diante de milhares de pessoas aglomeradas em uma arena ao ar livre, Manyika discutiu o flagelo das imagens falsas e como a IA ecoa o racismo e o sexismo da sociedade. Novos problemas surgirão, alertou ele, à medida que a tecnologia melhorar.

Mas tenham certeza de que o Google está adotando “uma abordagem responsável em relação à IA”, disse ele à multidão. As palavras “corajoso e responsável” apareceram em uma tela enorme, tornando Manyika menor enquanto ele falava.

A frase se tornou o lema do Google para a era da IA, uma espécie de substituto para “não seja mau”, o mantra que a empresa removeu do preâmbulo de seu código de conduta em 2018. A frase resume a mensagem geral do Vale do Silício sobre IA , à medida que muitos dos líderes mais influentes da indústria tecnológica se apressam a desenvolver versões cada vez mais poderosas da tecnologia, ao mesmo tempo que alertam para os seus perigos e apelam à supervisão e regulamentação governamental.

Manyika, antigo conselheiro tecnológico da administração Obama, nascido no Zimbabué e doutorado em IA em Oxford, abraçou esta dualidade no seu novo papel como embaixador da IA ​​da Google. Ele insiste que a tecnologia trará benefícios surpreendentes para a civilização humana e que o Google é o administrador certo para este futuro brilhante. Mas pouco depois da conferência de programadores, Manyika assinou uma declaração de uma frase, juntamente com centenas de investigadores de IA, alertando que a IA representa um “risco de extinção” equivalente a “pandemias e guerra nuclear”.

A IA é “uma tecnologia incrível, poderosa e transformacional”, disse Manyika em uma entrevista recente. Ao mesmo tempo, ele admitiu, “coisas ruins podem acontecer”.

Os críticos dizem que coisas ruins já estão acontecendo. Desde o seu lançamento em novembro passado, o ChatGPT da OpenAI inventou muitas informações falsas, incluindo um falso escândalo de assédio sexual que nomeou um verdadeiro professor de direito. Versões de código aberto do modelo de difusão estável da Stability AI criaram uma enxurrada de imagens realistas de abuso sexual infantil, minando os esforços para combater crimes no mundo real. Uma versão inicial do Bing da Microsoft tornou-se perturbadoramente sombria e hostil com os usuários. E uma investigação recente do Washington Post descobriu que vários chatbots – incluindo o Bard do Google – recomendavam dietas perigosamente baixas em calorias, cigarros e até tênias como formas de perder peso.

“Os produtos de IA do Google, incluindo o Bard, já estão causando danos. E esse é o problema da ‘ousadia’ em justaposição com o desenvolvimento ‘responsável’ da IA”, disse Tamara Kneese, investigadora sénior e diretora de projetos da Data & Society, uma organização sem fins lucrativos que estuda os efeitos da IA.

“As grandes empresas de tecnologia estão pedindo regulamentação”, disse Kneese. “Mas, ao mesmo tempo, eles enviam produtos rapidamente, com pouca ou nenhuma supervisão.”

Os reguladores de todo o mundo estão agora a lutar para decidir como regular a tecnologia, enquanto investigadores respeitados alertam para os danos a longo prazo, incluindo o facto de a tecnologia poder um dia ultrapassar a inteligência humana. Há uma audiência focada em IA no Capitólio quase todas as semanas.

Se a IA tem problemas de confiança, o Google também tem. A empresa há muito luta para convencer os usuários de que pode proteger a grande quantidade de dados que coleta de seus históricos de pesquisa e caixas de entrada de e-mail. A reputação da empresa é particularmente instável quando se trata de IA: em 2020, demitiu a conhecida pesquisadora de ética em IA Timnit Gebru depois que ela publicou um artigo argumentando que a IA da empresa poderia estar infectada por racismo e sexismo devido aos dados nos quais foi treinada.

Entretanto, o gigante tecnológico está sob uma pressão competitiva significativa: a Google lançou o seu chatbot no início deste ano, numa corrida para recuperar o atraso, depois de o ChatGPT e outros concorrentes já terem capturado a imaginação do público. Rivais como a Microsoft e uma série de start-ups bem financiadas vêem a IA como uma forma de quebrar o domínio do Google sobre a economia da Internet.