Além da Microsoft, a Alphabet enfrenta outro desafio em seus esforços para adicionar inteligência artificial (IA) generativa ao seu popular Google Search: o custo.
Enquanto a empresa tenta deixar para trás um erro em seu chatbot Bard que fez com que seu valor de mercado caísse US$ 100 bilhões, os executivos de Mountain View estão discutindo como operar a IA com seus altos custos.
Segundo o presidente do conselho da Alphabet, John Hennessy, em entrevista à Reuters, a IA terá um custo 10 vezes mais do que uma pesquisa padrão por palavra-chave, embora o Google faça otimizações para reduzir esse custo.
Mesmo com a receita potencial de anúncios de pesquisa baseados em chat, a tecnologia poderia afetar negativamente os rendimentos da Alphabet em bilhões de dólares em custos extras. A receita líquida da empresa foi de quase US$ 60 bilhões em 2022.
A Morgan Stanley estimou que as 3,3 trilhões de consultas de pesquisa do Google no ano passado custaram aproximadamente um quinto de um centavo cada, um número que aumentaria dependendo de quanto texto a IA precisasse gerar.
O Google, por exemplo, poderia enfrentar um aumento de US$ 6 bilhões em despesas até 2024 se uma IA se tornar responsável por metade das consultas recebidas com respostas até 50 palavras, projetaram os analistas.
Já a SemiAnalysis, uma empresa de consultoria e pesquisa focada em tecnologia de chip, disse que adicionar IA à pesquisa pode custar à Alphabet US$ 3 bilhões, valor limitado pelos chips internos do Google chamados de Tensor Processing Units (TPUs).
O que torna essa forma de pesquisa mais cara do que a pesquisa convencional é o poder de processamento envolvido.
Ela depende de bilhões de dólares em chips, um custo que deve ser distribuído ao longo de sua vida útil de vários anos, disseram os analistas. A eletricidade também adiciona custos e pressão às empresas com metas de pegada de carbono.
O processo de lidar com consultas de pesquisa alimentadas por IA é conhecido como “inferência”, no qual uma “rede neural” modelada livremente na biologia do cérebro humano infere a resposta para uma pergunta a partir de um treinamento anterior.
Em uma pesquisa tradicional, por outro lado, os rastreadores da web do Google examinam a internet para compilar um índice de informações. Quando um usuário digita uma consulta, o Google fornece as respostas mais relevantes armazenadas no índice.
Hennessy disse à Reuters que “são os custos de inferência que precisam ser reduzidos”, chamando isso de “um problema de alguns anos no máximo”.
Embora a Alphabet trabalhe para reduzir o custo do uso de IA no Google Search, essa tecnologia pode ter um grande impacto na empresa em termos financeiros.