O pânico do chatbot do Google: sobre as infinitas inseguranças de um autodenominado gênio criativo que realmente apenas compra as ideias de outras pessoas

O realmente notável não é apenas que a Microsoft decidiu que o futuro da pesquisa não é links para materiais relevantes, mas, em vez disso, parágrafos longos e floreados escritos por um chatbot que por acaso é um mentiroso habitual – ainda mais notável é que o Google concorda .

A Microsoft não tem nada a perder. Ela gastou bilhões no Bing, um mecanismo de busca que ninguém usa voluntariamente. Seria melhor tentar algo tão estúpido que talvez funcione. Mas por que o Google, um monopolista com mais de 90% de participação nas pesquisas em todo o mundo, está pulando da mesma ponte que a Microsoft?

Há um delicioso tópico do Mastodon sobre isso, escrito por Dan Hon, onde ele compara os sistemas de busca emporcalhados¹ pelo chatbot ao Bing e ao Google nesta conversa entre Alice, Tweedledee e Tweedledum:²

Na frente da casa, Alice encontrou dois curiosos personagens, ambos buscadores.

"'Eu sou o Google-E', disse aquele recheado com anúncios.

"'E eu sou Bingle-Dum', disse o outro, que era o menor dos dois, e fazia beicinho, por ter menos visitas e oportunidades de conversa do que o outro.

"'Eu conheço você', disse Alice. 'Você vai me apresentar um quebra-cabeça? Talvez um de vocês diga a verdade e o outro minta?'

"'Ah, não', disse Bingle-Dum.

"'Nós dois mentimos', acrescentou o Google-E."

A conversa vai ficando melhor:

"'Esta é realmente uma situação intolerável. Se vocês dois mentem...'

"'... e mentimos de forma convincente', acrescentou Bingle-Dum.

"'Sim, obrigado. Se for assim, então como vou confiar em qualquer um de vocês?'

"Googl-E e Bingle-Dum se viraram e deram de ombros."

A busca por chatbot é uma péssima ideia, especialmente em uma era em que a Web estará provavelmente recheada com besteirol de IA, a tagarelice constante de papagaios estocásticos que alimenta esses bots.³

A estratégia de uso de chatbots do Google não deveria adicionar mais “madlibs”⁴ à internet – ao contrário, deveria descobrir como excluir a desinformação dos spammers e os conteúdos criados para otimizar presença nos buscadores (ou, no mínimo, verificar os fatos).

E, no entanto, o Google está apostando tudo nos chatbots, com o CEO da empresa ordenando uma ação agressiva para inserir chatbots onde for possível em todo o “googleverso”. Por que diabos a empresa está competindo com a Microsoft para ver quem pode ser o primeiro a saltar do pico das expectativas infladas?⁵

Acabei de publicar uma teoria no The Atlantic , sob o título "Como o Google ficou sem ideias", em que recorro à teoria da concorrência para explicar a suada insegurança do Google, um complexo de ansiedade que atormenta a empresa quase desde a sua criação.⁶

A teoria central: há um quarto de século, os fundadores do Google tiveram uma ideia incrível – uma maneira melhor de fazer buscas. O mercado de capitais encheu a empresa de dinheiro, e ela contratou as melhores, mais brilhantes e criativas pessoas que pôde encontrar, mas depois criou uma cultura corporativa incapaz de capitalizar suas ideias.

Todos os produtos produzidos internamente pelo Google – exceto o clone do Hotmail – morreram. Alguns desses produtos eram bons, alguns eram terríveis, mas não importava. O Google – uma empresa que cultivava o capricho de uma fábrica de Willy Wonka – não conseguia “inovar” de jeito nenhum.

Todos os produtos bem-sucedidos do Google, exceto pesquisa e Gmail, são uma aquisição: dispositivos móveis, tecnologia de anúncios,, vídeos, gerenciamento de servidor, documentos, calendário, mapas etc. A empresa deseja desesperadamente ser uma empresa de "fazer coisas", mas na verdade é uma empresa de "comprar coisas". Claro, é bom para operacionalizar e dimensionar produtos, mas isso é uma aposta para qualquer monopolista.⁷

A dissonância cognitiva de um autodenominado "gênio criativo", cujo verdadeiro gênio é gastar o dinheiro de outras pessoas para comprar produtos de outras pessoas e obter crédito por eles, leva as pessoas a fazerem coisas realmente malucas (como qualquer usuário do Twitter pode atestar).

O Google há muito exibe essa patologia. Em meados dos anos 2000 – depois que o Google perseguiu o Yahoo na China e começou a censurar seus resultados de pesquisa e a colaborar com a vigilância estatal – costumávamos dizer que a maneira de levar o Google fazer algo estúpido e autodestrutivo era que o Yahoo fizesse isso primeiro.

Este foi um bom tempo. O Yahoo estava desesperado e falido, um cemitério de aquisições promissoras que foram destruídas e deixadas para sangrar ali mesmo na Internet pública, enquanto os príncipes em duelo da alta administração do Yahoo jogavam um LARP⁸ traiçoeiro que os fazia competir para ver quem poderia sabotar os outros. Ir para a China foi um ato de desespero depois que a empresa foi humilhada pela busca imensamente superior do Google. Ver o Google copiar as jogadas idiotas do Yahoo foi desconcertante.

Desconcertante na época, diga-se. Com o passar do tempo e o Google copiando servilmente outros rivais, sua patologia de insegurança se revelou. O Google repetidamente falhou em criar um produto "social" popular e, como o Facebook detinha uma fatia cada vez maior do mercado de anúncios, o Google fez uma pressão judicial para competir com ele. A empresa fez da integração do Google Plus um "indicador-chave de desempenho" para todas as divisões, e o resultado foi um pântano bizarro de recursos "sociais" malfadados em todos os produtos do Google -- produtos nos quais bilhões de usuários confiavam para operações de alto risco, que foram repentinamente enfeitados com botões "sociais" que não faziam sentido.

O desastre do G+ foi realmente incrível: alguns recursos e integrações do G+ foram ótimos e desenvolveram seguidores leais, mas foram ofuscados pela insistência incoerente e de cima para baixo de tornar o Google uma empresa "social em primeiro lugar". Quando o G+ entrou em colapso, ele implodiu totalmente, e as partes úteis do G+ nas quais as pessoas passaram a confiar desapareceram junto com as partes estúpidas.

Para quem viveu a tragicomédia do G+, o pivô do Google para Bard – um chatbot para resultados de busca – é terrivelmente familiar. É um verdadeiro momento "morra como herói ou viva o suficiente para tornar-se um vilão". A Microsoft – a monopolista que só foi impedida de estrangular o Google em seu berço pelo trauma de seu arrastamento antitruste – transformou-se de uma empresa de criação de produtos em uma empresa de aquisições e operações, e o Google está logo atrás nisso.

No ano passado, o Google demitiu 12.000 funcionários para agradar um "investidor ativista" -- no mesmo ano, declarou uma recompra de ações de US$70 bilhões, extraindo capital suficiente para pagar os salários desses 12.000 googlers pelos próximos 27 anos. O Google é uma empresa financeira com uma linha lateral em tecnologia de propaganda. Tem que ser assim: quando seu único caminho de sucesso para o crescimento requer acesso aos mercados de capitais para financiar aquisições anticompetitivas, você não pode se dar ao luxo de irritar os deuses do dinheiro, mesmo que tenha uma estrutura de "ação dupla" que permita aos fundadores voto superior a todos os outros acionistas.⁹

O ChatGPT e seus imitadores têm todas as características de uma moda passageira de tecnologia e são realmente os sucessores do Web versão 3 da última temporada e dos “pump-and-dumps”¹⁰ de criptomoedas. Uma das críticas mais claras e inspiradoras dos chatbots vem do escritor de ficção científica Ted Chiang, cuja crítica clássica instantânea foi chamada de "ChatGPT é um JPEG borrado da Web".¹¹

Chiang aponta uma diferença fundamental entre as respostas do ChatGPT e dos autores humanos: o primeiro rascunho de um autor humano costuma ser uma ideia original, mal expressa, enquanto o melhor que se pode esperar do ChatGPT é uma ideia não original, expressa com competência. O ChatGPT está perfeitamente posicionado para melhorar o copiar-e-colar de páginas Web que legiões de trabalhadores mal pagos lançam em uma tentativa de subir nos resultados de pesquisa do Google.

Em relação ao ensaio de Chiang no podcast This Machine Kills,¹² Jathan Sadowski perfura habilmente a bolha do hype do ChatGPT4, que afirma que a próxima versão do chatbot será tão incrível que qualquer crítica à tecnologia atual se tornará obsoleta.

Sadowski observa que os engenheiros da OpenAI estão fazendo de tudo para garantir que a próxima versão não seja treinada em nenhum dos resultados do ChatGPT3. Isso é revelador: se um grande modelo de linguagem pode produzir materiais tão bons quanto o texto produzido por humanos, então por que os resultados do ChatGPT3 não podem ser usados para criar o ChatGPT4?

Sadowski tem um ótimo termo para descrever esse problema: "IA de Habsburg". Assim como a endogamia real produziu uma geração de supostos super-homens que eram incapazes de se reproduzir, também alimentar um novo modelo com o fluxo de exaustão do último produzirá um giro cada vez pior de bobagens em espiral que eventualmente desaparecem em seu próprio fiofó.

--
1. A expressão original é “enshittified”.

2. https://mamot.fr/@danhon@dan.mastohon.com/109832788458972865

3. https://dl.acm.org/doi/10.1145/3442188.3445922

4. https://en.wikipedia.org/wiki/Mad_Libs

5. https://en.wikipedia.org/wiki/Gartner_hype_cycle

6. https://www.theatlantic.com/ideas/archive/2023/02/google-ai-chatbots-mic...

7. https://www.eff.org/deeplinks/2020/06/technical-excellence-and-scale

8. https://pt.wikipedia.org/wiki/Live_action_(RPG)

9. https://abc.xyz/investor/founders-letters/2004-ipo-letter/

10. https://pt.wikipedia.org/wiki/Pump_and_dump

11. https://www.newyorker.com/tech/annals-of-technology/chatgpt-is-a-blurry-...

12. https://soundcloud.com/thismachinekillspod/232-400-hundred-years-of-capi...