'Milhões de dólares': o custo de falar 'obrigado' e 'por favor' ao ChatGPT

Imagem: NurPhoto/NurPhoto via Getty Images

Sam Altman, CEO da OpenAI, a empresa desenvolvedora do ChatGPT, disse que ser educado com o chatbot faz a empresa gastar muito dinheiro.

O que aconteceu

Usuário identificado como Tomie perguntou para Altman quanto que a OpenAI gastava com custos de eletricidade apenas pelas pessoas dizerem "por favor" e "obrigado". A pergunta foi feita no dia 15 de abril, e respondida em 16 de abril.

"Dezenas de milhões de dólares bem gastos", respondeu Altman. "Nunca se sabe", finalizou.

Sam Altman, CEO da OpenAI Imagem: Jason Redmond/AFP

Chatbots, como o ChatGPT, dependem de grandes estruturas computacionais que ficam em datacenters. Para que eles funcionem é necessário um grande gasto com eletricidade.

Estimativas são que para escrever um pequeno parágrafo um chatbot necessite de 0,14 kWh de energia - o que é comparável a 14 lâmpadas LED ligadas por uma hora.

Fora o gasto de energia, é importante dizer que os datacenters também precisam de água para serem refrigerados. Estima-se que a cada 20 ou 30 comandos, o ChatGPT consome o equivalente a 500 ml de água.

Isso quer dizer que preciso ser mal-educado com o chatbot?

A interação "educada" com o chatbot é importante, pois gera respostas mais "colaborativas e respeitosas". Quem diz isso é Kurtir Beavers, diretor de design da Microsoft para o Copilot, uma das parceiras da OpenAI.

Continua após a publicidade

"Ser educado ajuda a definir o tom da resposta", diz o executivo em blog da empresa. Ele explica que os LLMs (modelos de linguagem de grande escala), como o ChatGPTM, foram treinados para emular interações humanas. Logo, se ele percebe que é um pedido educado, há maior chance de obter uma resposta mais educada.

A forma como você faz solicitações influencia na resposta. Essa é a conclusão de estudo feito por pesquisadores a Universidade de Cornell, nos EUA, publicado no ano passado. De acordo com a publicação, "pedidos feitos de forma mal-educada podem levar a uma deterioração no desempenho do modelo, incluindo erros, forte enviesamento e omissão de informação".

Ao mesmo tempo, estudo concluiu que ser muito educado não necessariamente ajuda na resposta. Em alguns casos, os chatbots geraram respostas muito longas.

*Com informações do NY Post e Axios

DEU TILT

Toda semana, Diogo Cortiz e Helton Simões Gomes conversam sobre as tecnologias que movimentam os humanos por trás das máquinas. O programa é publicado às terças-feiras no YouTube do UOL e nas plataformas de áudio. Assista ao episódio da semana completo.