'Milhões de dólares': o custo de falar 'obrigado' e 'por favor' ao ChatGPT
Sam Altman, CEO da OpenAI, a empresa desenvolvedora do ChatGPT, disse que ser educado com o chatbot faz a empresa gastar muito dinheiro.
O que aconteceu
Usuário identificado como Tomie perguntou para Altman quanto que a OpenAI gastava com custos de eletricidade apenas pelas pessoas dizerem "por favor" e "obrigado". A pergunta foi feita no dia 15 de abril, e respondida em 16 de abril.
"Dezenas de milhões de dólares bem gastos", respondeu Altman. "Nunca se sabe", finalizou.
Chatbots, como o ChatGPT, dependem de grandes estruturas computacionais que ficam em datacenters. Para que eles funcionem é necessário um grande gasto com eletricidade.
Estimativas são que para escrever um pequeno parágrafo um chatbot necessite de 0,14 kWh de energia - o que é comparável a 14 lâmpadas LED ligadas por uma hora.
Fora o gasto de energia, é importante dizer que os datacenters também precisam de água para serem refrigerados. Estima-se que a cada 20 ou 30 comandos, o ChatGPT consome o equivalente a 500 ml de água.
Isso quer dizer que preciso ser mal-educado com o chatbot?
A interação "educada" com o chatbot é importante, pois gera respostas mais "colaborativas e respeitosas". Quem diz isso é Kurtir Beavers, diretor de design da Microsoft para o Copilot, uma das parceiras da OpenAI.
"Ser educado ajuda a definir o tom da resposta", diz o executivo em blog da empresa. Ele explica que os LLMs (modelos de linguagem de grande escala), como o ChatGPTM, foram treinados para emular interações humanas. Logo, se ele percebe que é um pedido educado, há maior chance de obter uma resposta mais educada.
A forma como você faz solicitações influencia na resposta. Essa é a conclusão de estudo feito por pesquisadores a Universidade de Cornell, nos EUA, publicado no ano passado. De acordo com a publicação, "pedidos feitos de forma mal-educada podem levar a uma deterioração no desempenho do modelo, incluindo erros, forte enviesamento e omissão de informação".
Ao mesmo tempo, estudo concluiu que ser muito educado não necessariamente ajuda na resposta. Em alguns casos, os chatbots geraram respostas muito longas.
*Com informações do NY Post e Axios
DEU TILT
Toda semana, Diogo Cortiz e Helton Simões Gomes conversam sobre as tecnologias que movimentam os humanos por trás das máquinas. O programa é publicado às terças-feiras no YouTube do UOL e nas plataformas de áudio. Assista ao episódio da semana completo.
7 comentários
O autor da mensagem, e não o UOL, é o responsável pelo comentário. Leia as Regras de Uso do UOL.
Ulysses Pagliaro
Ou seja, ser educado pero no mucho hahahaha
Jean Pierre Verdager
E por que diabos as respostas a perguntas feitas de modo deseducado viriam incompletas, enviesadas ou erradas? Seguramente é apenas uma questão de programação do algoritmo. Significa que a própria empresa programa sua IA para ser mais competente com os usuários que gastam mais energia. Em suma, não faz nenhum sentido...
Edison Pacheco de Aquino Jr
Parece-me que está colocada uma questão filosófica muito relevante, a qual já vinha pensando há algum tempo. IT seria uma ciência exata até o desenho dos códigos básicos, mesmo assim com dúvidas ou reservas fundamentais, pois os códigos podem ter sido desenvolvidos com objetivos descritos no próximo parágrafo. A partir daí, IT passou a ser uma ciência social, cujos objetivos da IT são totalmente imprecisos e previsíveis apenas para quem os controla. Até me atreveria a dizer que esta matéria é uma evidência do que estou comentando.