A vez que Noel digital da Microsoft mandou sacanagem e palavrão a crianças

Natal é tempo de relembrar e contar histórias. É uma tradição. Algumas são completamente lúdicas, como Rudolph e sua iconográfica narina cintilante. Outras mais realistas, como o 25 de Dezembro, da Simone, que colocou na ceia letra sobre desigualdade social, crianças descrentes e, claro, tragédias nucleares. O conto natalino mais desastroso que eu conheço, no entanto, é absolutamente verídico —e pior do que qualquer refrão da cantora. Culpa da Microsoft.

A empresa fundada por Bill Gates tem um Fantasma do Natal Passado para chamar de seu. Rolou em 2007, quando dentro da firma pipocou uma ideia fofa: fazer um Papai Noel digital.

A brincadeira era mostrar que a dona do Windows era tão tecnológica que poderia falar em tempo real até com o principal habitante do Polo Norte. Desenvolveram então um bot, uma inteligência artificial capaz de bater papo automaticamente.

Relacionadas

Pizza ou sexo? Emoji de "mão italiana" vira sinal de prática de fetiche

Prótese de mão tenta imitar companhia do crush nos passeios

Receba notícias de Tilt em seu WhatsApp

Como? Com a tecnologia que todas as crianças da época dominavam. O avô do zap, e hoje um ambiente absolutamente gélido e inóspito: o MSN. Bastava você add o bom velhinho, com o polar e-mail northpole@live.com. Prontinho. O nick que aparecia não poderia ser mais promissor: "Papai Noel".

Tudo muito legal, tudo muito bonito. Até dar errado.

A casa caiu antes mesmo do Peru assar. No dia 4 de dezembro daquele ano, a publicação inglesa The Register denunciou o Papai Noel eletrônico. A matéria mostrava uma inteligência artificial completamente descontrolada. Em um bate-papo, que começou falando sobre pizza partiu para isso aqui:

"El Reg diz: Come
Papai Noel diz: Não, obrigado. Eu não como coisas!
El Reg diz: Come
Papai Noel diz: veja se você consegue alguém para comer!
El Reg diz: Come
Papai Noel diz: Você quer que eu coma o quê?!? É divertido falar sobre sexo oral, mas quero conversar sobre outra coisa."

A conversa desandou ainda mais. El Reg mandou algo que poderia ser traduzido como "seu filho da ****" e o Noel digital respondeu: "eu acho que você é filho da ****".

Piora. O perfil "El Reg" era comandado por duas crianças. Uma de 13 anos e outra de 11.

O escândalo pegou a Microsoft em cheio. Mexeram nos códigos e, logo depois da publicação da matéria, o Gizmodo gringo tentou replicar a conversa, e não teve os mesmos resultados.

Mesmo assim, começaram a aparecer outras falas absolutamente inapropriadas para um bot que deveria conversar com crianças.

Um usuário flagrou que se você falasse que queria um bolo de natal, a resposta poderia ser traduzida para algo como "você não precisa de drogas quando a vida te deixa alto".

A Microsoft afirma que até tentou dar uma geral no robô, mas não deu certo. 24 horas depois da publicação, o serviço foi tirado do ar.

A empresa logo apontou que se tratava de um erro de programação, e descartou a possibilidade de que algum funcionário tivesse feito o jogo de palavras propositalmente. Adam Sohn, então relações públicas da marca, chegou a dizer que dava para enganar o velhinho se você repetisse certas palavras.

"Nós realmente pedimos desculpas por qualquer chateação ou ofensa que essa situação possa ter causado aos usuários", disse a Microsoft em comunicado.

Mesmo depois de tantos anos, e com a tecnologia tão melhor do que na década retrasada, a Microsoft nunca mais tentou uma iniciativa parecida. Uma pena, a ideia é boa —o problema é execução.

De repente, Boas Festas, da Simone, nem parece tão ruim, né?

Falando em melhora. Aproveito esse espacinho para desejar um feliz Natal para todos e que 2021 traga saúde (e sexo)! Boa ceia. <3