Twitter oferece recompensas a quem detectar racismo e machismo no algoritmo

O Twitter anunciou hoje que irá oferecer recompensas em dinheiro a usuários e pesquisadores que descobrirem possíveis vieses sexistas ou racistas, por exemplo, nos algoritmos executados em sua plataforma.

Segundo o Twitter, essa seria "a primeira competição de recompensas desse tipo na indústria", com prêmios de até 3,5 mil dólares.

A competição se baseia em programas de "recompensa por erros" oferecidos por alguns sites e plataformas para detectar falhas de segurança e vulnerabilidades, explicaram os executivos do Twitter Rumman Chowdhury e Jutta Williams. "Encontrar distorções em modelos de aprendizagem automática é difícil. Às vezes, as empresas tomam conhecimento de violações éticas indesejadas apenas depois que elas chegam ao público. Queremos mudar isso."

Os executivos consideraram promissor o modelo de oferecer recompensas a hackers para encontrarem distorções nos algoritmos: "É inspirador como a pesquisa e as comunidades de hackers ajudaram o campo da segurança a definir as melhores práticas para identificar e eliminar as vulnerabilidades, a fim de proteger o público. Queremos cultivar uma comunidade semelhante, para uma identificação pró-ativa e coletiva de danos de algoritmo."

A decisão foi tomada em meio à preocupação crescente gerada por sistemas de algoritmos que, apesar dos esforços para serem neutros, podem incorporar vieses raciais ou de outro tipo.