Tesla semiautônomo pode poupar milhões de vidas, mas causará mortes antes

No último dia de sua vida, Jeremy Banner acordou antes do amanhecer para seu trajeto matinal. No dia 1º de março, ele subiu no seu Tesla Model 3 vermelho e seguiu para o sul ao longo das margens do Parque Nacional Everglades, na Flórida, Estados Unidos. Pântanos e terras de cultivo passavam zunindo em um borrão verde.

Banner acionou uma alavanca na coluna de direção e um toque suave soou. Ele havia ativado o recurso de segurança automática mais complexo e controverso do mercado: o Autopilot, da Tesla. É um sistema de computador que executa todas as funções da condução normal em rodovias, sem nenhuma intervenção do motorista. Quando o computador está no controle, o carro pode acelerar, mudar de faixa, sair e, se encontrar um obstáculo à frente, frear.

A Tesla pretende dominar o mercado global de automóveis, construindo o primeiro carro totalmente autônomo do mundo, e considera o Autopilot o primeiro e crucial passo. Os clientes adoram: eles já rodaram mais de 2,4 bilhões de milhas com o "piloto automático" ativado - muitas vezes ultrapassando os limites técnicos do software.

Embora o manual do proprietário avise os motoristas para supervisionarem de perto o carro o tempo todo, isso não impediu alguns de lerem livros, cochilarem, tocarem um ukulele ou até fazerem sexo. Na maioria das vezes, o carro os leva aonde querem ir.

Porém, naquela manhã de março, o sedã de Banner não conseguiu identificar uma carreta atravessando a estrada de quatro faixas à sua frente. Banner também, cuja atenção aparentemente se desviou. Ele bateu no veículo a 110 km/h, arrancando o teto como se fosse uma lata de sardinha. Com 50 anos de idade e pai de três filhos, ele morreu instantaneamente.

Cinco fatalidades

Erros de computador não se parecem com erros humanos. O Autopilot usa tecnologia de sensores e sua atenção nunca desvia, mas às vezes falha em detectar riscos em seu caminho.

Tais descuidos parecem ter desempenhado um papel em quatro das cinco fatalidades conhecidas desde que a tecnologia de condução semiautônoma foi introduzida em 2015. Em agosto, o Estado da Flórida processou a Tesla argumentando que a empresa prometeu um carro seguro e entregou um carro perigosamente defeituoso.

Mas o Autopilot, o é diferente de quase qualquer outro produto de consumo da história, de maneira a oferecer uma prévia das perguntas desconfortáveis que enfrentaremos na era dos robôs. Elon Musk extravagante diretor executivo da Tesla, diz que a tecnologia salva vidas e legiões de proprietários de veículos da marca californiana oferecem testemunhos de riscos identificados e colisões evitadas. (E eles têm vídeos do YouTube para provar isso).

É possível que ambos os lados estejam certos, que os computadores estejam matando alguns motoristas que de outra forma teriam vivido, mas também têm salvando a vida de muitos outros. Nos próximos anos, a sociedade - em particular, os órgãos reguladores e os tribunais - terá que decidir se isso é uma troca aceitável.

A questão não é mais acadêmica. A decisão de Musk de colocar o Autopilot nas mãos de tantas pessoas quanto possível equivale a um enorme experimento, rodando em rodovias em todo o mundo.

Legião de fãs

Eu estava no banco do passageiro, indo para o norte na rodovia Interstate 405, em Los Angeles, quando Omar Qazi tirou as duas mãos do volante. Estávamos rodando a 80 km/h na estrada mais movimentada dos Estados Unidos e o volante do Model 3 preto de Qazi girava levemente para a esquerda, mantendo o carro centrado na pista curva. "É como o tráfego na hora do rush de Los Angeles, certo?", disse Qazi, um engenheiro de software de 26 anos. "É tipo impecável."

Tesla tem legiões de fãs obstinados, muitos deles prósperos e obcecados por tecnologia. Qazi está bem próximo do arquétipo. Antes de nos conhecermos em agosto, ele enviou um e-mail a Musk para avisá-lo e encorajá-lo a falar comigo.

O CEO bilionário, que se recusou a ser entrevistado para esta história, respondeu ao seu fã no mesmo dia. "Seu Twitter é incrível!", Ele disse, antes de adicionar um aviso: "Por favor, tenha cuidado com os jornalistas. Eles vão conversar com você e depois te agredir com um taco de beisebol". Procurada, a Tesla se recusou a comentar.

Qazi me encontrou na estação de carregamento de veículos elétricos da Tesla fora dos escritórios da empresa Tesla em Los Angeles, onde um dos foguetes SpaceX de Musk paira nas proximidades, como um obelisco industrial.

Ele imediatamente me mostrou o recurso experimental Smart Summon, disponível apenas para um grupo seleto de testadores beta da montadora. (Qazi conseguiu depois de implorar para Musk no Twitter; o recurso foi lançado para clientes regulares em setembro.) Ele apertou um botão no telefone e seu carro saiu do lugar. Qazi observou-o atravessar o estacionamento e rolar em sua direção. "Ainda não é útil", disse ele, sorrindo. Mas ele adora mostrar o truque.

O Smart Summon oferece um vislumbre minúsculo do futuro sem motorista que Musk tem prometido, mas, para a condução em estrada, o Piloto Automático está bastante avançado. A Tesla diz que a tecnologia ainda não é confiável o suficiente para que humanos desviem sua atenção, mesmo que por um segundo, por isso exige que eles mantenham as mãos no volante.

Como a maioria dos Estados dos EUA ainda está descobrindo como lidar com carros sem motorista, isso também serve a um propósito legal. Para os reguladores estaduais, o Autopilot é apenas um programa avançado de assistência ao motorista - basicamente, um controle de velocidade de cruzeiro incrementado. O "piloto automático" ainda não consegue lidar com situações verificadas fora de vias expressas, como semáforos e sinais de parada.

Mas, durante seus quatro anos na estrada, a tecnologia gradualmente assumiu tarefas mais complexas: trocar de faixa suavemente, evitar "cortadas" de outros carros e navegar de uma rodovia para outra.

"Ele não funciona perfeitamente, mas a taxa de avanço do software é impressionante. A cada duas semanas você recebe uma atualização e o carro está dirigindo um pouco mais como humano. É muito estranho ", disse Qazi. Alguns minutos depois, um sedã prata entrou em nossa pista e o carro freou suavemente para deixá-lo entrar. "Está vendo isso?", ele perguntou.

Em Los Angeles, no dia em que conheci Qazi, um motorista que disputava racha morreu quando seu Mazda bateu em um caminhão estacionado; um motociclista morreu ao colidir em uma van; e um estudante que trafegava de bicicleta ficou gravemente ferido após um carro o arrastar por 500 metros e depois fugir.

Mais de 40 mil mortes no trânsito

De fato, dirigir é uma das coisas mais perigosas que a maioria dos adultos faz. Matou 40 mil norte-americanos no ano passado e 1,4 milhão de pessoas em todo o mundo no mesmo período. No entanto, somos todos bastante complacentes com isso.

Em 1974, em nome da economia de combustível, os EUA limitaram os limites de velocidade das rodovias a 88 km/h. Um estudo descobriu que a mudança reduziu as mortes nas rodovias em pelo menos 3 mil no primeiro ano. Mas as pessoas gostam de dirigir rápido e o Congresso mais tarde removeu o limite. Alguns anos atrás, as mortes no trânsito começaram a aumentar, um atributo que os especialistas em desenvolvimento atribuem às distrações causadas pelos smartphones.

Quaisquer que sejam suas falhas, os computadores não ficam bêbados, cansados ou com raiva, nem sentem um desejo irreprimível de verificar o Instagram enquanto dirigem nas interestaduais. A autonomia promete preservar nosso estilo de vida centrado no carro, mas elimina os 94% estimados de acidentes causados por erro humano. Visto desse ângulo, o carro autônomo poderia ser um salva-vidas da mesma classe que a penicilina e a vacina contra a varíola.

Qazi fez as contas: ele disse que carros autônomos um dia salvarão 3 mil vidas por dia. Pela sua lógica, qualquer um que esteja no caminho desse progresso tem sangue nas mãos. "Imagine alguém atrasando o software em um dia", diz ele. "Você realmente vai acabar matando muita gente."

Promessa de carro 100% autônomo para 2020

Menos de dois meses após o acidente fatal de Banner, Musk convidou cerca de cem investidores e analistas para a sede da Tesla em Palo Alto, na Califórnia cumprimentando-os em uma sala de reuniões cavernosa. Nascido e criado na África do Sul, fez uma fortuna no Vale do Silício e, em seguida, empreendeu uma série de projetos audaciosos: foguetes comerciais, túneis de alta velocidade, implantes cerebrais e carros elétricos.

Seus muitos admiradores o consideram um visionário que muda o mundo; seus inimigos, uma fraude. Naquela manhã de abril, Musk ocasionalmente interrompeu os cientistas da Tesla que dividiam o palco com ele e refletiu livremente sobre, dentre outras coisas, se a vida poderia ser uma simulação em computador.

As ações da Tesla estavam afundando há meses. Apesar de ter entregue o carro elétrico mais vendido do mundo, o Model 3, a empresa ainda estava longe de ser lucrativa, e Musk logo seria forçado a levantar mais dinheiro dos investidores. Ao longo da apresentação de duas horas e meia, Musk apontou os investidores para um novo foco: a construção do primeiro carro verdadeiramente sem motorista.

Os carros seriam capazes de usar o Autopilot em ruas e avenidas dentro de meses. Em algum momento de 2020, eles não precisariam mais de supervisão humana e poderiam começar a ganhar dinheiro como táxis robotizados em seu tempo de inatividade.

"É financeiramente insano comprar qualquer coisa que não seja um Tesla", disse Musk, erguendo as mãos. "Será como possuir um cavalo em três anos."

O cronograma de Musk parecia particularmente ousado. Cerca de três dezenas de empresas, incluindo General Motors, Daimler e Uber, estão correndo para desenvolver a tecnologia. Muitos observadores consideram o candidato mais forte a Waymo, divisão do Google que está trabalhando na questão há mais de uma década. Nenhuma dessas empresas está perto de vender um carro sem motorista ao público.

A Tesla vai superar todos eles, disse Musk aos investidores, graças aos mais de 500 mil veículos habilitados com Autopilot que já estão rodando. Embora ele não tenha usado essas palavras, o empresário descreveu o recurso como uma espécie de rascunho, que gradualmente se tornará mais versátil e confiável até que a verdadeira autonomia seja alcançada.

Mais seguro, porém menos conveniente

A Tesla resistiu a colocar limites no "piloto automático" que o tornariam mais seguro, porém menos conveniente. A empresa permite que os motoristas definam a velocidade de cruzeiro acima dos limites de velocidade locais, e também libera que eles ativem o Autopilot em qualquer lugar em que o carro detecte as marcações das faixas, mesmo que o manual diga que seu uso deve ser restrito a estradas de acesso limitado.

Para aqueles que testam os limites do carro, Musk oferece encorajamento. Quando ele exibiu um Model 3 no programa de TV 60 Minutes, em dezembro, ele fez exatamente o que o manual adverte, ligando o piloto automático e tirando as mãos do volante. Então, em maio, depois que um vídeo pornô do "piloto automático" se tornou viral, Musk respondeu com um tweet brincalhão : "Acontece que há mais maneiras de usar o Autopilot do que imaginávamos".

Após o primeiro acidente com morte envolvendo um Tesla, em 2016, a NHTSA, agência federal de segurança viária, investigou o Autopilot e não encontrou motivos para um recall. O órgão baseou sua conclusão, em parte, na descoberta de que veículos da Tesla com o Autopilot ativado estavam batendo 40% menos do que unidades sem o dispositivo.

Parte do problema com a avaliação do Autopilot, ou tecnologia totalmente autônoma, é que não está claro qual nível de segurança a sociedade tolerará. Os robôs devem ser impecáveis antes de serem permitidos na estrada ou simplesmente melhores do que o motorista humano comum? "Os seres humanos mostraram tolerância quase zero a ferimentos ou morte causados por falhas em uma máquina", disse Gill Pratt , chefe da pesquisa autônoma da Toyota, em um discurso de 2017. "Levará muitos anos de aprendizado de máquina e muito mais quilômetros do que qualquer um já registrou, tanto em testes simulados quanto em testes do mundo real, para alcançar a perfeição necessária."

Porém, um padrão tão alto pode paradoxalmente levar a mais mortes do que um mais baixo. Em um estudo de 2017 para a Rand Corp. , os pesquisadores Nidhi Kalra e David Groves avaliaram 500 diferentes cenários hipotéticos para o desenvolvimento da tecnologia. Na maioria, o custo de esperar carros autônomos quase perfeitos, em comparação com carros que são apenas um pouco mais seguros que os humanos, foi medido em dezenas de milhares de vidas. "As pessoas que esperam que isso seja quase perfeito devem entender que não é isento de custos", diz Kalra.

Aprendizado de máquina

A chave para seu argumento é uma visão sobre como os carros aprendem. Estamos acostumados a pensar no código como uma série de instruções escritas por um programador humano. É assim que a maioria dos computadores funciona, mas não os que a Tesla e outros desenvolvedores de carros sem motorista estão usando. Reconhecer uma bicicleta e prever o caminho a seguir é muito complicado para se resumir a uma série de instruções.

Em vez disso, os programadores usam o aprendizado de máquina para treinar seu software. Eles podem mostrar milhares de fotografias de diferentes motos, de vários ângulos e em muitos contextos. Eles também podem mostrar algumas motocicletas ou monociclos, para aprender a diferença. Com o tempo, a máquina cria suas próprias regras para interpretar o que vê.

Considerando tudo isso, o plano de Musk de refinar e testar simultaneamente seu rascunho, usando clientes regulares em estradas reais como pilotos voluntários de teste, não parece tão louco.