• Missy Cummings se conviritó en el enemigo no. 1 de los fanáticos de Tesla y Elon Musk.
  • La expiloto de combate es una crítica acérrima de los riesgos de la conducción autónoma.
  • Los nuevos taxis robóticos tienen entre cuatro y ocho veces más probabilidades de estar involucrados en un accidente que un auto conducido por un humano.
  • ¿Ya conoces nuestra cuenta de Threads? Síguenos.

En 2021, una ingeniera llamada Missy Cummings atrajo la ira de Elon Musk en la red social que en ese momento se llamaba Twitter.

Cummings, profesora en la Universidad de Duke, había realizado investigaciones sobre la seguridad de los autos autónomos, y sus hallazgos la llevaron a emitir algunas advertencias contundentes sobre la tecnología de asistencia al conductor de Tesla.

Escribió que los autos tenían «comportamientos variables y a menudo inseguros» que requerían más pruebas «antes de permitir que tal tecnología opere sin la intervención directa de humanos».

Tras su investigación, Cummings fue enviada a la Administración Nacional de Seguridad del Tráfico en Carreteras (NHTSA, por sus siglas en inglés) para ayudar en la regulación de los autos autónomos.

Los seguidores de Tesla reaccionaron con su habitual ecuanimidad y sentido de perspectiva, lo que significa que perdieron por completo los estribos. Su insistencia en que Cummings intentaría regular injustamente a su querido Elon pronto llevó al propio Musk a unirse a la conversación.

«Objetivamente», tuiteó, «su historial está extremadamente sesgado contra Tesla». En respuesta, los fanáticos de Musk desataron toda su furia contra Cummings: su trabajo, su apariencia, sus motivaciones.

La acusaron de conflictos de interés, firmaron peticiones exigiendo su destitución y enviaron amenazas de muerte por correo electrónico.

Es difícil asustar a alguien que sabe volar aviones de combate

Pero resulta que los seguidores de guerra de Musk se metieron con la ingeniera equivocada. Siendo una de las primeras pilotos de combate de la Marina, Cummings solía volar F/A-18. No se amedrentó por el comportamiento bravucón de unas cuantas personas en Twitter con caricaturas como fotos de perfil.

Publicó las peores amenazas en LinkedIn, contrató seguridad personal y siguió luchando. «Pensé, ¿de verdad vas a hacer esto?», recuerda. «Me puse a la defensiva. Salió el piloto de combate en mí. Me encanta una buena pelea».

No ganó exactamente ese enfrentamiento en particular. Las quejas de Tesla llevaron a la NHTSA a forzar a Cummings a abstenerse de cualquier asunto relacionado con la compañía. Pero ya sabes lo que dicen sobre cualquier aterrizaje del que puedas salir caminando.

Cummings aceptó un nuevo trabajo en la Universidad George Mason y amplió su investigación desde Tesla hacia el mundo más amplio de todos los vehículos autónomos.

Con empresas como Cruise y Waymo desplegando taxis totalmente robotizados en las calles de San Francisco y otras ciudades, el auge de las máquinas ha comenzado, y Cummings está en la primera línea de la resistencia.

En un nuevo y controvertido artículo, concluye que los nuevos taxis robóticos tienen entre cuatro y ocho veces más probabilidades de estar involucrados en un accidente que un automóvil conducido por un humano.

Y eso no incluye la forma en que los vehículos autónomos ya causan extraños atascos de tráfico, bloqueando vehículos de emergencia e incluso deteniéndose encima de una persona que ya había sido atropellada por un automóvil conducido por un humano.

«En el artículo que realmente enfureció a todos los trolls de Tesla, en realidad digo que esto no es solo un problema de Tesla, sino que Tesla es el primero en experimentar los problemas», me dice Cummings. «Durante años le he estado diciendo a la gente que esto iba a suceder, que estos problemas surgirían en los vehículos autónomos. Y de hecho lo están haciendo. Si alguien en la comunidad de vehículos autónomos se sorprende, es su responsabilidad».

«Tenemos un problema grave en los autos»

Resulta que servir en la Marina es una muy buena manera de entrenar para la ira entrante de los «muskovitas». En su memoria de 1999, Hornet’s Nest, Cummings recuerda cómo le encantaba volar aviones a reacción y dice que la emoción de ser catapultada fuera de un portaaviones o de aterrizar en uno le hacía sentir joven.

Pero aquel entorno estaba lejos de ser acogedor. El acoso sexual en la Marina era rutinario y colegas masculinos le decían repetidamente a Cummings que no estaba calificada para volar cazas simplemente porque era una mujer. Cuando ella y otra oficial se presentaron en un torneo de golf en la base, les dijeron que se pusieran uniformes de Hooters y condujeran los carros de cerveza. Cummings declinó.

Volar máquinas de destrucción táctica también proporcionó a Cummings una lección de primera mano sobre los peligros ocultos de las máquinas, la automatización y las interfaces de usuario. En su primer día de entrenamiento murieron dos pilotos. En el último, la Marina experimentó el peor desastre de entrenamiento que jamás haya tenido lugar a bordo de un portaaviones. Durante los tres años que Cummings voló, murieron 36 personas en accidentes.

Fue en 2011, mientras realizaba investigaciones sobre helicópteros robot para la Marina, cuando Cummings tuvo una epifanía. Incluso rodeados de nada más que aire, esos helicópteros estaban lejos de ser perfectos y dependían de los mismos sensores que utilizan los autos autónomos mientras operan junto a otros vehículos y personas. «Cuando profundicé en las capacidades de esos sensores», dice Cummings, «fue cuando me dije, ¡vaya, tenemos un problema grave en los autos!».

Algunos de los peligros son técnicos. Las personas se distraen, los sistemas autónomos se confunden en entornos complicados, y así sucesivamente. Pero Cummings dice que otros peligros son más sutiles, de carácter «sociotécnico». Lo que ella denomina la «cultura hiper-masculina en Silicon Valley» se entrelaza con la misión de las BigTech de «moverse rápido y romper cosas». Tanto la cultura de los «bros» como una mentalidad disruptiva, según ella, incentivan a las empresas a pasar por alto los riesgos de seguridad.

Esto hace que sea aún más difícil para las mujeres cuando expresan el tipo de críticas que hace Cummings. «Cuando Elon Musk envió a sus secuaces por mí, la misoginia sobre mí como mujer, mi nombre, se volvió muy oscuro muy rápidamente», recuerda. «Creo que el ejército ha avanzado mucho, pero creo que lo que está sucediendo en estas empresas de Silicon Valley es solo un recordatorio de que no hemos avanzado tanto en nuestra sociedad como pensé».

Un ejemplo: el mes pasado, el jefe de seguridad de Waymo promocionó un nuevo estudio de su empresa en LinkedIn. La investigación no se había publicado y no había dio revisada por pares. Pero Waymo utilizó el estudio para argumentar que sus autos robóticos eran mucho menos propensos a sufrir accidentes que los autos conducidos por organismos biológicos.

Cummings no lo aceptó. Tenía sus nuevos resultados, también aún sin publicar, que mostraban que los taxis autónomos eran mucho más propensos a sufrir accidentes. Así que también fue a LinkedIn y lo dijo.

La respuesta le resultó familiar de sus días en la Marina. Kyle Vogt, el CEO de Cruise, se metió en los comentarios. «Me encantaría ayudarte con este análisis», escribió a Cummings, cuestionando su análisis de números. «Sería genial conectarnos y discutir esto más a fondo».

Cummings respondió de la misma manera. «Me encantaría ayudarte a comprender estadísticas básicas, el uso de la visión por computadora y lo que significa ser un CEO seguro y responsable de una empresa», escribió. «Llama en cualquier momento».

Ella piensa que las mujeres entendieron su punto de vista. «Cada mujer que leyó eso pensó: Mmm-hmm, sigue así», dice Cummings. Pero los hombres y bros de Silicon Valley no lo hicieron. Pensaron que había sido demasiado dura con Vogt. «Solo estaba tratando de ayudarte», le dijeron.

«Todos los chicos lo leyeron como: ¡Es tan agria!», dice Cummings. Pero, como una piloto de combate, no se inmutó. «Así es como obtuve mi apodo», dice. «Así que lo llevo bien».

Cummings vs. la conducción autónoma

Entonces, ¿quién tiene razón: Cummings o los hombres autónomos de Waymo, Cruise y Tesla? Es difícil de decir, por una razón sencilla: los datos sobre la seguridad de los autos robóticos son deficientes.

Toma el enfoque de Cummings en su nuevo artículo. Primero tuvo que lidiar con los datos nacionales de la NHTSA sobre accidentes no mortales causados por conductores humanos, para obtener cifras que pudiera comparar con California, el único lugar donde los autos robóticos circulan libremente. Luego tuvo que averiguar cifras comparables de accidentes no mortales y millas recorridas para Waymo y Cruise, rastreados por fuentes divergentes. Su conclusión: Cruise tiene ocho accidentes no mortales por cada uno de los conductores humanos, y Waymo tiene cuatro, cifras comparables a las tasas de accidentes de los conductores de servicios de transporte compartido como Uber y Lyft que están fatigados y sobrecargados.

Los defensores de los taxis autónomos argumentan que Cummings está equivocada por varias razones. Principalmente, dicen que las cifras de accidentes humanos son en realidad subestimadas. (Muchos choques leves, por ejemplo, no se informan).

Además, argumentan que las cifras de accidentes en todo el país, o incluso solo en California, no se pueden comparar con las de San Francisco, que es mucho más densa y montañosa que el estado en su conjunto.

Desde esa perspectiva, Cruise argumentó en una reciente publicación de blog que sus taxis han estado involucrados en 54% menos de accidentes que los autos conducidos por humanos.

La compañía también sostiene que los conductores de servicios de transporte en automóviles se ven involucrados en un accidente no fatal por cada 85,027 millas de conducción, 74% más de colisiones que los robots de Cruise.

Cummings no lo acepta. Una publicación de blog no es ciencia; es un comunicado de prensa. «Cada empresa tiene un interés financiero en publicar un informe que los haga lucir bien y, en el caso de Cruise, hace que los conductores de servicios de transporte compartido se vean mal», afirma. «Así que eso es lo que están haciendo». Esto es exactamente el tipo de cultura sociotécnica que Cummings está criticando y para la cual está excepcionalmente calificada para criticar.

Otros expertos también descartan las afirmaciones de Cruise, provenientes de personas incentivadas para dar la bienvenida a nuestros nuevos señores robot. «Si creyéramos las cifras que Cruise está presentando para los conductores de servicios de transporte en automóviles, esos conductores tendrían en promedio dos accidentes por año», dice Steven Shladover, ingeniero de investigación en el Instituto de Estudios de Transporte de UC Berkeley. «¿Cuántos conductores tienen dos accidentes cada año? Eso es bastante extremo».

Pero Shladover también es escéptico de las cifras calculadas por Cummings. «Missy está asumiendo una tasa de accidentes de conductores humanos que es demasiado baja para San Francisco y Cruise está mostrando una tasa de accidentes humanos que es demasiado alta», dice. «La realidad probablemente se encuentra en algún punto intermedio».

Entonces, tal vez Cummings tenga razón y los autos autónomos son una amenaza. O tal vez no sea tan malo como sugiere su nuevo informe. Hasta que los autos robóticos hayan recorrido cientos de millones de kilómetros, no hay forma de obtener una conclusión estadísticamente significativa e inequívoca. Pero en última instancia, eso no debería importar. Cuando los datos sobre la seguridad de un producto o dispositivo son ambiguos, se supone que las agencias reguladoras deben crear y aplicar reglas que protejan a los consumidores, al igual que lo hacen en otras industrias. Si los datos sobre los autos robóticos son ambiguos o incompletos, entonces esas reglas deberían mantenerlos fuera de la carretera.

La carga de la prueba recae en Waymo, Cruise y Tesla, no en Missy Cummings. Y si esas empresas quieren poner robots de dos toneladas en las calles públicas, escribir en blogs sobre datos de referencia no es la forma de demostrar que están listos.

«Una de las grandes cosas en las que estoy centrada ahora, basándome en mis años de aviación, es que todas estas empresas necesitan un piloto de IA en jefe», dice Cummings. «Necesitan a alguien, una persona, que se levante y diga: ‘Soy el responsable’. Hacemos eso ahora mismo en la aviación. Por eso rodaron tantas cabezas con los problemas que ocurrieron con el Boeing 737 Max. Se volvieron complacientes. Perdieron su cultura de seguridad».

Cummings es una investigadora cuidadosa. También es, como lo expresó un investigador en seguridad del transporte de manera privada, «provocativa». Está más que dispuesta a criticar a empresas como Tesla, Waymo y Cruise, y a argumentar que los tipos de tecnología deben ser sometidos a un marco regulatorio más estricto. En cierto sentido, es la peor pesadilla de Elon Musk. Una y otra vez ha arriesgado su vida para probar las increíbles capacidades y los límites letales de las interfaces entre humanos y máquinas. Y lo hizo en un entorno donde las apuestas son mucho más altas que en los campos de batalla de Twitter y LinkedIn. Para ella, la seguridad de los autos autónomos no es una pregunta abstracta. Es una cuestión de vida o muerte.

«Soy una profesora titular. Mi trabajo habla por sí mismo. Estoy tratando de salvar sus vidas, ¿verdad?», dice Cummings. «Y hay un lado de mí en el que soy como Don Quijote en esteroides. No hay molino de viento al que no quiera enfrentarme».


AHORA LEE: Elon Musk elimina los títulos de noticias en X para ‘mejorar la estética’ de la plataforma

TAMBIÉN LEE: La SEC investiga la compra de Twitter por parte de Elon Musk

Descubre más historias en Business Insider México

Síguenos en Facebook, Instagram, LinkedIn, TikTok, Threads, Twitter y YouTube

AHORA ESCUCHA:

AHORA VE: