La Ex Jefa de Confianza y Seguridad de Twitter Finalmente Rompe Su Silencio
La ex encargada de confianza y seguridad de Twitter finalmente rompe su silencio
Es las 8 de la tarde en una noche reciente de otoño, finalmente estoy relajándome y Del Harvey me está enviando mensajes de texto. Otra vez.
Esta vez me envía una captura de pantalla de tensos tweets intercambiados entre el líder supremo de un estado-nación y la cuenta oficial de Twitter de un estado-nación rival. Le respondo rápidamente: “Digamos que todavía estás en Twitter. ¿Cómo lo manejarías?” Harvey me guía a través de su proceso de toma de decisiones, luego cambia las tornas: “¿Qué harías TÚ?” Le pregunto si puedo pensarlo durante la noche. Ella me dice que no tengo el lujo de pensar en ello. No importa qué decisión tome, la gente me despreciará por ello. Y sin importar cuál sea el resultado, la gente podría morir. “Tienes que vivir sabiendo que tomaste la menos mala decisión que pudiste con los recursos que tienes”, escribe.
A la mañana siguiente, otro mensaje de texto de Harvey: “Bien, entonces lo has pensado durante la noche; ¿qué decides?” La magnitud de la decisión pesa como un bloque de concreto en mi pecho, e incluso después de considerar todos los ángulos, estoy seguro de que cualquier elección que haga será un error de moderación de contenido.
La urgencia de Harvey, incluso después de 12 horas, es un reflejo de lo que hizo durante 13 años como jefe del equipo de confianza y seguridad de Twitter. Siempre que había un problema relacionado con el contenido en la plataforma, o cualquier otro problema en general, la gente decía: “Contacta a Del”. Ahora, después de dos años de silencio, Harvey finalmente ha decidido hablar. Está levantando el velo metafórico de las decisiones de Twitter para silenciar, prohibir y bloquear contenido a lo largo de los años, y cómo era esa vida en la era pre-Elon.
También está hablando de cómo es su vida ahora, abriendo cortinas literales y construyendo escenarios para producciones teatrales infantiles. No puedo decir exactamente dónde está este teatro porque, a pesar de haberse alejado de las luchas de Twitter, Harvey todavía está en modo de Operaciones de Seguridad.
- Google rediseñó la Tienda Web de Chrome y en realidad se ve bastant...
- Nueva York quiere más Ubers eléctricos. Todos están enfadados
- 7 formas de asegurarte de que tus datos estén listos para la IA gen...
Del Harvey ni siquiera es su nombre real. Así es como todos la conocen, o tal vez @delbius, el seudónimo en línea por el que se hizo famosa. Harvey comenzó a proteger su identidad en 2003, cuando comenzó a trabajar para una organización sin fines de lucro llamada Perverted Justice, que investigaba a los depredadores en línea. Perverted Justice se asoció con la serie de NBC To Catch a Predator, que filmaba operaciones encubiertas contra pedófilos, por lo que Harvey terminó trabajando en televisión. Tenía 21 años, pero parecía de 12. Esto significaba que ella era el señuelo. Cinco años después, cuando un amigo se acercó y sugirió que Harvey consiguiera un trabajo en una empresa tecnológica incipiente, parecía más fácil en comparación con atrapar a pedófilos.
En 2008, Harvey se convirtió en la empleada número 25 en Twitter. Fue la primera ejecutiva responsable del spam y el abuso, que más tarde se convirtió en “confianza y seguridad”. Sí, todavía lo llamo Twitter, incluso si ahora se llama X, porque cuando Harvey estaba allí, era innegablemente Twitter. Eran los días de los hashtags y los símbolos @ complicados, los fundadores visionarios de ojos brillantes y el spam inconsecuente. Harvey me dice, con seriedad, que en ese entonces los “BTGs eran una de las fuerzas más poderosas del planeta”. La frase final: “BTGs” se referían a las adolescentes brasileñas. Gran parte del trabajo de Harvey consistía en gestionar el spam, como descubrir cómo lidiar con una avalancha de tweets que decían: “@Justin Bieber te amamos, ven a Brasil”.
El trabajo se intensificó. En 2012, las cuentas de Twitter de las Fuerzas de Defensa de Israel y Hamas comenzaron a intercambiar amenazas tras la confirmación de la muerte de un líder militar de Hamas. Twitter, es decir, Harvey, tuvo que determinar si estas amenazas violaban las políticas de la empresa. (“Esta no es una decisión que un par de cientos de ingenieros en el norte de California deseen tomar”, dijo en ese momento el analista Benedict Evans.) Twitter no intervino. La empresa decidió clasificar los tweets como “fanfarronería”, según Harvey, pero incluso si Twitter hubiera querido intervenir, en ese momento no contaba con la tecnología adecuada para hacerlo. En 2014, la insidiosa guerra cultural Gamergate (aparentemente sobre “ética en el periodismo de videojuegos”, pero en realidad sobre acoso a mujeres) estalló en línea. Nuevamente, Twitter tuvo que decidir dónde trazar la línea. El equipo de Harvey implementó actualizaciones en las herramientas de moderación de contenido de Twitter. Aun así, los trolls ahora tenían un manual de extremismo en línea.
Luego, en 2016, llegó Donald Trump. Los tweets de Trump a menudo bordeaban las reglas y políticas de Twitter. Sus mensajes durante la era del Covid eventualmente llevaron al equipo de Harvey a comenzar a etiquetar algunos tweets seleccionados como “información engañosa” en 2020.
El 6 de enero de 2021 fue un punto de inflexión para la plataforma. En los días posteriores a la letal insurrección en el Capitolio de los Estados Unidos, en la que una turba de seguidores de Trump asaltó las instalaciones, la cuenta de Twitter del presidente Trump fue suspendida permanentemente. Casi dos años después, el Comité del 6 de enero, formado por miembros de diferentes partidos políticos, publicó un informe y redactó un memorándum separado sobre el papel de las redes sociales en el ataque. El Washington Post informó que los investigadores “encontraron evidencia de que las plataformas tecnológicas, especialmente Twitter, no hicieron caso a las advertencias de sus propios empleados sobre retórica violenta en sus plataformas”. Una ex empleada de Twitter, Anika Collier Navaroli, culpó públicamente a Harvey por no tomar una postura más proactiva en la moderación de contenido de 2019 a 2021. Según Navaroli, el enfoque de Harvey en la moderación de contenido era “saltos lógicos y pensamiento mágico”. “Comencé a darme cuenta de que algunos de los posibles daños estaban más allá de la imaginación de los líderes”, me dijo recientemente.
Para finales de 2021, Harvey había dejado Twitter. No estuvo presente cuando Collier Navaroli testificó, ni cuando Elon Musk adquirió Twitter, lo renombró como X y desmanteló el equipo de confianza y seguridad de la compañía. Harvey ya no estaba cuando los anunciantes comenzaron a abandonar Twitter debido a la falta de seguridad de marca, una forma de decir en jerga corporativa que no podían arriesgarse a que sus anuncios aparecieran junto a tweets pro-nazis.
Pero, ¿alguien puede realmente abandonar Twitter? Harvey, después de su inicial nerviosismo, parece casi contenta cuando nos encontramos en un amplio taller de teatro en el área de la Bahía este otoño. Habla sobre geopolítica, construcción de escenografías teatrales, los servidores de Discord en los que pasa tiempo y Taylor Swift, todo en una misma respiración. (Harvey es una Swiftie). Más tarde descubro que una persona llamada @delbius en Reddit ha estado ayudando a organizar campañas solidarias festivas y repartiendo juguetes, materiales de arte y pizzas a completos desconocidos en internet. Sí, esto es Harvey, buscando un propósito y pasando tiempo en todo menos en X-anteriormente-Twitter. Y aún así, Harvey sigue acechando en Twitter. Ve todos los tweets. Conoce la violencia que incitan. Y planea qué haría a continuación.
Lauren Goode: Recientemente, varias marcas y anunciantes de alto perfil han dicho que están pausando los anuncios en X porque sus anuncios aparecen junto a tweets antisemitas y otro contenido problemático. X dijo en agosto que había expandido estas herramientas de seguridad de marca, pero eso no parece estar ayudando aquí. ¿Cómo puede suceder algo así?
Del Harvey: Bueno, no he estado allí durante mucho tiempo, así que no puedo decir cómo funciona ahora. Pero uno de los grandes desafíos en aquellos días era que los sistemas de seguridad para los anunciantes, el sistema publicitario en su conjunto, estaba construido sobre una plataforma tecnológica completamente separada del resto de Twitter. Imagina dos edificios uno al lado del otro sin comunicación entre ellos. La posibilidad de identificar contenido problemático en el lado orgánico no se podía integrar fácilmente en el lado del contenido promovido. Era una situación de ouroboros, dos lados encerrados en una lucha interna porque no tenían la información al no conectar los dos.
Twitter adquirió una empresa, Smyte, en 2018, que tenía personas increíblemente inteligentes y construyeron herramientas internas muy geniales para que las usemos. Pero no sé si todavía se utilizan.
Al mismo tiempo, incluso si tus sistemas funcionan correctamente, no importa si das a las personas herramientas para decir: “No quiero que mis publicaciones aparezcan junto a contenido arriesgado” si no se reconoce como “arriesgado” por, no sé, ¿el CEO?
Me pareció interesante cómo Linda [Linda Yaccarino, la actual CEO de X] hizo hincapié en su reciente entrevista en la Code Conference en distinguir entre Twitter y X. Como si eso fuera el pasado y esto es el presente.
No estoy en el lado de la marca o el marketing de nada, pero Twitter tenía un nivel bastante alto de reconocimiento en los hogares. Tenía su propia palabra en el diccionario, ¿verdad? Cambiar a X se siente un poco como… una vez estaba conduciendo a través del país y pasé por un lugar que se llamaba Motel Genérico, y pensé: “Deben tener el peor SEO, o el mejor”.
Por cierto, ¿qué estás construyendo aquí? [Señalando un pequeño puente de madera y una pila de bloques de espuma.]
Recuerden esa parte de Willy Wonka cuando Augustus Gloop está bebiendo del río de chocolate y se deja llevar por el chocolate y cae al río? Esta almohadilla de choque estará debajo de él. Así que esto es tela de sombrilla rellena con 144 bloques de espuma de 6 por 6. Puedes probarlo totalmente. Es muy divertido.
Wow. Bueno … Entonces soy Augustus Gloop.
Sí, estás bebiendo el chocolate…
Estoy un poco nervioso, tengo que admitirlo.
Por eso es ancha. Así, incluso si te pasas, tendrás un descenso suave. [Me tumbo por el lado del puente.] Bien. Ves, no te has muerto ni nada. Eso realmente es una victoria en mi libro.
Entonces volvamos a 2008. Te uniste a Twitter.
Era tan joven.
Antes de Twitter, trabajabas en Perverted Justice y To Catch A Predator de NBC. ¿Alguna vez te temiste por tu seguridad?
En retrospectiva, sí, wow. Por ejemplo, hubo una vez que un chico se acercó y se sentó junto a mí en un banco del parque. Tenía un fetiche de los dedos del pie. Extendió la mano y tocó mis pies y dijo: “Pensé que te ibas a pintar las uñas de los pies para mí”. Mi estrategia durante mi tiempo allí fue, sinceramente, que cuanto más riducla sea tu respuesta, más realista parecerá. Así que empecé a decir: “¿Sabes cómo a veces cuando pintas tus uñas, tienes una burbuja justo en el borde cerca de abajo? Me pasó en los cinco dedos de mi pie derecho…” Algo incoherente que inventé porque se suponía que la policía ya había llegado. No se suponía que hubiera llegado al punto de sentarse…
Y tocar tus pies.
Y tocar mis pies. Así que, en retrospectiva, inquietante. En ese momento, solo estaba haciendo mi trabajo.
¿Qué te atrajo a esa línea de trabajo?
Siempre me ha gustado intentar agregar algún tipo de orden al caos. Cuando era más joven, mi primer trabajo de verano fue como salvavidas. Empecé como salvavidas en una piscina comunitaria, y eventualmente vi un anuncio de trabajo como salvavidas en una institución mental estatal de nivel tres cercana. No hay muchas historias felices en estos lugares.
¿Dónde fue esto?
Tennessee. Me di cuenta a lo largo del verano, a medida que conocía a estos niños en la institución y hablaba con ellos y los conocía un poco más, me di cuenta de la espantosa cantidad de ellos que habían sido abusados o molestados y de cuánto eso los había afectado y realmente había afectado su sentido de seguridad, su sentido de identidad. Y me di cuenta de lo afortunada que era, en realidad, lo cual es una buena realización a los 18 años. También pasé algún tiempo trabajando como asistente legal para un abogado especializado en ayudar a las víctimas de violencia doméstica. Nuevamente, las experiencias que habían tenido estas personas eran tan horribles que encontré muchas razones para querer ayudar.
Cuando tu amiga te llamó y te habló sobre el trabajo en Twitter en 2008, ¿por qué creía ella que serías adecuada para eso?
Dijo en ese momento: “Pensé que podrías encajar bien en esto porque cuando pienso en cosas malas en Internet, pienso en ti”. Y pensé: “Esta es una marca personal terrible”.
Y llegas, y te encuentras con Ev y Biz por primera vez. ¿Cuál es tu primera impresión?
Biz estaba en modo social completo y Ev estaba en modo de escucha completa. Tenían una vibra de yin y yang. Recuerdo que creían firmemente que el spam era una preocupación, pero “no creemos que vaya a ser un problema real porque puedes elegir a quién seguir”. Y este fue uno de los primeros momentos en los que pensé: “Oh, dulce niño de verano”. Porque una vez que tienes una base de usuarios lo suficientemente grande, una vez que tienes suficiente gente en una plataforma, una vez que la probabilidad de obtener beneficios se vuelve lo suficientemente alta, vas a tener spammers.
Uno de los problemas más importantes con los que tuviste que lidiar al principio fueron los tuits. En 2012, hubo un intercambio entre Hamas y las Fuerzas de Defensa de Israel. Estamos volviendo al punto inicial. En las últimas semanas, los investigadores han señalado que la cantidad de desinformación que han visto en X sobre el conflicto es como nada que hayan visto antes. ¿Cuál fue tu proceso de toma de decisiones en ese momento?
Recuerdo pensar, “¿Por qué eligieron Twitter? ¿Por qué no otra plataforma?”
¿Por qué yo, ¿verdad? Pero luego realmente estaba tratando de pensar en esto, estas son entidades políticas. Si miras a Hamas, en algunas áreas es un grupo terrorista. En algunas áreas es parte del gobierno electo, y hay toda esta complejidad y matices en esas interacciones. ¿Es esto diplomacia internacional? ¿Es esto el desenfrenado que vemos como interés público?
Con amenazas violentas, terminamos determinando que la razón por la que no queremos que estén [en Twitter] es porque no queremos que las personas se inspiren en ellos. Y si es algo que una persona normal tendría dificultades para replicar, si una persona normal no puede decir: “Armaré mi propia flota personal de bombarderos y replicaré esta acción”, entonces lo permitimos. Las acciones de tipo militar tendíamos a analizarlas en términos de “¿Esto va a causar algún daño inmediato fuera de los enfrentamientos militares?” Lo cual fue un árbol de decisiones muy complicado de usar, en ese momento, para “no hacer nada”.
¿Sabes lo que sabes ahora, habrías tomado esa decisión en ese entonces?
Cuando tus opciones están significativamente limitadas, no sorprende que sea más desafiante encontrar formas de solucionar mágicamente ese tipo de problemas. Podríamos enviar un correo electrónico [a las cuentas violadoras] que diga: “Deja de hacerlo”. Pero también pueden decir: “Lo que sea”. No creo que incluso tuviéramos detección de múltiples cuentas en esos días. Lo que hicimos probablemente fue lo mejor que pudimos haber hecho dadas las herramientas que teníamos a nuestra disposición.
Si Linda Yaccarino o Elon Musk te pidieran consejo ahora mismo sobre cómo manejar la confianza y seguridad en X, ¿cómo responderías?
Primero querría entender mejor cómo han estado intentando abordar la moderación de contenido. No querría asumir lo que han intentado o no han intentado.
¿Hay alguna parte de ti, sin embargo, que quiera decirles: “¿Por qué no mantuvieron a su equipo de confianza y seguridad? ¿Por qué no simplemente no despidieron a todos?”
Me resulta tan desconcertante que ni siquiera sabría por dónde empezar. Quiero decir, esas personas eran buenas personas haciendo lo mejor para mantener a las personas seguras. Y no está claro por qué se dirigiría ese trabajo para su eliminación, especialmente en rondas más recientes de despidos cuando el objetivo eran las personas que trabajaban en desinformación e integridad electoral.
¿Qué tan grande era el equipo, en su máximo, de tu equipo de confianza y seguridad?
Antes de irme, dependiendo de si incluyes varias categorías de contratistas o no, eran cientos a miles. Así que era un equipo grande. Era global. Era 24/7. Teníamos cobertura. Y teníamos cobertura en muchos idiomas.
Eras una especie de celebridad en Twitter a tu manera. Todos sabían quién eras porque eras el rostro de la confianza y seguridad. Todos conocían a Delbius. Creo que la única vez que nos correspondimos antes de esto fue porque probablemente tenía algún problema de confianza y seguridad y todos decían: “Envíale un DM a Del, envíale un DM a Del”.
Así es como funciona.
En 2017, un troll me envió un mensaje directo diciendo algo como: “Tu sala de redacción debería ser bombardeada”. Y recuerdo pensar, pequeña posibilidad de que esto suceda, pero probablemente debería escalarlo. Fui a compartir ese mensaje con el foro de informes de Twitter y me di cuenta de que no había mecanismo para compartir un MD abusivo. Le escribí a Jack y le pregunté al respecto. Parecía muy improvisado. Era como si, en esa época, Twitter, junto con otras plataformas sociales, estuvieran inventando la confianza y seguridad a medida que avanzaban.
Fue el mismo problema que siempre ha sido y siempre será, que es la asignación de recursos. Hice solicitudes en 2010 de funcionalidades que no se implementaron, en muchos casos, hasta más de una década después.
¿Puedes poner un ejemplo?
Detección de cuentas múltiples y devolución de cuentas. Si eres un violador reincidente, ¿cómo nos aseguramos de que te detengas? Sin meternos en este extraño camino de “Bueno, no estamos seguros de si esta es la mejor manera de usar los recursos, así que en cambio no haremos nada en ese ámbito y en lugar de eso crearemos una nueva función del producto.” Porque era crecimiento a cualquier costo, y seguridad eventualmente.
¿Por qué crees que la dirección fue tan lenta en responder a la confianza y seguridad?
Cuando la confianza y la seguridad van bien, nadie piensa en ello ni habla al respecto. Y cuando la confianza y la seguridad van mal, generalmente es algo en lo que los líderes quieren echarle la culpa a las políticas. Francamente, las políticas van a servir como una solución temporal si tu producto no está diseñado de manera que realmente no fomente el abuso. Tienes que planificar eso, chicos.
Gamergate, que ocurrió en otras redes sociales, pero gran parte sucedió en Twitter, parece ser el momento en que la gente empezó a darse cuenta de que “esto no es solo el mundo en línea, y esto es el mundo real”. Hubo una realización de que el acoso, el doxing y las amenazas de seguridad tienen efectos en el mundo real. ¿Fue ese un momento de realización para el liderazgo de Twitter?
Tal vez brevemente. Tal vez el tiempo suficiente para decir: “Deberíamos tener una política que prevenga este tipo de cosas”. Y luego volvimos al mismo punto: yo diciendo que tengo que seguir contratando personas porque no tengo las herramientas que necesito. Y los ingenieros que podrían construir las herramientas que necesito están enterrados en deuda técnica, atrasados en proyectos debido a todos los lanzamientos anteriores en los que no obtuvimos las herramientas que necesitábamos, o desesperadamente tratando de evitar más deuda técnica, tal vez tratando de arreglar herramientas que están rotas.
Es interesante que sigas hablando de “herramientas” y-
Sí, lo hago.
—porque cada vez que hablamos con los líderes de las plataformas tecnológicas y les preguntamos sobre la moderación de contenido, a menudo dicen: “Utilizamos una combinación de moderadores humanos e IA (inteligencia artificial)”. Entonces, cuando dices herramientas, me pregunto, ¿a qué te refieres específicamente?
A herramientas que las personas puedan usar en el desarrollo de sus trabajos. Por ejemplo, llevar años implementar un algoritmo de detección de múltiples cuentas semi-efectivo. Años.
Y ese algoritmo permitiría a alguien de tu equipo detectar si alguien tiene varias cuentas de Twitter y probablemente debería ser marcado.
Correcto. O incluso podríamos usar esa información unas cuantas etapas antes, en caso de que alguien sea reportado por violación y haya una verificación automatizada para determinar si esa cuenta está vinculada a otras cuentas que han sido suspendidas anteriormente. Si es así, y la edad de la cuenta es menor que la edad de la cuenta suspendida más antigua, entonces sabes que probablemente se creó para evadir la suspensión en primer lugar. Así que simplemente la suspendes y ni siquiera necesitas que un humano revise ese contenido.
A veces se describe a Donald Trump como el primer presidente de Twitter, aunque sabemos que eso no es literalmente cierto, pero Trump lo utilizó de cierta manera. Fue al final de su presidencia cuando Twitter comenzó a etiquetar sus tweets como engañosos, como cuando tuiteó que era inmune al Covid después de haberse recuperado recientemente de él. ¿Qué hay detrás de esta decisión?
Ni siquiera fue el primer líder mundial en recibir una etiqueta. Pero había una realización de que había personas que encontraban que el contenido era creíble y podrían ponerse en peligro inminente como resultado. Intentamos realmente delinear: si algo iba a llevar a que alguien muriera si lo creía, queríamos eliminar eso. Si algo simplemente… No iba a matarte de inmediato, pero no era una gran idea o era información falsa, entonces queríamos asegurarnos de señalar eso.
¿Crees en general que las plataformas deberían ser árbitros de la verdad?
Siento en general que es imposible, pero también creo que deben intentarlo. Es realmente cierto. Nunca vas a poder tener éxito por completo. Nunca vas a poder evitar que sucedan cosas malas.
Consistentemente he tenido conversaciones con personas… porque las personas involucradas en la confianza y seguridad lo hacen porque les importa, ¿verdad? No te dedicas a la confianza y seguridad porque te gusta que te elogien por tu trabajo. Realmente tienes que querer meterte en los extraños y complicados problemas humanos donde a veces ambas partes tienen la culpa, a veces ninguna tiene la culpa, y aún así tienes que navegar por todo eso.
Solía contar esta historia apócrifa de un niño pequeño que camina por la playa y hay muchas estrellas de mar varadas en la playa, tratando de volver al océano antes de morir. Y él camina por la playa, y cada vez que se encuentra con una estrella de mar, la recoge y la arroja de nuevo al agua. Y este hombre se acerca y pregunta: “¿Qué estás haciendo? No tiene sentido hacer eso. Literalmente hay miles de estrellas de mar en esta playa. Nunca vas a poder hacer la diferencia aquí”. Y el niño recoge la siguiente estrella de mar y la arroja al océano y dice: “Hice la diferencia en esa”.
Todavía estabas en Twitter el 6 de enero de 2021. ¿Qué pasaba por tu cabeza ese día?
Recuerdo principalmente destellos de ese día. Pero lo que recuerdo con claridad es darme cuenta de que no existe una especie de poder supremo o algún nivel superior de personas que vendrán a solucionar esta situación. El gobierno está haciendo lo que está haciendo. Debemos hacer lo que podemos hacer. Hubo un momento en el que a dos de nosotros nos dieron teléfonos satelitales y éramos los únicos que también teníamos la capacidad de suspender la cuenta por motivos de seguridad.
La cuenta de Donald Trump.
La cuenta de Donald Trump. Dos de nosotros en Twitter teníamos guardias de seguridad afuera de nuestras casas y teléfonos satelitales en caso de que la infraestructura comenzara a colapsar, la infraestructura social. Y en caso de que necesitáramos suspender la cuenta por alguna razón. Lo cual, nuevamente, en ese momento, cuando estás inmerso en eso, no lo piensas mucho. Y luego, después de los hechos, lo piensas y te horrorizas un poco.
¿Tienes algún arrepentimiento sobre cómo Twitter manejó el 6 de enero o los días previos?
Esta fue, nuevamente, una época en la que muchas de las herramientas que habíamos pedido durante años hubieran sido geniales. Hicimos mucho manualmente ese día. Hicimos mucho que creo que nunca ha sido reconocido ni reconocido. Nuevamente, porque cuando las cosas funcionan en confianza y seguridad, nadie habla de ellas. Y también parecía que, de alguna manera, era un poco más fácil culpar a las redes sociales que buscar otros lugares donde podría estar la culpa.
¿Te refieres al informe del 6 de enero?
Me refiero a cualquier número de informes.
Porque el memo separado del Comité del 6 de enero indicaba que Twitter, y otras plataformas de redes sociales también, pero Twitter en particular no hizo caso a las advertencias de los empleados de que las cosas iban a ser increíblemente disruptivas en el Capitolio.
Quiero decir, yo estaba dando esas advertencias.
¿Dónde ocurrió el fallo? ¿Fue Vijaya [Vijaya Gadde, ex jefa de asuntos legales, políticos y de confianza en Twitter]? ¿Fue Jack? Solo hay tantos niveles superiores desde tu posición.
Diría que Vijaya y yo estábamos generalmente alineados. Realmente disfruté trabajar con Vijaya. Ella era una gran defensora para nosotros.
¿Qué opinas del testimonio de Anika Collier Navaroli ante el Comité de Supervisión de la Cámara de Representantes de Estados Unidos?
Mi opinión al respecto, que creo que está relativamente bien informada, es que simplemente no creo que ella tuviera información sobre gran parte del trabajo que se estaba realizando porque estaba sucediendo en conversaciones entre yo, Yoel [Yoel Roth, jefe de confianza y seguridad en Twitter después de Harvey] y el soporte de Twitter. Y estaba sucediendo mucho antes del 6 de enero. Teníamos [estas políticas] implementadas desde después de las elecciones, y creo que fue simplemente una falla de comunicación de lo que estaba sucediendo.
Hay un ejemplo que se comparte: “Locked and loaded” (Cargado y listo). Algunas personas en el equipo de confianza y seguridad pensaron: “¿Quién tuitearía ‘cargado y listo’ sin querer decir que van a salir y cometer violencia?” Y si se hiciera una encuesta de tweets y se miraran, se vería a personas tuiteando cosas como “Tengo mi vaso de bourbon, cargado y listo para el espectáculo de esta noche.” Si simplemente suspendiéramos a todos los que tuitearan “cargado y listo”, no podríamos priorizar las apelaciones y examinarlas. Y quién sabe cuántas personas habrían sido privadas de su derecho a la libertad de expresión en comparación con lo que intentamos hacer, que era resaltar lo más probablemente violatorio y suspender lo casi seguro violatorio.
Entonces, con un tweet de Trump como “¡Estén allí, será salvaje!” ¿En qué momento interpreta Twitter como una plataforma que eso puede ser violencia potencial, dado todo lo que está sucediendo con la elección en disputa, en comparación con alguien que dice, como mencionaste, “Voy al concierto. ¡Va a ser salvaje!”
Ciertamente creo que había motivos para examinar ese [tweet]. Luego hubo un intercambio posterior sobre cómo no asistiría a la inauguración, y eso me pareció de inmediato un mensaje cifrado. Observamos las respuestas que estaba recibiendo @ replies, y había muchas que decían: “Mensaje recibido. Entendido. Te respaldamos”. Ese tipo de respuesta, que indicaba bastante claramente que la inauguración estaba siendo potencialmente objetivo de un ataque debido a que él no estaría allí para evitar estar en peligro. Y eso caía en la categoría de violación.
¿Cuando te fuiste en 2021, te fuiste o te pidieron que te fueras?
Oh, me fui.
¿Cuál fue el último motivo para ti?
Tenía planeado un año sabático desde mediados de 2021 hasta el otoño porque mi hijo mayor iba a empezar el jardín de infancia. Mis hijos tenían este juego que les gustaba jugar en ese momento. Entraban en una nave espacial que les había hecho con un pequeño teclado adentro, y escribían con unos grandes auriculares puestos sobre sus oídos, y luego salían y decían: “OK, tengo un descanso. Puedo jugar un rato. ¡Oh espera, lo siento, tengo que atender esta llamada. Tendré que jugar contigo en el próximo descanso que tenga”. Estaban imitándome. Y pensé: “Oh, vaya, eso es brutal”.
Amplié mi año sabático a cuatro meses. Volví y hablé con Vijaya, y le dije: “No tengo confianza en que pueda hacer un buen trabajo en ambas cosas. Quiero ser un buen padre. Quiero que la confianza y la seguridad tengan un líder sólido que pueda centrarse en ellas”. Y decidí que tenía más sentido pasar este tiempo estando completamente presente para mis hijos en lugar de estar medio presente para mis hijos y medio presente para Twitter cuando ambos merecen atención a tiempo completo.
Cuando he hablado con antiguos empleados de Twitter que trabajaron en confianza y seguridad contigo, han señalado que Yoel ha estado realmente en primera línea desde entonces. Y que quizás las voces de las mujeres no se han escuchado, especialmente la tuya, ya que tú dirigiste la confianza y seguridad durante 13 años y él solo lo hizo más recientemente. ¿Por qué?
Bueno, a Yoel le encantaba salir y hablar de estos temas, y yo mantuve un perfil más bajo. No creo que Yoel estuviera tratando de borrarme de ninguna manera. De hecho, diría que él trató de asegurarse de que no me implicaran en conversaciones si no quería estarlo. Hablamos todo el tiempo. Aún. Es una buena persona. Sabía que estaba manteniendo un perfil bajo después de Twitter. No quería recibir las citaciones que él recibía regularmente.
La pregunta que tengo es, ¿por qué no recibiste citaciones?
Hubo intentos de notificarme. En un momento recibí una citación relacionada con Musk. Fue de su equipo legal, creo que cuando estaba tratando de deshacer la compra… pero eso se deshizo. Fue retractada.
Entonces, ¿nunca recibiste una citación relacionada con el 6 de enero? Esto es algo que ha desconcertado a algunos de tus antiguos colegas, el hecho de que nunca tuviste que testificar.
Quiero decir, no estoy tratando de darles ideas aquí, Lauren. Pero no, no lo hice. Lo máximo que escuché fue: “Nos gustaría hablar contigo”, y yo dije: “Estoy bien”. Esas citaciones fueron a Yoel porque él lideraba la integridad del sitio, que era la parte de confianza y seguridad que se centraba realmente en esto.
Tampoco pensé que [la investigación] fuera necesariamente de buena fe. Y creo que lo que vimos salir de esas audiencias lo ha validado. El resultado de muchas de ellas fue esta condena a las redes sociales y no realmente mucha autorreflexión en términos de los roles que diferentes partes del gobierno podrían haber desempeñado.
Y hay una razón por la cual esta es la primera vez que estoy hablando de ello. Me he emocionado un poco mientras hemos estado hablando de algunos aspectos. No es completamente libre de riesgos para mí de ninguna manera. Tengo dos hijos. Mi pregunta siempre ha sido, ¿qué es exactamente lo que crees que la gente va a sacar de esto? ¿Qué puedo agregar a esto que aún no se haya cubierto? No estoy tratando de buscar reconocimiento o algo por el estilo.
Entonces, ¿qué crees que será el futuro de la moderación de contenido para las plataformas tecnológicas? Nos estamos adentrando en otro ciclo electoral loco. Y ahora nos encontramos con mucha información errónea y desinformación que se está habilitando a través de la IA generativa. ¿Cómo manejan esto los equipos? ¿Cómo se supone que deben manejarlo?
No es una situación ideal. De hecho, no creo que haya ninguna plataforma que tenga las herramientas necesarias para abordar el problema a través de la eliminación. Abordar mediante la eliminación es algo que requiere mucho esfuerzo, especialmente si se quiere tener un proceso de apelación, que debería considerarse como un derecho humano en cierta medida.
¿Cuál es la alternativa?
Bueno, nunca debes tener solo un enfoque para un problema, ¿verdad? Quieres tener etiquetas, así como la capacidad de eliminar ciertos tipos de contenido. Quieres tener un enfoque principado y estructurado sobre cómo priorizar los tipos de desinformación, qué eliminar y qué no eliminar. Y quieres comunicarlo a las personas para que lo comprendan, con suerte.
La educación es realmente importante. Pero aquí está el desafío: la educación es más impactante cuando la ves en el momento en que necesitas la información. Deberías ver de inmediato una etiqueta como “Esto se ha determinado como potencialmente generado por IA. Tenemos este nivel de confianza de que es contenido generado”. Hay muchas cosas que podrían explorarse.
Piensa en lo unificada que fue la industria tecnológica en torno a la explotación sexual infantil. Fue lo primero que hizo que todas las diferentes compañías tecnológicas hablaran entre sí, y luego fue el terrorismo y luego el suicidio, que no son temas de conversación geniales en primer lugar, por supuesto. Y esos fueron los primeros porque eran tan claros en términos de ser problemáticos. Y esto, la desinformación generada por IA, es otra cosa que es claramente problemática. Casi puedo garantizar que las compañías tecnológicas están de hecho preparadas para compartir información entre sí sobre diferentes campañas de desinformación que están atacando la plataforma en diferentes momentos.
¿Extrañas Twitter?
Extraño a mucha gente. Teníamos grandes esperanzas. Teníamos planes geniales en los que realmente estábamos empezando a enfocarnos, algunos cambios importantes que estábamos tratando de hacer. Y siempre estaré un poco triste de nunca haber visto que se completaran o incluso que comenzaran a realizarse.
Twitter puede que esté muerto en nombre, pero ¿crees que la plataforma está muerta?
Necesitaría más datos antes de poder tomar esa decisión. Anecdóticamente, ciertamente ha habido muchos menos tweets. Además, ¿muerto en qué sentido? Hay un grupo nazi de extrema derecha muy activo, algunos grupos muy activos en esa plataforma. Creo que está muerto en ciertos aspectos para ciertas cosas. Y luego, para otras personas, es exactamente lo que quieren.
¿Crees que habrá otro Twitter en el futuro?
No sé si eso será muy probable. Realmente fue como un relámpago en una botella en muchos sentidos. Incluso en el período posterior, incluso con X, el hecho de que haya Threads y Mastodon y Discord y Bluesky y todos estos otros nodos descentralizados y nuevas plataformas y todos quieren ser parte de ello y están aprovechándolo… eso es genial. ¿Verdad? ¡Excelente! Pero está fragmentado.
En su momento de mayor brillo, Twitter fue como la Torre de Babel antes de que cayera.
Háganos saber qué piensa sobre este artículo. Envíe una carta al editor en [email protected].
