Edición 9: Lo que tenés que saber sobre el caso de violencia digital que llegó a la Justicia

Y más: entrevista a Eliana Bracciaforte, recursos para fortalecerte frente a la violencia digital, mujeres liderando el mundo IT, noticias, informes y herramientas de IA.

¡Buen día con vibes navideñas! 🎄

En esta edición, la última del 2024, quiero hablarte sobre deepporn el uso de IA para crear contenido sexual manipulado sin consentimiento. Estuve siguiendo de cerca un proceso judicial en México en el que absolvieron al imputado por falta de pruebas técnicas. Es el primer caso en el país que intenta sancionar la creación de imágenes íntimas falsas, y aunque no se logró una condena, abre una discusión clave sobre la violencia digital y los vacíos legales que la permiten.

Vamos a analizar qué pasó, por qué no se logró una condena y qué desafíos enfrentamos cuando la tecnología se convierte en una herramienta para ejercer violencia.

¡Empecemos! No sin antes recordar que casi estamos a 24 años del Y2K:

En código Tech: hablemos de tecnología para el 99%

Te cuento primero sobre la denuncia: en octubre de 2023, ocho alumnas del Instituto Politécnico Nacional (IPN), que pertenece a la Escuela Superior de Comercio y Administración (ESCA) de México, denunciaron a Diego “N” por la creación de contenido íntimo falso con Inteligencia Artificial (IA) y sin su consentimiento.

Lo acusan de producir, poseer y comercializar en Internet más de 50 mil imágenes de desnudos de mujeres creados con IA, de las cuales algunas tenían los rostros de las denunciantes con un cuerpo falso.

El imputado: Diego “N” tiene de 19 años. Fue detenido en octubre de 2023, acusado de delitos contra la intimidad sexual agravado por la relación de confianza, dado que era compañero de estudio de las denunciantes. Además, enfrenta cargos por difundir pornografía infantil, ya que entre las víctimas hay quienes tienen 17 años. Aún permanece en prisión preventiva, ya que solo dos casos llegaron a juicio.

La sentencia: El juez decidió absolver a Diego “N” porque “no había elementos suficientes” para demostrar su culpabilidad en el delito contra la intimidad sexual de dos de las ocho víctimas. Todavía hay seis denunciantes que esperan llegar a juicio.

Cómo sigue el caso: Las denunciantes buscaban sentar un precedente sobre violencia digital con Inteligencia Artificial a nivel judicial pero también poner en agenda el uso de la tecnología para la creación de contenidos sexuales falsos sin consentimiento y la falta de regulación en el tema. La abogada de las jóvenes esperaba también que se reconociera la violencia digital en el marco de la Ley Olimpia, normativa mexicana sancionada en el 2020. Me lleva a pensar en las formas de justicia y en lo necesario que es identificar cuando estamos frente a la violencia digital.

Empecemos por entender qué es deepfake y por qué no hablamos de deep porn.

La palabra deepfake viene de la combinación de dos términos en inglés:
deep learning (aprendizaje profundo) + fake (falso)

💡 Deep Learning es una técnica de IA que utiliza redes neuronales (un sistema inspirado en el cerebro humano) para analizar grandes cantidades de datos y encontrar patrones complejos, como reconocer rostros en fotos, entender textos o traducir idiomas automáticamente.

Entonces:

Deepfakes son contenidos falsos creados por personas que utilizan la tecnología para manipular videos, audios o imágenes, haciendo que alguien parezca decir o hacer algo que nunca ocurrió, y sin que haya dado su consentimiento para que se produzca ese material.

Puede usarse en producciones creativas, como en el cine para efectos especiales o en publicidad, por ejemplo. ¿Viste cuando sale una nueva herramienta, como Grok (IA de X, ex Twitter) y todas las personas fácilmente pueden entender cómo funciona, generar imágenes y compartirlas en Internet? La IA democratiza el acceso a la tecnología, es cierto. Pero también puede representar una forma de violencia digital.

¿Por qué no hablamos de deep porn? Esto nos responde Angie Contreras, Comunicadora social y consultora en temas de comunicación con perspectiva de género y tecnología,:

“El concepto de deep porn es muy revictimizante. Por eso, hablamos de material o contenido de abuso sexual creado con herramientas tecnológicas, desde Photoshop hasta inteligencia artificial generativa. El problema es cómo hacemos para que estos conceptos encuadren en un Código Penal. Tiene que ser muy específico para que pueda ser aplicado legalmente. Y ahí radica el problema. Al menos, socialmente, desde los medios de comunicación, desde los activismos, desde la academia, sí repensamos estos conceptos para que informen y no revictimicen”.

Es un tema para complejizar y seguir abordando. No quiero cerrar (al menos en esta edición) sin una herramienta y una reflexión. Voy con lo segundo: aún el punitivismo es la principal vía que parece conducirnos a la justicia. No quiero decir que no hay que acudir a la vía legal, de ninguna manera. Solo que los procesos judiciales son lentos (muchas veces también costosos) y no siempre están abordados con perspectiva de género.

¿Cómo se repara el daño en las mujeres víctimas de violencia digital? Es para pensar y debatir. Un paso es ser protagonistas activas en la creación de tecnologías, diseñadas para crear soluciones a conflictos sociales que atraviesan a mujeres y diversidades. 

Y una herramienta: Pistas legales para apropiarte de tu proceso de justicia en casos de violencia digital. Es un manual de Cultivando Género (organización feminista que sigo, quiero y admiro). Te recomiendo leerlo, guardarlo y compartirlo porque sí que es una joyita digital. 💜

Tech Talk

Durante una década, Eliana Bracciaforte fue cofundadora y líder de Workana, la plataforma de trabajo freelance y remoto más grande de Latinoamérica. Logró posicionar a la empresa en la región cuando nadie hablaba del tema. Con esa experiencia y el deseo de innovar, decidió salir en busca de nuevos desafíos.

💡 “El trabajo es parte integral de la vida. Es un juego: tenemos que combinar algo que nos genere un ingreso, pero también tiene que ver con lo que buscamos: cómo le damos sentido a lo que hacemos todos los días. Construir cosas nuevas, empezar algo desde que es chiquito y nutrirlo me re motiva”, cuenta Eliana, mujer trans y emprendedora nata. Después de una intensa temporada de búsqueda, que tuvo momentos difíciles, se encontró con No Pausa, la startup que busca ofrecer soluciones con tecnología e información a la menopausia: se sumó como cofundadora y Head of Product & Tech.

Ahora, Eliana te comparte su enfoque para emprender, su método para validar ideas y cómo sigue apostando por un futuro donde las startups no solo sean rentables, sino también diversas.

Flor: ¿Qué criterios tenés en cuenta para validar si una idea tiene impacto y el modelo de negocio es rentable?

⚡ Eliana: Muchas veces la idea te viene sola o se te ocurre primero la solución que no está tan bien. Hay que enamorarse del problema e investigar mucho. También empezar a hablar con gente que te pueda dar feedback. Una persona a veces no tiene experiencia emprendedora y valoramos mucho las ideas que tenemos. Lo importante es cómo trabajas tu idea y cómo la entendés. En ese entendimiento sí se vuelve única. También en cómo la ejecutás. Y, lamentablemente, si no compartís la idea, no te vas a dar cuenta de un montón de cosas porque no tenés todos los conocimientos. Ese ida y vuelta después te hace investigar de nuevo porque te dicen cosas que no habías pensado. También hay muchas herramientas de evaluación de proyectos de negocios que te pueden ayudar a pensar y empezar a elaborar el business plan completo. Y ahí ves si a la idea le dan los números, si funciona el modelo de negocio. Tiene que ser sólida porque después es cuando hay que poner plata o tiempo.

*Eliana junto a Junto a Miriam de Paoli y Milagros Kirpach, cofundadoras de No Pausa

Flor: ¿Cómo es liderar una startup cofundada por mujeres?

⚡ Eliana: Con la cabeza de tres mujeres, como es el caso de No Pausa, la compañía que podemos armar puede ser distinta de muchas maneras: por cómo pensamos el éxito, por cómo creamos relaciones con nuestrxs clientxs, por cómo nos relacionamos con el medio, por cómo construimos equipos. Cuidamos quiénes somos y cómo se dan las discusiones. Suelen ser más saludables. En nuestro caso, queremos cambiar cómo viven su menopausia miles de mujeres, incluso quienes están en situaciones de vulnerabilidad. Ese es el impacto que queremos tener. Creemos que si cumplimos eso, el negocio va a funcionar porque para poder llegar tan lejos tenemos que ser grandes. Por eso también No Pausa ahora es una startup (antes era una sociedad civil). Para llegar a miles de mujeres, necesitamos ser una empresa y que ese negocio nos ayude a dónde queremos llegar: que quien termine pagando el costo no sea la mujer, sino su seguro de salud. Estamos en ese camino.

Flor: ¿Cuál es tu mirada sobre la diversidad en el ecosistema tecnológico?

⚡ Eliana: Está comprobado que los equipos con miradas más diversas son mejores. El tema es que muchas empresas no dan lugar a la diversidad en los equipos, entonces eso termina no mostrándose. A veces pasa que las minorías no se sienten con la suficiente seguridad psicológica para expresar sus ideas o para ser quiénes son. Eso limita la cantidad de ideas que fluyen en los equipos. Los equipos que te permiten ser y decir funcionan bien y toman mejores decisiones porque pueden mirar distintas aristas o variables. Por eso, está bueno que las personas sean diversas. Pero, las personas están sesgadas y las empresas creen que es mejor contratar personas parecidas. Te dan premios por traer amigxs al trabajo, por referidxs. Es más fácil sentirse cómodo con personas parecidas a vos porque nadie te va a cuestionar nada porque no van a tener que enfrentar nada diferente. Creo que es un tema de incomodidad y pereza. A veces las empresas creen que también le sacan más jugo a la gente moldeándola a su gusto: tenés que hacer esto así, tenés que venir vestido así, tenés que seguir los procesos así. Cuando haces que las personas sean de cierta forma dentro del trabajo, diferente a lo que son en su vida, estás matando la creatividad.

User friendly

A tu próximo Meet, Zoom o cualquier reunión virtual, invitá a Fathom. Es un asistente de IA que toma notas y organiza muy buenos resúmenes. Además, te permite extraer partes específicas de la grabación de la llamada, si querés compartirlo con alguien de tu equipo que, por ejemplo, no participó en esa oportunidad. Terminás la reunión y al instante tenés resumen y grabación en tu casilla de correo. Ah, y es gratis.

➡️ Vamos a trabajar, Fathom

Roadmap chill

📌 #MujeresLíderesTech Kate Rouch se sumó a Open AI como Chieff Marketing Officer (CMO). Viene de trabajar en Coinbase, una plataforma de comercio de criptomonedas. También, años antes, lideró la estrategia global de MKT en Meta. Quiero saber más sobre Kate.

📌 Da para largo el tema: Reino Unido tiene una subsecretaría de Inteligencia Artificial y Gobierno Digital, dependiente del Ministerio de Ciencia, Innovación y Tecnología, y está a cargo de una mujer: Feryal Clark, con una gran trayectoria en política. Ya está trabajando en proyectos y herramientas para “transformar los servicios públicos”. Lo cuenta en esta entrevista.

📌 Un dato: las mujeres tienen un 42% menos de probabilidades de iniciar un negocio durante el año en que dan a luz. Ser madre no solo reduce posibilidades a nivel negocio sino que también puede conducir a disminución de ganancias, en comparación con empresas dirigidas por mujeres sin hijos. Los hombres no sufren el mismo declive. Así surge del estudio realizado por Valentina Rutigliano, investigadora posdoctoral de la Escuela de Economía de Vancouver, y publicado en la Red de Investigación en Ciencias Sociales. El análisis me pareció interesante no por lo obvio (problematizar la recarga de tareas domésticas y de cuidado en las mujeres), sino porque pone el foco en la importancia de servicios de guardería gratuitos.

📌 Leyendo Wired conocí el Premio Equit@T 2024, organizado por la Universitat Oberta de Catalunya. Es una convocatoria internacional sobre género y tecnología para sumar a las carreras STEM a más mujeres y diversidades jóvenes. Si conocés jóvenxs, pasales la data.

📌 Y me despido con un chisme otro caso judicial. Se trata de dos influencers de Amazon. Sydney Gifford, de 24 años, acusa a Alyssa Sheil, de 21 años, de plagio por copiar su estilo estético minimalista. Las dos se visten de beige y su casa es un exceso de total white. Lo que ambas buscan defender es su identidad digital. Está entretenida la historia completa, que incluye cita de Kim Kardashian y todo.

yorokobu

A post shared by @yorokobu

Hasta aquí, llegamos hoy. Me gustaría conocerte más para ofrecerte mejores ediciones, así que te invito a completar este form:

¡Gracias por ser parte de ProtoTipas! Es hermoso saber que estás del otro lado, leyendo la newsletter con un mate, un café, un vino, lo que sea. Para mí, sos una compañía en esta ruta que busca democratizar el acceso a la tecnología, sobre todo para mujeres y diversidades. Gracias por estar. Lo que más deseo para el próximo año es que nos sigamos haciendo compañía y que abraces en la vida real a cada persona que está en las malas, pero sobre todo a quienes están en las buenas, a quienes celebran con vos. 

La próxima edición ya será en 2025. ¡Felices fiestas! ❤️
Nos encontramos el próximo año.

Si te gustó el contenido, podés reenviarlo para que más personas se suscriban. Es una forma muy valiosa de apoyar mi trabajo. 💚

Si alguien te reenvió este correo y te querés suscribir, podés hacerlo ahora y recibir news sobre tecnología, cultura digital y género los miércoles, cada 15 días.

⚡ Soy Florencia Gordillo, periodista y Digital Project Manager. Estoy en Instagram y LinkedIn. Puedo ayudarte con asesorías sobre comunicación digital, tecnología y género. Para contactarme y conocer las propuestas, podés escribir a soyflorenciagordillo@gmail.com. ¡Hasta la próxima edición!