18/ En resumen 🧾

Buscamos modelos justos, eficientes y explicables para alertar 🚨 del odio online.

Porque nombrar el odio es el primer paso para frenarlo 💪

Y combatirlo no es solo tarea de la IA: es responsabilidad de todas y todos 🤝

#HiloTesis #IA #HateSpeech #NLP #Tesis #LLM #BiasInAI

17/ 💬 El odio no siempre es directo.

A veces se disfraza de "chiste" o comparación absurda.

Comparar personas con animales o enfermedades puede parecer exagerado, pero se ha normalizado.

Estamos creando un dataset para detectar este lenguaje 📊

16/ En un estudio que presentamos en una conferencia internacional en Italia 🇮🇹 aplicamos esta técnica para crear un modelo más pequeño y más explicativo.

Y no solo detecta odio: también dice por qué.

Transparente, rápido y sostenible 🌍🧠⚖️

📄 link.springer.com/chapter/10.1...

15/ Otro reto: los LLMs son gigantes.

Entrenarlos consume mucha energía 🌱

Con knowledge distillation usamos un modelo grande para que uno más pequeño aprenda de él. Más eficiencia, menos impacto.

14/ Para eso proponemos "Debias Tuning" 🛠️

Un método para que la personalización (como la memoria del modelo) no influya en temas sensibles.

Así, un mensaje se clasifica como odio o no igual para todas las personas, sin depender de su perfil ⚖️👥

13/ ¿Y eso afecta a la detección de odio? Pues sí 📉

Un mismo mensaje puede clasificarse distinto según el perfil del usuario.

Y eso genera desigualdades.

📄 arxiv.org/abs/2505.02252

12/ Algunos modelos ya tienen memoria.

Recuerdan con quién hablan, su estilo, idioma, incluso datos demográficos 🧠💾

Suena útil... pero también puede influir en cómo responden.

11/ La buena noticia: esto se puede mitigar.

Ajustando el modelo con lo que se conoce como "fine-tuning" o incluyendo reglas claras, reducimos los fallos.

✅ No se trata solo de enseñarles a detectar, sino a no repetir.

10/ Pero… ¿y si el modelo empieza a odiar también? 🤔

Analizamos respuestas de varios modelos y... a veces, sí: repiten ideas dañinas que aprendieron en los datos.

Presentamos estos resultados en otra conferencia internacional en Albuquerque, EEUU 🇺🇸

📄 aclanthology.org/2025.naacl-l...

8/ Pero no basta con decirle "detecta insultos".

Necesitamos muchos datos, en varios idiomas y formas 📊

El contexto importa: no todo lo que suena mal es discurso de odio 🎯

7/ ¿Y cómo lo detectamos?

Con ayuda de grandes modelos de lenguaje como el famoso GPT, LLaMA o Mistral 🧠

Los entrenamos para identificar patrones sospechosos de odio 📚

6/ ¿Cómo se manifiesta?

Aparece en textos, memes o imágenes que refuerzan estereotipos negativos.

También circula en grupos y foros radicalizados que amplifican estos mensajes y fomentan y justifican la violencia.

3/ ¿Qué es el discurso de odio?

Según la ONU: mensajes que atacan o discriminan a una persona o grupo por lo que es: su religión, etnia, nacionalidad, raza, color, género, origen, etc.

No es solo una opinión: es lenguaje que alimenta la desigualdad o la violencia 🚫

🧵 1/ Las redes están llenas de odio. ¿Puede la inteligencia artificial ayudarnos a detectarlo…

⚖️ sin discriminar,
🚫 sin reforzar estereotipos,
🔁 y sin aprender a odiar?

Esa es la gran pregunta de mi tesis.

👇 Te lo cuento en este #HiloTesis @crueuniversidades.bsky.social @filarramendi.bsky.social