VOLVER

Share

Aplican la Inteligencia Artificial para combatir el discurso de odio en redes sociales y promover la comunicación constructiva

El Grupo de Investigación SINAI de la Universidad de Jaén lidera el proyecto ‘MODERATES’, concedido por el Ministerio de Ciencia e Innovación, que va a permitir desarrollar herramientas y técnicas de inteligencia artificial basadas en el procesamiento del lenguaje natural.

Fuente: Diario digital UJA


Jaén |
21 de julio de 2023

Desarrollar herramientas y técnicas de Inteligencia Artificial basadas en el procesamiento del lenguaje natural para combatir el discurso de odio en redes sociales y promover la comunicación constructiva es el objetivo del proyecto ‘Moderates: Moderación de Contenidos en Redes Sociales’, que lidera el Grupo de Investigación SINAI (Sistemas Inteligentes de Acceso a la Información) de la Universidad de Jaén (UJA).

En un contexto de crecimiento exponencial de las redes sociales y rápida expansión de la comunicación digital, es fundamental garantizar un entorno en línea seguro y respetuoso para todos los usuarios. En este sentido, el proyecto Moderates se propone desarrollar herramientas y técnicas de inteligencia artificial basadas en el Procesamiento del Lenguaje Natural (PLN), con el fin de detectar preventivamente el discurso de odio y ofrecer soluciones que promuevan un diálogo constructivo. Estas técnicas, inspiradas en desarrollos innovadores como las que están detrás del famoso ChatGPT, permiten al grupo SINAI dar un paso más y diseñar herramientas que permiten la mitigación del discurso negativo mediante la generación automática de contranarrativas, enriqueciendo el entorno digital con mensajes positivos y constructivos.

Los investigadores responsables del proyecto, L. Alfonso Ureña y Maite Martín.

Los investigadores principales del proyecto, los catedráticos de la Universidad de Jaén L. Alfonso Ureña y María Teresa Martín, subrayan la importancia de esta iniciativa: «La moderación de contenidos en redes sociales es un desafío actual que requiere la colaboración de la academia, la industria y la sociedad en general. Nuestro objetivo es desarrollar sistemas automatizados que identifiquen y combatan el discurso de odio, fomentando así un entorno virtual más seguro y enriquecedor para todos los usuarios», declaran.

El proyecto, que cuenta con una financiación de casi 300.000 euros correspondiente a la convocatoria de Transición Ecológica y Digital del Ministerio de Ciencia e Innovación, representa un avance significativo en la aplicación de tecnologías de inteligencia artificial basadas en el lenguaje para promover una comunicación online más constructiva y gracias al mismo, el Grupo SINAI de la Universidad de Jaén, que cuenta con una amplia experiencia en el desarrollo de sistemas basados en inteligencia artificial para la detección del discurso de odio, da un paso más para abordar este problema social y trabajar en su mitigación.

Tanto el Grupo SINAI, que desde su fundación en 2001 se ha dedicado al estudio y la investigación del PLN, como la propia Universidad de Jaén, están comprometidos con la promoción de la investigación científica y la innovación. De esta manera, este nuevo proyecto, en el que trabaja más de una decena de investigadores seniors expertos en PLN, se suma a los esfuerzos por contribuir al avance de la sociedad en la era digital y se espera que tenga un impacto significativo tanto desde el punto de vista científico como social en la promoción de una comunicación online más respetuosa y constructiva.


Share

Últimas publicaciones

Un proyecto de ciencia ciudadana diseña una guía doméstica para medir la calidad de los suelos
Andalucía | 22 de mayo de 2024

Investigadoras de la Universidad de Sevilla lideran esta iniciativa donde alumnado del IES Virgen de Valme (Dos Hermanas) y la asociación Enredaos con la Tierra (La Puebla del Río) desarrollarán un método destinado a público no experto para evaluar la biodiversidad y capacidad de descomposición de diferentes terrenos. Esta iniciativa forma parte del proyecto ‘Andalucía + ciencia ciudadana’, impulsado por la Consejería de Universidad, Investigación e Innovación y coordinado por Fundación Descubre y la Universidad Pablo de Olavide, que pretende potenciar la utilización de este abordaje científico participativo entre distintos agentes de la región.

Sigue leyendo
La Universidad de Córdoba participa en un nuevo proyecto del CERN para sustituir al acelerador del bosón de Higgs
Córdoba | 22 de mayo de 2024

El departamento de Física de la Universidad de Córdoba participa en la colaboración internacional del CERN, “DRD-Calorimetry”, que apuesta por el  I+D de los calorímetros, un tipo de detectores de partículas de carácter destructivo. De esta forma, cuando una partícula (sea un electrón o un protón) pasa a través de un calorímetro, depositará toda la energía que lleva “desapareciendo”. 

Sigue leyendo
Del laboratorio a los medios de comunicación: trabajamos cada día para que la ciencia andaluza sea noticia
Andalucía | 21 de mayo de 2024

¿Por qué es importante conocer qué avances científicos se están generando y afectan a nuestro día a día? Dar visibilidad a los avances científicos forma parte de la divulgación de la ciencia y es uno de los objetivos de Fundación Descubre. Para ello, cuenta con la web www.fundaciondescubre.es y su canal Ciencia Directa, la única agencia de noticias de ciencia andaluza; el portal iDescubre, destinado a la ciudadanía con actividades y proyectos de actualidad; y una veintena de sites temáticos como la Guía Experta, con más de 800 investigadores disponibles.

Sigue leyendo

#CienciaDirecta

Tu fuente de noticias sobre ciencia andaluza

Más información Suscríbete

Ir al contenido