La IA puede contribuir a prevenir la violencia, siempre bajo principios de ética, derechos humanos y supervisión humana: Alesandra Martin García.

Puebla, pue. - Desde la Agencia de Inteligencia Artificial y Ética Algorítmica - AURA BUAP, la Mtra. Alesandra Martin García, docente de la Facultad de Ciencias Políticas y Sociales de la BUAP, así como del Instituto Mexicano de Periodismo, impartió la conferencia “La IA como aliada: mecanismos para prevenir la violencia”.

La especialista abrió la reflexión con una pregunta central: ¿podemos detectar la violencia antes de que se convierta en violencia?, ¿puede la IA hacerlo?

Ante la nueva realidad que viven las juventudes, destacó la importancia de aprovechar herramientas como la inteligencia artificial para anticipar riesgos, generar espacios seguros y fortalecer mecanismos de prevención, a partir del talento y la participación de los jóvenes en las distintas disciplinas académicas.

En este sentido, señaló: “La verdadera innovación no consiste en crear una inteligencia artificial capaz de decidir quién es peligroso, sino en construir herramientas capaces de ayudarnos a reconocer, antes, cuándo una sociedad está comenzando a normalizar la violencia”.

Explicó que la violencia no siempre comienza con un acto, sino que puede construirse socialmente a partir del lenguaje, las narrativas, la percepción y la conducta, hasta escalar a una crisis.

“La inteligencia artificial no debe utilizarse para determinar quién representa un peligro, sino como una herramienta capaz de apoyar en la identificación de patrones, tendencias, cambios y señales de riesgo”.

En este proceso, añadió, resulta indispensable considerar el contexto, la frecuencia, la relación entre mensajes y la evolución de las narrativas antes de realizar cualquier clasificación.

Asimismo, subrayó que una alerta no representa una sentencia: la IA puede detectar señales, pero corresponde a las personas interpretarlas y a las instituciones tomar decisiones, siempre bajo principios de ética, derechos humanos y supervisión humana. ¿Cómo utilizar la IA para proteger sin vigilar, prevenir sin estigmatizar y alertar sin criminalizar? 

“El desafío no es tecnológico, sino ético, político y social: construir herramientas que permitan identificar señales de riesgo sin vulnerar derechos, fortalecer las capacidades institucionales sin sustituir el criterio humano y utilizar la innovación para proteger la dignidad de las personas y fortalecer la convivencia democrática”.

La conferencia concluyó con una ronda de preguntas y respuestas, en la que las y los asistentes compartieron experiencias y reflexiones sobre los trabajos que se realizan desde otras áreas e instituciones como parte de los mecanismos para la prevención de la violencia.

Observatorio AURA BUAP. La IA puede contribuir a prevenir la violencia, siempre bajo principios de ética, derechos humanos y supervisión humana: Alesandra Martin García.