¿Quién responde cuando la IA se equivoca?

La inteligencia artificial (IA) ya forma parte del trabajo cotidiano de muchas redacciones. Se utiliza para resumir documentos, transcribir entrevistas, proponer titulares, traducir textos, investigar antecedentes, generar metadatos o agilizar diferentes etapas de producción.

El problema comienza cuando cada periodista, editor o colaborador decide individualmente cómo, cuándo y para qué utilizarla.

¿Se puede introducir una entrevista completa en un chatbot? ¿Utilizar información confidencial? ¿Pedirle que redacte un párrafo? ¿Generar una fotografía? ¿Hay que informar al lector cuando intervino una herramienta de IA? ¿Quién verifica lo producido antes de publicar?

Sin criterios comunes, una herramienta creada para aumentar la eficiencia puede convertirse rápidamente en un riesgo para la credibilidad, la responsabilidad editorial y la reputación del medio.

En esta entrega de Hablemos Editorial veremos por qué las redacciones necesitan establecer un manual claro de do's & don'ts para el uso de inteligencia artificial y qué debería incluir.

Imagen: Dall-e

Las políticas generales funcionan poco cuando el periodista está frente a una herramienta tomando una decisión concreta. Por eso, un manual de IA debe responder situaciones reales del flujo editorial y establecer claramente qué está permitido, qué está prohibido y qué requiere supervisión adicional.

Associated Press, por ejemplo, actualizó sus estándares sobre inteligencia artificial en julio de 2026. Entre los usos permitidos contempla apoyo para investigación preliminar, resúmenes de documentos, transcripción, traducción, titulares, correcciones gramaticales y optimización para búsquedas. Sin embargo, establece un principio fundamental: el contenido generado debe ser revisado por periodistas y la IA no sustituye el reporteo, las fuentes, la verificación ni el criterio editorial. AP también mantiene restricciones estrictas sobre la generación o alteración de fotografía periodística.

Ese tipo de precisión es justamente lo que necesita una redacción.

Cada organización deberá adaptar sus políticas a su línea editorial, estructura, tecnología y nivel de integración de inteligencia artificial. Pero hay algunos temas que deberían estar definidos desde el principio:

• Usos permitidos. Especificar en qué tareas puede utilizarse IA: transcripción, traducción, búsqueda de información, generación de ideas, propuestas de titulares, SEO, metadatos, resúmenes o procesamiento de grandes volúmenes de información, por ejemplo.

  
  

  
  

• Usos restringidos o prohibidos. Definir dónde la intervención humana es indispensable. Generar citas inexistentes, incorporar datos no comprobados, publicar automáticamente contenido producido por un modelo o alterar imágenes periodísticas son ejemplos de situaciones que requieren límites inequívocos.

  
  

  
  

• Protección de información. Los periodistas necesitan saber qué materiales nunca deben introducirse en herramientas externas: identidades de fuentes confidenciales, documentos embargados, investigaciones no publicadas, datos personales o cualquier información sensible del medio.

  
  

  
  

• Verificación humana. Todo resultado generado por IA debe tener un responsable. Si una herramienta resume una investigación, traduce una nota o propone información para una cobertura, alguien debe verificar el resultado antes de que llegue a publicación.

  
  

  
  

• Transparencia. También debe definirse cuándo la utilización de IA es suficientemente relevante como para informárselo a la audiencia. No necesariamente requiere la misma divulgación una corrección ortográfica que una pieza en cuya elaboración la tecnología tuvo una participación sustancial.

  
  

  
  

• Herramientas autorizadas. No todos los sistemas tienen las mismas condiciones sobre privacidad, almacenamiento de datos, propiedad intelectual o uso posterior de la información. La redacción debe determinar qué plataformas están aprobadas y bajo qué condiciones pueden utilizarse.

  
  

  
  

• Errores y correcciones. El protocolo debe contemplar qué hacer cuando una herramienta introduce información incorrecta, atribuciones falsas, imágenes manipuladas u otro problema que llegue a publicación.

Hay un principio particularmente importante: la responsabilidad editorial no puede delegarse a un algoritmo. Si una herramienta inventa un dato y ese dato termina publicado, el lector no responsabilizará al modelo. Responsabilizará al medio que puso su nombre, su logo y su reputación sobre esa información.

Precisamente por eso la supervisión humana es tan importante para las audiencias. Una investigación del Reuters Institute encontró que solo 12% de las personas consultadas se sentían cómodas con noticias producidas completamente por IA, frente a 62% con contenidos realizados enteramente por humanos. La aceptación aumenta considerablemente cuando la tecnología funciona como apoyo y existe intervención humana.

El mismo estudio refleja una preocupación adicional: las audiencias temen que la IA pueda hacerlas menos transparentes y confiables. Para una organización periodística, por lo tanto, regular el uso interno de IA también es proteger el valor de su marca.

Hay otro punto importante: el manual no debería convertirse en un PDF que alguien guarda en una carpeta y nadie vuelve a consultar.

Las reglas tienen que reflejarse en la operación.

¿Qué contenidos requieren revisión adicional? ¿Quién puede aprobarlos? ¿Qué herramientas están integradas al proceso? ¿Cómo queda registrado un cambio? ¿En qué momento interviene un editor?

Aquí la tecnología editorial también juega un papel. Un CMS con flujos configurables, fases de edición y revisión y bitácoras de cambios puede ayudar a convertir una política institucional en un proceso que realmente pueda cumplirse. SACS Pro, por ejemplo, permite configurar etapas de edición, revisión y liberación, además de mantener registro de los cambios realizados durante el proceso editorial.