La IA ha resumido el expediente. Ahora comprueba de quién habla

Imagina un expediente en el que una madre describe problemas de sueño de su hijo y otro documento recoge una observación de un docente. Una herramienta podría resumir ambos como si el profesor hubiera confirmado todo el relato familiar. El párrafo suena limpio, ahorra espacio y cambia algo fundamental. Ha convertido dos fuentes con alcances distintos en una corroboración que quizá nunca existió.

Es un ejemplo hipotético, no un resultado atribuido a una herramienta concreta. El NIST describe entre los riesgos de la IA generativa la producción de contenido erróneo presentado con seguridad. Su perfil de gestión de riesgos es una referencia técnica voluntaria. No acredita la fiabilidad de un producto para elaborar conclusiones psicológicas o judiciales.

Hay tareas en las que automatizar parte del trabajo puede resultar útil, como proponer un índice o localizar menciones para revisarlas. La utilidad real se comprueba frente a la tarea y al material, incluyendo lo que se omite. Un resumen breve que pierde la única frase que matiza una acusación ha reducido palabras y aumentado el problema.

La revisión necesita poder cambiar el resultado

Para cada afirmación relevante, pide el documento y el fragmento exactos que supuestamente la sostienen. Luego vuelve al original. Una cita inventada, una fecha desplazada o un «no consta» convertido en «no ocurrió» pueden alterar la lectura de un caso. Que la herramienta proporcione una referencia no demuestra que esa referencia diga lo que ella afirma.

También conviene ensayar el procedimiento con material ficticio antes de usarlo profesionalmente y registrar los fallos que importan, sin confundir una demostración satisfactoria con una validación. La confidencialidad requiere decidir de antemano qué información puede tratarse y bajo qué condiciones. Tener acceso a una aplicación no autoriza por sí solo a introducir un expediente identificable.

La firma profesional conserva su significado cuando quien revisa entiende el recorrido de cada conclusión y tiene tiempo para rechazarla. Si la supervisión consiste en leer por encima un texto que ya parece terminado, resulta difícil saber qué se ha verificado. La pregunta práctica es sencilla y exigente. ¿Podrías reconstruir esta afirmación con los documentos originales si mañana desapareciera la herramienta?