La coordinadora de una fundación abre ChatGPT por primera vez un viernes por la tarde. Tiene que entregar el lunes un informe de avance al financiador y lleva dos semanas sin tiempo para escribirlo. Pega en la ventana las notas de las últimas visitas a campo, con nombres, direcciones y lo que cada familia le contó, y pide un resumen. El resumen sale bien. El informe se entrega a tiempo. Y nadie en la organización se pregunta dónde quedaron esas notas, quién puede leerlas ahora, ni si las familias habrían estado de acuerdo.
Esta escena se repite en muchas organizaciones. No es un problema de mala fe. Es que la herramienta llegó antes que las reglas. Este artículo propone unas reglas mínimas para empezar a usar inteligencia artificial en una organización social sin poner en riesgo a las personas con las que trabaja.
Qué es y qué no es
Para lo que nos importa aquí, la inteligencia artificial generativa es una herramienta que produce texto (o imágenes, o resúmenes) a partir de lo que le pides y de lo que le das. Hace bien tres cosas: resumir material largo, redactar borradores a partir de instrucciones claras y clasificar o agrupar información según criterios que le indiques.
No es un buscador de verdades: puede inventar datos con total seguridad. No es un archivo: lo que escribes en una herramienta gratuita en la nube puede quedar almacenado y, en algunos casos, usarse para entrenar modelos. Y no es un sustituto de la escucha: no sabe nada de tu territorio ni de tus participantes que tú no le hayas contado, y lo que le cuentas deja de estar solo contigo.
El Perfil Digital del Sector Social 2024, de Propel y 60 Decibels, recoge dos casos útiles. Bive, en Colombia, usa ChatGPT-4 para campañas de marketing, y Tani, en Perú, incorporó ChatGPT 4 para gestionar información y mejorar sus comunicaciones. En los dos casos la herramienta entra por tareas de comunicación, no por los datos de los participantes. Ese orden no es casualidad.
Tres usos de bajo riesgo
Resumir. Actas de reunión, documentos de política pública, convocatorias de financiadores, informes propios de años anteriores. Material que ya es público o interno sin datos de personas. Ahorra horas y el riesgo es bajo, siempre que alguien del equipo lea el resumen contra el original antes de usarlo.
Redactar. Borradores de correos, textos para redes, estructuras de propuestas, versiones en lenguaje sencillo de un documento técnico. La herramienta propone, la persona corrige. Nunca sale de la organización un texto que nadie haya leído completo.
Clasificar. Agrupar comentarios de una encuesta anónima por temas, ordenar una lista de convocatorias por tipo, etiquetar preguntas frecuentes. Útil cuando el volumen supera lo que una persona puede leer con calma, y siempre con una muestra revisada a mano para comprobar que la clasificación tiene sentido.
Tres líneas rojas
Datos de participantes. Nombres, documentos, direcciones, teléfonos, historias de vida, fotos. Nada de esto entra en una herramienta de IA en la nube, y menos en una cuenta gratuita. La Ley 1581 de 2012 establece que el tratamiento de datos personales requiere autorización de la persona para una finalidad concreta, y que los datos sensibles (salud, origen étnico, orientación política, entre otros) y los de niños, niñas y adolescentes tienen protección reforzada. Pegar esas notas en un chat es un tratamiento de datos para el que nadie autorizó nada.
Decisiones sobre personas. Quién entra a un programa, quién recibe un apoyo, a quién se prioriza, qué familia está «en riesgo». Estas decisiones las toma el equipo con criterios conocidos y explicables. Una herramienta que no sabe de dónde salen sus propias respuestas no puede sostener esa responsabilidad, y la organización tampoco podría explicarle a una familia por qué quedó fuera.
Sustituir la escucha. La tentación de «preguntarle a la IA qué necesita la comunidad» en vez de ir a preguntarle a la comunidad. La herramienta solo devuelve generalidades plausibles. El conocimiento del territorio sigue estando en el territorio.
Reglas de cuidado de datos en seis líneas
Una política de uso no necesita más que esto para empezar:
- Antes de pegar algo en una herramienta de IA, quita nombres, documentos, direcciones y cualquier dato que permita identificar a una persona.
- Usa cuentas de la organización, no personales, y revisa qué dice la herramienta sobre el uso de lo que escribes.
- Todo texto generado lo lee una persona completo antes de usarse.
- La IA no decide nada sobre personas. Propone, ordena, resume.
- Si tienes dudas sobre si un dato puede entrar, no entra.
- Lo que se hace con IA se dice: en el equipo, y al financiador si pregunta.
Un primer experimento de una semana
Una corporación de nueve personas que trabaja en educación en el Eje Cafetero lo hizo así. El lunes eligieron una sola tarea: resumir las actas de los comités de los últimos seis meses para preparar la planeación. Las actas no tenían datos de participantes; donde los había, los quitaron a mano. Martes y miércoles, dos personas probaron con distintas instrucciones y compararon resultados contra las actas originales. Jueves, el equipo leyó los resúmenes y anotó qué faltaba y qué estaba mal: la herramienta había omitido dos decisiones importantes y había inventado una fecha. Viernes, media hora para decidir: ¿sirve?, ¿para qué sí y para qué no?, ¿qué regla falta?
El resultado fue modesto y útil. Decidieron usarla para primeros borradores de resúmenes internos, nunca sin lectura completa, y escribieron la regla de que las actas con nombres de familias se limpian antes. Con eso tenían más política de IA que la mayoría de las organizaciones que llevan un año usándola.
Por dónde empezar
- Elige una tarea sin datos de personas que hoy le cuesta horas al equipo: actas, convocatorias, informes antiguos.
- Prueba durante una semana con dos personas y compara siempre lo que sale con el original.
- Escribe las seis reglas de cuidado de datos en una página y compártela con todo el equipo, incluidos quienes están en campo.
- Revisa a los 30 días qué cambió, qué salió mal y si vale la pena la siguiente tarea.
Si quieres que lo miremos juntos, una conversación de 20 minutos basta.