Los modelos leen. Las personas deciden.
La pregunta no es qué puede hacer la IA. Es qué pasa cuando se equivoca, y la respuesta está en cómo se reparte el trabajo.
IvanSofía
La pregunta que más oímos a los propietarios no es “¿qué puede hacer la IA?”. Han visto suficientes demos para saber que puede hacer mucho. La pregunta es: “¿qué pasa cuando se equivoca?”
Es la pregunta correcta. Todos los modelos cometen errores. Leen un 3 como un 8 en un escaneo borroso. Confunden a dos compradores con nombres parecidos. Están seguros cuando no deberían. La verdadera cuestión no es si hay errores, sino adónde pueden llegar.
Tres tareas, tres responsables
Nuestra respuesta es dividir el trabajo en tres y dar cada parte a quien mejor la hace:
- El modelo lee y propone. Convierte un correo en italiano en un pedido, una nota de voz en una operación, un certificado escaneado en campos. Es la parte desordenada del trabajo, y los modelos la hacen muy bien.
- El código calcula las cifras. Márgenes, costes de almacenaje, totales de factura, semanas de entrega. Código sencillo que da la misma respuesta siempre. Ningún modelo adivina un precio.
- Una persona decide. El pedido cuenta cuando alguien hace clic. El recordatorio sale cuando alguien lo aprueba. Y cada clic se puede deshacer.
Qué significa eso para los errores
Cuando un modelo lee mal una palabra, lo peor que puede pasar es un borrador erróneo. Una persona lo ve, lo corrige y sigue. Nunca se convierte en una factura errónea, porque la factura la calcula el código y la emite una persona.
Cuando el software no está seguro, no adivina. Deja las cosas como estaban y pregunta. Parece más lento. En la práctica es más rápido, porque nadie tiene que pasarse una tarde deshaciendo algo que la IA hizo por su cuenta.
Por qué importa para la confianza
Llevo años viendo a equipos adoptar herramientas nuevas. El patrón es siempre el mismo: la gente usa lo que puede comprobar.
Si el equipo ve qué leyó la IA y qué propuso, empieza a fiarse de ella en pocas semanas. Detecta un error, ve que era fácil de detectar y confía un poco más. Si la IA actúa sin que se vea, eso no ocurre nunca. Basta una sorpresa.
Por eso enseñamos nuestro trabajo. Qué se leyó, de dónde salió, qué se propone y quién dijo que sí.
Dónde actúa primero
Intentamos ser honestos con las excepciones. En el mercado MeatBorsa, las ofertas que llegan por correo se publican, y los mensajes del chat se traducen, antes de que mire una persona. Lo decimos claramente, porque debe saberlo por nosotros. Más sobre cómo mantenemos segura la IA.
