Le lanzamos a la IA el siguiente prompt: "Analiza esta imagen y resuelve el Sudoku. Muéstrame el tablero final y explícame los pasos que has seguido para completar las filas y columnas."
Tras obtener su respuesta, analizamos que ha cometido muchos errores. Le decimos donde a cometido los errores y le pedimos que los corrija. Esta fue su respuesta afirmando que el resultado ya era correcto y defendiendo que su respuesta estaba bien:
En mi opinión, la IA falla en resolver problemas tan sencillos como un Sudoku porque para responder busca en millones de fuentes para ver cual es la solución más probable, pero para resolver un sudoku no vale "la solución más probable" y se necesita una precisión matemática exacta.
Una "alucinación" en un un modelo de lenguaje (LLM) es el fenómeno que ocurre cuando la IA genera una respuesta que suena coherente, fluida y perfectamente lógica, pero que en realidad es falsa o inventada. El término "alucinación" se usa precisamente porque la IA no pretende engañar, simplemente cree que lo que esta diciendo es la continuación más probable.
Sobre el uso de la IA en trabajos escolares o investigación profesional este ejercicio nos enseña que aunque la IA puede ser una herramienta muy útil, sencilla y cómoda de usar, hay que tener mucho cuidado y contrastar siempre si la información que nos esta dando es veraz o nos esta mintiendo. Como hemos podido comprobar, no podemos fiarnos de la primera ni de la segunda respuesta supuestamente "corregida" porque ambas son erróneas, así que hay que tomar muchas precauciones y no confiar demasiado en su criterio.