La inteligencia artificial de Google está generando imágenes falsas de hongos, mezclando especies e incluso presentando imágenes de setas tóxicas como comestibles. Este preocupante fallo se ha detectado en las búsquedas de imágenes de Google, donde la IA está proporcionando resultados inexactos y potencialmente peligrosos.

El problema de las imágenes generadas por IA

El problema radica en que la IA de Google está alucinando, es decir, está generando información falsa y errónea. En el caso de las setas, esto puede tener consecuencias graves, ya que puede llevar a personas a consumir hongos tóxicos creyendo que son comestibles. La facilidad con la que la IA puede generar imágenes realistas hace que estas imágenes falsas sean difíciles de distinguir de las reales.

Un moderador del subreddit r/mycology descubrió que al buscar la especie *Coprinus comatus*, la imagen destacada era una representación generada por IA que difería significativamente de la realidad. La imagen, obtenida de Freepik, estaba claramente identificada como generada por IA, lo que demuestra la falta de verificación en el proceso de Google.

Consecuencias peligrosas

La problemática va más allá de una simple inexactitud. La difusión de estas imágenes generadas por IA, respaldadas por la autoridad de Google, aumenta su credibilidad y las propaga a otros sistemas. Esto puede tener consecuencias fatales, especialmente en el ámbito de la identificación de setas, donde una simple confusión puede ser mortal.

Expertos en micología advierten de la gravedad de la situación. Señalan la necesidad de que Google no solo marque estas imágenes como generadas por IA, sino que las elimine por completo para evitar la difusión de información potencialmente mortal.

¿Una solución a la vista?

Si bien los chatbots de texto muestran avances con modelos como O1 y Gemini 2.0 Flash Thinking, que incorporan mecanismos de razonamiento y revisión antes de presentar respuestas, el desafío de la verificación de imágenes generadas por IA resulta mucho más complejo. La velocidad con la que se propaga la información generada por IA en internet dificulta la tarea de controlar su veracidad y seguridad.

Este caso de las setas destaca la necesidad de una mayor rigurosidad en la verificación de la información generada por IA, especialmente en campos donde la información errónea puede tener consecuencias graves. La rapidez con la que se difunde la información generada por IA, aunada a su creciente realismo, exige la implementación de mejores mecanismos de control de calidad para proteger a los usuarios.

Fuente: Xataka