El sesgo de IA en Google
Google y su lucha contra el sesgo
Google ha tenido que detener la generación de imágenes de personas en su inteligencia artificial, Gemini, tras confirmarse un sesgo considerable en su funcionamiento. Este no es el primer incidente de este tipo para Google. Hace unos años, la compañía enfrentó críticas por identificar incorrectamente a personas negras como gorilas en Google Fotos. Ahora, el problema ha resurgido, pero de una manera diferente y potencialmente más perjudicial.
El problema con Gemini
Gemini ha estado generando imágenes de figuras históricas, como los padres fundadores de Estados Unidos y soldados nazis, pero siempre mostrando rostros de minorías. Esto parece ser un intento de evitar los estereotipos raciales y de género, pero ha tenido el efecto contrario. El sistema ha demostrado tener dificultades para generar imágenes históricas que muestren personas caucásicas.
La respuesta de Google
Ante las críticas, Google ha declarado que ya están “trabajando para solucionar problemas recientes con la función de generación de imágenes de Gemini”. Mientras se espera una versión mejorada, la compañía ha deshabilitado la generación de imágenes de personas.
El futuro de Gemini
Este problema con Gemini no ha sido un caso aislado. Desde que estuvo disponible para todos, Gemini ha estado generando imágenes de personas no blancas, incluso cuando se le pedía fidelidad histórica. Esto ha llevado a una serie de teorías de conspiración, incluyendo la idea de que Google está evitando intencionalmente representar a personas blancas en su IA.
Este incidente con Gemini abre una serie de preguntas sobre el nivel al que las IA pueden ser limitadas por sus creadores para evitar sesgos o contenido manipulado. Es crucial que los desarrolladores de IA reconozcan estos prejuicios y trabajen para minimizar las sospechas de manipulación. Esto podría lograrse dando más transparencia a esta tecnología.
Independientemente de la voluntad de los creadores, todos los sistemas de IA que estén abiertos al público deben estar sujetos a un control regulatorio y estandarizado para evitar la propagación de contenido sesgado o manipulado.
