Le patron de Google, Sundar Pichai, a récemment exprimé sa frustration face à la présence de biais dans Gemini, l’IA générative de la société. La semaine dernière, certains utilisateurs ont critiqué les réponses de Gemini en raison de la présence d’images historiquement inexactes.
Suite à ces problèmes, Google a pris la décision de suspendre temporairement la génération d’images sur Gemini afin d’améliorer la qualité des résultats. Sundar Pichai a adressé un mail interne à ses équipes pour exprimer sa déception et reconnaître les biais présents dans l’IA.
Des mesures ont été mises en place pour éviter de futurs problèmes de ce genre, notamment des changements structurels et des améliorations des processus de lancement. Il est crucial de trouver le bon équilibre en matière de biais dans les IA génératives, afin d’éviter des résultats encore plus problématiques.
De nombreuses entreprises travaillant avec des IA génératives font face à des défis similaires et tentent de lutter contre les biais en introduisant des critères diversifiés dans les résultats. Il est essentiel de continuer à travailler sur ces questions pour garantir des résultats plus justes et fiables à l’avenir.
