Google rêve d’une utilisation transparente et honnête de l’IA

L'intelligence artificielle générative est devenue une véritable machine à désinformation, en particulier sur les réseaux sociaux. On ne compte plus les fausses informations partagées grâce à des images générées ou de fausses photos.

Bien conscient de l'importance de ce sujet, Google a utilisé la conférence de la Google I/O pour reparler de la transparence dans l'usage de cette technologie.

Des formats garantissant l'origine

Google met en avant son format SynthID qui intègre un filigrane numérique dans le fichier image générée pour divulguer l'utilisation de l'IA lors de la création du fichier.

La firme utilise également C2PA Content Credentials, un standard du secteur pour suivre l'historique de création et de modifications des fichiers médias. Google annonce une intégration de ce standard aux Google Pixel 8, 9 et 10 dans une mise à jour de l'application caméra à paraître dans les prochaines semaines.

De plus, les fichiers qui portent ce filigrane auront droit à une signalisation spéciale sur Instagram.

Google veut aussi mettre à contribution l'IA pour vérifier si du contenu est généré par IA. Ainsi Gemini peut désormais répondre à des questions comme « est-ce que c'est créé avec de l'IA ? » quand on lui fournit une image.