Google lance l’outil SynthID Text pour identifier le contenu de l’intelligence artificielle

Google a annoncé le développement de l’outil SynthID Text, qui vise à faciliter la distinction du contenu généré par intelligence artificielle des publications rédigées par des humains. La société a également rendu cette outil open source.

SynthID Text fait partie d’une gamme plus large d’outils de « watermarking » dédiés aux sorties de génération d’intelligence artificielle. Le système de watermarking contribue à limiter la mauvaise utilisation des chatbots alimentés par l’intelligence artificielle pour diffuser des informations erronées et trompeuses, ainsi qu’à combattre la fraude dans les écoles et les lieux de travail.

Dans ses déclarations, Bushmeet Kohli, vice-président de la recherche chez DeepMind, a déclaré : « Bien que SynthID ne soit pas une solution magique pour identifier le contenu généré par l’intelligence artificielle, il représente une pierre angulaire dans le développement d’outils d’identification plus fiables. » 

De son côté, le chercheur Scott Arnson de l’Université du Texas à Austin, qui a précédemment travaillé sur la sécurité de l’intelligence artificielle chez OpenAI, s’est montré optimiste en déclarant : « J’espère que d’autres grandes entreprises de modèles de langage, telles que OpenAI et Anthropic, suivront l’approche de DeepMind dans ce domaine. ».

Il convient de noter que Google a révélé l’année dernière un watermarking pour les images, et a récemment lancé un pour le contenu vidéo généré par intelligence artificielle. En mai dernier, la société a annoncé l’application de SynthID à son programme intelligent Gemini, mettant l’outil gratuitement à disposition sur Hugging Face, un référentiel ouvert de jeux de données d’intelligence artificielle.

La société a publié un document de recherche dans la revue Nature, montrant que SynthID surpassait généralement les autres techniques de watermarking dédiées à l’intelligence artificielle dans les textes. L’étude a évalué la facilité de détecter les réponses des différents modèles d’intelligence artificielle dotés de watermarking.

L’outil SynthID ajoute un watermark invisible directement au texte lors de sa création par un modèle d’intelligence artificielle. L’équipe de Google DeepMind a montré que l’utilisation du watermark SynthID n’a aucun effet sur la qualité, l’exactitude, la créativité ou la vitesse du texte généré, conclusion tirée d’une expérience complète impliquant des millions d’utilisateurs utilisant le watermark dans les sorties de Gemini.