Dans le premier article, « Écrivez vos premiers prompts avec ChatGPT », nous avons découvert les bases indispensables pour formuler de bons prompts et obtenir des réponses pertinentes, rapides et adaptées à vos besoins. Aujourd’hui, nous allons plus loin avec ce deuxième article : « Connaissez les risques liés à ChatGPT ». Il vous aidera à comprendre les limites, les précautions à prendre et les bons réflexes pour utiliser l’IA de manière responsable et sécurisée.

Protégez la confidentialité de vos données

Par défaut, ChatGPT stocke les données des utilisateurs pour améliorer l’outil et les services. Il ne s’en cache pas, comme cela vous est signalé la première fois que vous l’utilisez, rappelez-vous :

Vous devez donc faire attention à ne pas partager d’informations sensibles ou confidentielles, particulièrement dans un environnement de travail professionnel.

Supposons que vous discutiez avec ChatGPT de votre prochain projet d’entreprise, de vos informations financières personnelles ou de problèmes de santé. Il est essentiel que ces informations restent confidentielles et ne soient pas utilisées pour améliorer l’IA ou à des fins malveillantes.

Cela a déjà été un problème pour Samsung qui a interdit l’usage de ChatGPT après une fuite de données. En effet, des employés un peu trop enthousiastes ont discuté avec lui de projets confidentiels qui sont maintenant dans les mains d’OpenAI. Ces données pourraient servir à entraîner l’IA, qui se mettrait à son tour à partager des informations de Samsung à des concurrents involontairement. 😱

Le premier réflexe à avoir est… de ne pas partager de données confidentielles et sensibles, qu’elles soient personnelles ou professionnelles.

Néanmoins, vous pouvez aller un cran plus loin et activer une option dans ChatGPT pour que vos informations échangées restent privées. C’est un peu l’équivalent du mode « navigation privée » de votre navigateur web.

Pour configurer ChatGPT afin qu’il n’utilise pas vos données, allez dans le menu en haut à droite et sélectionnez Paramètres :

Ensuite, cliquez sur « Améliorer le modèle pour tous » dans Gestion des données puis désactivez l’option « Améliorer le modèle pour tous ». Par défaut, elle est activée comme sur cette capture d’écran, il suffit alors de cliquer sur le bouton vert pour la désactiver :

Luttez contre les biais et la discrimination

ChatGPT est une intelligence artificielle qui s’entraîne sur d’immenses données textuelles. Il a donc « lu » de nombreuses pages web et de nombreux livres.

Malheureusement, ces sources peuvent contenir des biais qui sont naturellement présents dans notre société. Ces biais peuvent se manifester de différentes manières, notamment dans les domaines du genre, de la race, de l’orientation sexuelle et de la religion, pour n’en nommer que quelques-uns. Si vous faites un usage aveugle de ChatGPT,  vous pourriez vous retrouver malgré vous à amplifier ces biais et à augmenter la discrimination de certains groupes de personnes (y compris le vôtre).

Imaginons que vous demandiez à ChatGPT de décrire les compétences d’un bon programmeur. Il pourrait, par inadvertance, utiliser des stéréotypes de genre et suggérer que les hommes sont plus compétents en programmation que les femmes. Dans un autre exemple, ChatGPT pourrait associer certaines professions ou compétences à des groupes ethniques spécifiques, renforçant ainsi des stéréotypes négatifs.

OpenAI travaille à limiter ces biais en configurant ChatGPT régulièrement. Néanmoins, vous ne devriez pas miser entièrement dessus. En tant qu’utilisateur, soyez vigilant et critique vis-à-vis des réponses fournies par ChatGPT et prenez du recul : « Est-ce que le texte fourni par ChatGPT me paraît biaisé ? ». Propose-t-il une vue du monde un peu trop simplifiée ?

Dans un contexte professionnel, il serait dangereux de répéter ces biais car vous pourriez être accusé de discrimination. Soyez donc prudent : s’il y a un problème, vous ne pourrez pas vous défendre en indiquant que le message vient à l’origine de ChatGPT. Vous avez une responsabilité car c’est vous qui diffusez ensuite les messages rédigés par ChatGPT.

N’hésitez pas à signaler les réponses inappropriées ou discriminatoires afin d’aider OpenAI à améliorer le modèle. À côté de chaque réponse, vous pouvez cliquer sur le pouce vers le bas pour indiquer que la réponse n’est pas satisfaisante :

Une fenêtre apparaît ensuite où vous pouvez indiquer la nature du problème.

Minimisez les hallucinations

Il arrive parfois que ChatGPT « invente » des réponses absolument fausses, mais qu’il vous les raconte avec aplomb comme s’il était sûr de lui. Ce fonctionnement a un nom : on dit que l’IA « hallucine » des réponses.

Pourquoi ChatGPT ferait-il cela ?

Il faut bien comprendre que ChatGPT est une IA dont le rôle est de « générer du texte ». Il n’a aucune notion de vérité. Il a certes « lu » de nombreuses pages web et de nombreux livres lorsqu’il a été entraîné par des chercheurs à l’origine, mais il n’est pas conçu pour donner la vérité. Il est à la base plus à l’aise pour inventer du texte, écrire des histoires, etc.

OpenAI travaille à rendre ChatGPT plus fiable, mais il ne faut pas tout miser dessus.

Ces hallucinations peuvent être amusantes, mais aussi potentiellement problématiques si elles sont prises pour des faits avérés.

Si vous demandez à ChatGPT de vous donner un exemple d’animal qui peut voler et nager, il pourrait répondre « un manchot volant », ce qui n’est pas exact, car les manchots ne volent pas.

Dans un autre exemple, ChatGPT pourrait inventer un événement historique qui n’a jamais eu lieu, causant des confusions ou des malentendus.

ChatGPT devient meilleur avec le temps et hallucine moins qu’à ses débuts. Néanmoins, les hallucinations sont toujours possibles et un vrai risque, car il est difficile de les détecter à moins de faire des recherches systématiquement en dehors de ChatGPT.

Pour minimiser les hallucinations, posez des questions claires et précises, et n’hésitez pas à reformuler votre question si la réponse obtenue n’est pas satisfaisante. De plus, vérifiez toujours les réponses fournies par ChatGPT avant de les utiliser à des fins sérieuses ou sensibles.

Vous devriez également consulter des sources externes pour confirmer ou infirmer les informations fournies par l’IA. Oui, c’est un comble, mais malgré ce que l’on dit parfois, à ce stade ChatGPT ne peut pas remplacer Google combiné à votre esprit critique.

En résumé

ChatGPT n’est pas parfait (eh non !). Gardez en particulier ces points en tête lorsque vous l’utilisez :

Méfiez-vous des hallucinations, ces réponses fausses inventées de toutes pièces par ChatGPT avec aplomb. Vérifiez les informations fournies par ChatGPT et consultez des sources externes pour confirmer ou infirmer les réponses.

Soyez attentif à la confidentialité des données : évitez de partager des informations sensibles et configurez ChatGPT pour ne pas réutiliser vos données.

Restez vigilant face aux biais et à la discrimination : soyez critique envers les réponses de ChatGPT et signalez les réponses inappropriées.