ChatGPT expliqué en 5 minutes

Dans cette série de vidéos pédagogiques destinée au grand public, l’équipe de recherche Flowers du Centre Inria de l'université de Bordeaux , spécialisée en Intelligence Artificielle (IA), vous propose de mieux comprendre comment fonctionnent les modèles de langage comme ChatGPT, Gemini ou Mistral. 

Les 8 vidéos d'une durée de 5 minutes chacune visent à permettre des non spécialistes de l'informatique ou de l'IA de se familiariser aisément avec l'IA générative.

Comment fonctionne ChatGPT? Un tour d’horizon en moins de 5mn

Cette vidéo est une introduction aux modèles de langage, qui sont à la base d’outils comme ChatGPT, Gemini ou Mistral. 

Le prompting, ou l’art de se faire comprendre par ChatGPT : explication en 5mn

Cette vidéo introduit la notion de prompting (ou instruction), qui permet de faire réaliser une certaine tâche à un modèle de langage (par exemple ChatGPT, Gemini ou Mistral) en lui expliquant cette tâche au moyen de phrases en langage naturel. On y voit, au travers d’exemples, deux méthodes de prompting (expliquer la tâche en langage naturel, et donner des exemples de réalisation de la tâche). 

Quelques exemples de "prompts" correspondant à des usages divers sont présentés, comme la génération de questions pour aider des élèves à réviser ou à anticiper des questions sur un sujet, ou l'aide à la rédaction à partir de notes.

Quelles sont les limites de ChatGPT ? Explications en 5mn (stéréotypes, erreurs factuelles, ...)

Les modèles de langage, comme ChatGPT, Gemini ou Mistral, on montré des capacités impressionnantes pour des tâches très variées (voir vidéo 1 de la mini-série). Cependant, ils ont aussi de nombreuses limites et faiblesses ! Dans cette vidéo, nous expliquons les principales : 

• Les modèles de langage sont entraînés à partir de données dont la qualité et l'origine peut être très variable. Le choix de ces données n'est souvent pas précisément contrôlé.
• Ces données, et donc les modèles de langage, peuvent contenir des "biais", c’est-à-dire une manière de penser automatique, qui ne repose pas sur un raisonnement ou sur des faits. Ces biais peuvent être injustes et renforcer des stéréotypes. Ces biais, s’ils ne sont pas contrôlés, seront alors répercutés dans les productions et les usages que l’on fait de ces modèles.
• Difficultés pour tracer les sources d'information : les connaissances exprimées par un modèle de langage ne peuvent être tracées, remontées à sa source de données correspondante dans le corpus d’entraînement du modèle.
• L'entrainement de ces modèles nécessite de quantités gigantesque de données et de calcul.
• Leurs productions peuvent contenir des erreurs factuelles, et parfois même "inventer" complètement des faits ou des raisonnements (on parle d'"hallucinations"). 
• En particulier, ces modèles n'ont pas appris en étant connectés au monde physique et peuvent faire des erreurs élémentaires de compréhension du monde physique, ou plus généralement de sens commun (en anglais, on parle de "grounding problem").
• Les productions des modèles de langage ont souvent un ton qui ressemble à celui d'un expert sûr de ses connaissances : leurs réponses sont en apparence parfois si crédibles et développées qu’il est facile pour un humain d’associer au modèle une intention, et de penser que le modèle a construit sa réponse dans un processus prenant en compte l’humain à qui il parle, ce qui n’est pas le cas.
• Les modèles comme ChatGPT, Gemini ou Mistral sont contrôlés par des acteur privés, et peu d'informations concernant leur fonctionnement, par exemple la manière dont ils traitent quelles données, ne sont pas disponibles.

Cette vidéo présente les limites et faiblesses majeures des modèles de langage tels que ChatGPT, Gemini ou Mistral

Les forces des modèles de langage

Cette vidéo présente les principales forces des modèles de langage tels que ChatGPT, Gemini ou Mistral. En dépit de certaines faiblesses, ils possèdent également un grand nombre de forces telles que : 

• Leur capacité à analyser un contexte donné pour fournir une réponse adaptée à une tâche.
• Leur utilisation d'outils externes (par exemple Wikipedia).
• La grande diversité des données sur lesquelles ils ont été entraîné.
• Leur capacité à produire des raisonnements basiques.
• Leur "sens commun" dans certains contextes. 
• Leur capacité à nous aider à trouver des idées créatives.

ChatGPT en 5mn : prompting avancé, raisonnements par chaînes de pensée et leurs limites

Les modèles de langage comme ChatGPT, Gemini ou Mistral sont capables de tenir des raisonnements simples pour résoudre un problème donné. Cependant, il est parfois nécessaire d'avoir recours à différentes techniques de prompting avancé pour les aider à organiser de tels raisonnements. 

Dans cette vidéo, nous verrons quelques unes de ces techniques (par exemple les chaînes de pensées) et discuterons de l'origine et des limites de ces capacités à raisonner.

GPT-4, Gemini, etc : quelles applications concrètes ?

Dans cette vidéo, nous vous proposons d’étudier les applications possibles de ces outils dans des domaines comme le travail, la santé, l’éducation ou encore la préservation de langues.

Faire manipuler des outils à ChatGPT

Les modèles de langage comme ChatGPT, Gemini ou Mistral sont capables de réaliser une grande diversité de tâches pour répondre aux besoins de leur utilisateur. Afin de tirer une meilleure partie de leurs compétences, on peut leur faire manipuler des outils lors de la rédaction de leur réponse.

Dans cette vidéo, nous vous proposons de voir comment cette manipulation d’outils est possible et quelles utilisations celle-ci peut apporter à l’utilisation : recherche internet, exécution de code, etc.

Adapter un modèle de langage au monde réel : l’ancrage des agents LLMs

La plupart des utilisations des modèles de langage aujourd’hui se font au travers d’une conversation avec l’utilisateur. Cette vidéo s’intéresse à la possibilité d’employer ces modèles en tant qu’agent autonome capables de résoudre une tâche donnée. 

On étudie plus particulièrement le problème de l’ancrage, qui se résume à adapter les connaissances théoriques et livresques d’un modèle de langage au monde réel, afin qu’il puisse s’en servir en pratique.

En savoir plus

• TPE PME : comment profiter de l’IA générative ?
• IA génératives : opportunités et usages dans les TPE et PME
• ChatGPT expliqué en 5 minutes