Comment fonctionne une IA générative et les modèles GPT  (i.e. Generative Pre-trained ou modèle d'IA générative pré-entrainé) ?

TONI, votre super assistant, fonctionne sur les modèles GPT-3.5 et GPT-4 d’OpenAI qui sont eux-même basés sur des prompts. En effet, l’utilisateur interagit avec le modèle en envoyant un prompt (i.e. message texte), auquel le modèle répond par une saisie semi-automatique. Cette saisie semi-automatique est la continuation du texte soumis au modèle.

Bien que ces modèles soient extrêmement puissants, leur comportement est également très sensible au prompt. La construction du prompt est dès lors clé pour obtenir une réponse pertinente et devient de plus en plus une compétence importante à développer.

Dans la pratique, le prompt agit pour configurer les pondérations du modèle pour accomplir la tâche souhaitée. Il s’agit toutefois plus d’un art que d’une science, qui nécessite souvent de l’expérience et de l’intuition pour créer un prompt réussie. Cet article à pour objectif de vous aider à vous construire des prompts efficaces et de présenter les concepts généraux qui s’appliquent à tous les modèles GPT

Toutefois, il est important de comprendre que chaque modèle se comporte d’une manière qui lui est propre, de sorte que les entraînements peuvent ne pas s’appliquer de la même façon à tous les modèles.

Qu'est-ce qu'un prompt ?

Les prompts de texte sont la façon dont les utilisateurs interagissent avec les modèles GPT. À l’instar de tous les modèles linguistiques génératifs, les modèles GPT essaient de produire la série de mots qui sont le plus susceptibles de suivre le texte précédent. C’est comme si l’on disait « Quelle est la première chose qui vous vient à l’esprit quand je dis <prompt> ? ». Les exemples ci-dessous illustrent ce comportement. Quand il rencontre les premiers mots d’un contenu célèbre, le modèle est en mesure de poursuivre le texte avec précision.

Composition d'un prompt

Les prompts réussis s’appuient souvent sur la pratique de l’apprentissage « en un coup » ou « en quelques coups ». Ce principe fait référence à l’inclusion d’un ou de plusieurs exemples du comportement souhaité du modèle, généralement en incluant des paires d’entrée et de sortie. Il ne s’agit pas d’un apprentissage dans le sens où le modèle est modifié de façon permanente. En lieu et place, les exemples conditionnent le modèle à répondre comme souhaité uniquement pour l’inférence actuelle. L’utilisation de prompts sans exemples est parfois appelée apprentissage « zéro coup ». Avec l’API Chat Completion, les exemples d’apprentissage en quelques coups sont généralement ajoutés au tableau de messages sous la forme d’exemples d’interactions utilisateur/assistant après le message système initial.

• Être précis. Laissez le moins de place possible à l’interprétation. Limitez l’espace opérationnel.
  
• Être descriptif. Utilisez des analogies.
• Se répéter. Il peut arriver que vous deviez vous répéter pour le modèle. Fournissez des instructions avant et après votre contenu principal, utilisez une instruction et un signal, etc.
• L’ordre est important. L’ordre dans lequel vous présentez les informations au modèle peut avoir un impact sur la sortie. L’endroit où vous placez les instructions, à savoir avant votre contenu (« Résumer les éléments suivants... ») ou après (« Résumer les éléments ci-dessus... »), peut faire varier la sortie. Même l’ordre des exemples en quelques coups peut avoir de l’importance. C’est ce que l’on appelle le « biais de récence ».
• Donner au modèle une « porte de sortie ». Il peut parfois être utile de fournir au modèle un autre chemin s’il ne parvient pas à réaliser la tâche attribuée. Par exemple, quand vous posez une question sur un texte, vous pouvez inclure un élément tel que « répondre par « introuvable » si la réponse n’est pas présente ». Cela peut aider le modèle à éviter de générer de fausses réponses.