Comment optimiser le prompt engineering ?
La plupart des personnes commettent une erreur en pensant que la clé est de fine-tuner le modèle.
Ce n’est pas le cas !
Dans la création de votre propre modèle et la maîtrise du prompt engineering, le contexte est la véritable force. Ce n’est pas la seule technique, mais c’est un réglage fin. Faites corps avec le contexte, sinon vous risquez d’être dominé par les IA (droïdes).
1. Qu'est-ce que le Prompt Engineering ?
Parfois appelée prompt tuning ou prompting (même s’il y a une légère différence), cette technique était très populaire l’année dernière. Pour les utilisateurs de ChatGPT, il s’agit d’être aussi précis que possible. Plus vous fournissez de contexte, meilleure sera la réponse.
Pour les data scientists/ingénieurs, c’est un peu différent. Cela implique d’ajouter des informations contextuelles supplémentaires cachées. Il existe de nombreux exemples, les plus courants impliquant le contenu lui-même et/ou sa forme (c’est-à-dire les prompt templates).
2. Un exemple très courant
Imaginez que vous êtes un utilisateur d’une application mobile et que vous posez des questions sur les produits disponibles et leurs prix. En fonction du fuseau horaire de l’utilisateur, vous pouvez détecter la devise locale (1). Par exemple, s’ils se trouvent dans un pays spécifique, la devise pourrait être le yen, tandis qu’ailleurs, ce serait l’euro.
Vous pouvez également ajouter d’autres informations, comme l’âge de l’utilisateur, qui pourrait déterminer la taille du produit qu’il préfère.
Ce contexte supplémentaire, appelé « streaming data », augmente la précision de la réponse et améliore l’expérience utilisateur. Le potentiel pour les entreprises en ligne est immense !
3. Un autre exemple du quotidien
Supposons que vous détectez que vous communiquez avec une personne importante, par exemple, une diplomate de haut rang.
Elle demande à votre agent LLM d’envoyer une invitation à une délégation. Étant donné qu’il s’agit de données confidentielles, vous devrez utiliser votre propre modèle sécurisé. Si ce modèle n’a jamais été formé sur la mise en page spécifique d’une telle invitation, vous pouvez fournir ce format en tant que « prompt » caché pour guider le modèle vers le format approprié à utiliser pour une délégation internationale. Cela est très utile pour éviter tout incident diplomatique.
Il s’agissait de l’étape 3/13 de la création de votre modèle propriétaire. La prochaine fois, nous parlerons de la static et dynamic prompt engineering, du data augmentation et de la réduction des hallucinations. Que le contexte soit avec vous.
(1) Dans un environnement 3D, l’IA Lisa que nous avons développée (HR Soft Skills detector AI through various experiences) reçoit en entrée la localisation et l’orientation de l’utilisateur, ainsi que l’invite orale. Cela permet au PNJ d’orienter et de guider l’utilisateur dans un espace 3D.
(2) L’IA que nous avons créée est capable de détecter à qui elle s’adresse et d’adapter ses connaissances métier en conséquence. Nous expliquerons plus tard pourquoi nous utilisons ici une stratégie d’ingénierie rapide et non un RAG ou un réglage fin. Stéphane connaît la plupart des emplois, des outils et des processus dans les domaines de la banque, de l’assurance et du marketing.
