Créer une application comme ChatGPT
Presque personne qui cherche cela ne veut construire un autre ChatGPT. Ce que l'on veut, presque toujours, c'est un assistant sur un seul sujet : celui qui connaît votre catalogue, vos règles, vos documents, et parle à vos clients.
Cette version-là est viable, et c'est la seule qui tienne économiquement.
Ce que l'on peut construire
- un écran de conversation avec historique par utilisateur, celui que tout le monde sait déjà utiliser ;
- un assistant avec une personnalité et des règles, définies par vous en texte ;
- vos documents comme source : tarifs, politique, manuel, catalogue ;
- des comptes utilisateurs, pour savoir qui a dit quoi et garder les conversations séparées ;
- des limites, qui ici ne sont pas un détail : ce sont elles qui empêchent la note d'exploser.
Les trois choses qui décident du résultat
1. Les instructions. C'est ce qui transforme un modèle générique en votre assistant : ce qu'il fait, ce qu'il ne fait jamais, comment il répond quand il ne sait pas. Cela vaut plus que n'importe quel réglage technique.
2. Le contexte. L'assistant n'est bon sur votre sujet que s'il reçoit votre matière avec la question. Un document organisé vaut mieux qu'un document volumineux.
3. La limite. Sans plafond quotidien par utilisateur, une personne curieuse dépense le budget du mois en un après-midi.
Le coût ne ressemble à aucune autre application
Ici vous payez au message, et le prix monte avec la longueur de la conversation, car l'historique est renvoyé à chaque question. C'est la ligne qui surprend ceux qui viennent d'autres projets.
Trois mesures y suffisent :
- un plafond de messages par utilisateur et par jour ;
- une coupe de l'historique après N échanges ;
- un assistant qui répond court par défaut, et long seulement sur demande.
Ce qui ne vient pas tout fait
- entraîner votre propre modèle. Ce n'est pas ce dont la plupart ont besoin, et instructions plus contexte règlent presque toujours mieux et moins cher ;
- la garantie qu'il ne se trompe jamais. Aucun assistant ne l'a. Ce que vous pouvez faire, c'est citer la source et laisser ouverte la voie vers un humain ;
- la modération automatique de ce qu'écrivent les utilisateurs. Si l'application porte de la conversation, les magasins exigent un moyen de signaler et de bloquer.
Un prompt pour commencer aujourd'hui
Une application de conversation avec un assistant qui répond aux questions sur [votre sujet]. Chaque utilisateur a un compte et ne voit que ses propres conversations. L'assistant suit ces règles : [trois règles], et quand il ne sait pas, il propose de parler à notre équipe. Chaque utilisateur peut envoyer jusqu'à [N] messages par jour.
Le résumé
- l'application viable n'est pas un autre ChatGPT, c'est l'assistant d'un seul sujet ;
- instructions, contexte et limite décident du résultat, dans cet ordre ;
- le coût est au message et grandit avec l'historique : coupez l'historique ;
- entraîner un modèle n'est presque jamais la réponse ;
- la conversation entre personnes exige signalement et blocage pour passer la revue.