Chatbots : mes règles d'engagement

Beaucoup peuvent en témoigner, je peux être considéré comme un retardataire quand il s’agit d’utiliser les chatbots. Je dois dire que j’ai toujours été super prudent avec ces bêtes.

Comme Marco Spinello l’a formulé il y a quelques semaines, leurs pires défauts résident dans :

• Ils inventent des choses
• Ils sont flagorneurs
• Ils font des volte-faces à 180 degrés quand on les défie

En gros, on ne peut pas leur faire confiance. Je ne prétendrai pas pouvoir expliquer en détail pourquoi, ni les causes profondes de leur conception au niveau technique. Mais fondamentalement, ce sont des calculatrices. Ils prennent un ensemble de données, plus ou moins à jour (si vous avez de la chance, ils ont tiré de sources fraîches), puis appliquent des vecteurs qu’ils ont déterminés de façon autonome. Dans la mesure de leur conception et des biais insérés par les humains, ce qui conduit certains des plus grands egos de la planète à prétendre que seul leur chatbot représente la vérité exacte.

Ils sont non-déterministes.

Un peu de science et de métaphore, d’abord

Pour le formuler dans le jargon de mes études d’ingénieur en télécommunications, au lieu de parler de “vecteurs”, c’est un peu comme calculer un polynôme interpolateur de Lagrange. Sur un graphique comme ci-dessous (crédits Wikipedia), il s’agit de tracer une courbe, basée sur des points (valeurs) que vous savez valides (nombres, faits, etc.). Une fois que vous avez cette courbe, le concept d’interpolation consiste à dire que la courbe que vous avez tracée a une chance raisonnable de représenter les points manquants.

Une partie essentielle d’un tel calcul est que vous avez besoin d’autant de points de données valides que possible au départ, ce qui devrait (dans la majorité des cas) vous aider à lisser la courbe, en évitant ces sinusoïdes montantes et descendantes qui ont une bonne chance d’être complètement éloignées de la réalité.

J’affirmerais que c’est assez proche de ce qu’on appelle communément les “hallucinations” des chatbots.

Et on parle encore d’interpolation, c’est-à-dire trouver un point de données entre certains que nous savons valides. L’extrapolation consiste à aller au-delà de ces points de données (à droite ou à gauche du graphique ci-dessus). Si la métaphore que j’utilise est tant soit peu acceptable, vous pouvez imaginer à quel point ça peut mal tourner, avec une courbe qui, puisque le degré de la formule augmente avec la quantité de points de données fournis, sera exponentiellement biaisée au-delà des limites.

Alors pourquoi est-ce que je considère même utiliser les chatbots ?

J’essaie essentiellement de les utiliser de manière pragmatique. Effectivement, même si je n’oserais pas leur demander de calculer “1 + 1” car ils pourraient quand même me dire que c’est 3 :

• ils calculent bien plus vite que moi
• ils peuvent puiser dans des ensembles de données considérables
• heureusement, la plupart d’entre eux peuvent maintenant accéder à Internet pour des données plus fraîches

Notez que je ne leur fais toujours pas confiance. Mais ils peuvent parfois être utiles pour confronter des idées, ou ouvrir de nouvelles perspectives. En gros, ils sont là comme assistants personnels, auxquels vous devriez vous-même fournir autant d’informations que possible avant de leur poser quoi que ce soit. Bonjour le RGPD et les solutions auto-hébergées. 👋

La seule chose à laquelle je sais que je dois toujours faire attention : ne pas prendre la facilité. Ce qui est, à mon avis, l’une des plus grandes dommages de notre époque. Tout est tellement facilement accessible que nous ne pouvons plus attendre, analyser, réfléchir et confronter. C’est là, pourquoi ne pas le prendre ?

Mes règles d’engagement

Enfin, ce que je voulais partager. Désolé d’avoir pris autant de lignes, mais j’aime expliquer comment j’en suis arrivé à quelque chose, pour que vous puissiez vous faire votre propre opinion et décider si c’est pertinent, voire intéressant pour vous.

Notez que ce n’est pas définitif et je pourrais le mettre à jour plus tard. Voici les règles clés que j’ai données à mon chatbot, rédigées par mon chatbot (je voulais m’assurer qu’il les comprenait correctement, et j’ai dû lui donner quelques rappels, surprise !) :

Conclusion, c’est vraiment loin d’être parfait

Comme vous l’avez peut-être remarqué, et malgré deux allers-retours pour y arriver, on n’y est pas encore tout à fait. Rien que sur la question des tirets cadratins. Comportement typique de chatbot, comme beaucoup l’ont signalé, même si ça reste une ponctuation anglaise correcte, dont le défaut essentiel est qu’elle peut de toute façon être utilisée dans de nombreux cas. Tellement plus de façons pour ce générateur de langage robotique de nous le balancer encore et encore.

Mais ces règles peuvent quand même améliorer mon (et votre) utilisation de ces machines. Le dernier conseil que j’ai pour vous est d’éteindre tout appareil électronique et d’aller parler à un humain.