Le 4 mai 2026, OpenAI publiait un billet technique sur la façon dont ils ont reconstruit leur infrastructure WebRTC pour servir 900 millions d'utilisateurs hebdomadaires en moins de 500 ms aller-retour. Une nouvelle qui passe inaperçue chez la plupart des PME du Québec — et qui pourtant explique pourquoi votre agent IA vocal a soit une chance de paraître humain au téléphone, soit aucune.
Le problème : presque tous les fournisseurs d'agents vocaux mentent sur leurs chiffres. Ils annoncent « 75 ms de latence » sur leur page d'accueil, mais quand vous branchez la solution chez vous, le client raccroche après deux secondes de silence parce qu'il pense avoir perdu la ligne. On va décortiquer ça.
Le seuil de 300 ms : pourquoi c'est neurologique, pas marketing
Dans une conversation humaine normale, le délai entre la fin d'une phrase et le début de la réponse de l'autre personne tourne autour de 200 à 300 millisecondes. Ce n'est pas une moyenne tirée au hasard : c'est un câblage du cerveau. Au-delà de 300 ms, votre interlocuteur perçoit inconsciemment un délai. Au-delà de 500 ms, il le note consciemment. Au-delà d'une seconde, son cerveau enregistre que quelque chose cloche.
Pour vos clients québécois qui appellent votre PME le lundi matin, ce seuil n'est pas négociable. Si votre agent vocal met deux secondes à répondre « Bonjour, vous avez bien rejoint... », le client a déjà commencé à dire « allô ? allô ? » par-dessus. Et là, l'agent doit gérer une interruption pendant qu'il commençait à parler. Le résultat ? Une bouillie audio qui sonne robotique, et un client qui raccroche.
Les chiffres concrets, pour situer :
- Sous 800 ms aller-retour : la conversation se déroule naturellement, le client ne s'aperçoit de rien.
- 800 ms à 1,2 seconde : acceptable pour un appel d'affaires standard, mais le client sent que c'est « robotisé ».
- 1,5 à 2 secondes : le client se demande si la ligne est encore active. Le taux d'abandon grimpe de 40 % et plus.
- Au-delà de 2 secondes : la conversation est cassée. Le client raccroche ou s'énerve.
Le mensonge classique : « notre agent répond en 75 ms »
Allez sur le site de la plupart des fournisseurs d'agents vocaux. Vous verrez des chiffres impressionnants : 75 ms, 100 ms, parfois même « sub-100 ms ». Le problème, c'est que ces chiffres ne mesurent qu'une seule étape du pipeline complet. C'est l'équivalent de dire « ma voiture fait du 0-100 km/h en 5 secondes » en mesurant uniquement le moment où l'embrayage embraye.
Le vrai pipeline d'un appel téléphonique avec agent IA vocal compte au minimum cinq étapes :
- Capture audio + transmission au serveur : 50-150 ms selon la qualité du réseau au Québec (et le réseau cellulaire d'un client au Lac-Saint-Jean n'est pas celui d'un bureau à Montréal).
- Reconnaissance vocale (STT) : 100-400 ms pour transformer la voix en texte.
- Inférence du LLM : 200-800 ms pour que le modèle génère la réponse — c'est l'étape qui varie le plus selon le modèle utilisé.
- Synthèse vocale (TTS) : 100-300 ms pour transformer le texte en voix.
- Retour au téléphone du client : 50-200 ms.
Total bout en bout dans une PME québécoise typique mal configurée ? Entre 1,5 et 3 secondes. C'est précisément pour ça que vos clients trouvent que « les agents vocaux, ça sonne robotique ». Ce n'est pas la voix synthétique le problème — la voix synthétique est devenue excellente. C'est le silence qui précède la voix.
SignalWire a publié récemment un billet assez direct là-dessus, qu'on recommande de lire si vous magasinez une solution : leur analyse confirme que la latence réelle moyenne en production tourne autour de 2 à 3 secondes, pas 75 ms. Et que des plateformes comme LiveKit affichent maintenant la latence en temps réel pendant les appels — vous pouvez la voir vous-même.
Ce que l'annonce OpenAI du 4 mai change vraiment
Le 4 mai 2026, l'équipe d'infrastructure d'OpenAI a publié un billet technique expliquant comment ils ont rebâti leur pile WebRTC pour atteindre 300 à 500 ms aller-retour pour la majorité des sessions, à l'échelle mondiale. Trois changements qui comptent pour vous au Québec :
1. Le routage par bord (edge) plutôt que par centre de données
Avant, votre client appelait depuis Sherbrooke, le signal voyageait jusqu'à un centre de données aux États-Unis (souvent Virginie ou Oregon), puis revenait. C'est facilement 80-150 ms de latence réseau juste pour traverser. Maintenant, OpenAI route la session vers le « media router » le plus proche du client — pour le Québec, ça veut probablement dire un nœud à Toronto ou New York. La différence : 30-50 ms d'économie nette par tour de parole.
2. Architecture « relais + transceiver »
Au lieu d'avoir une session WebRTC complète bloquée sur un seul port pendant tout l'appel (l'ancien modèle), OpenAI termine la connexion au bord et transforme l'audio en protocoles internes plus simples. Concrètement : moins de jitter, moins de paquets perdus, et une connexion qui s'établit plus rapidement quand votre client commence à parler.
3. Sessions « one-to-one » optimisées
OpenAI confirme que la majorité des sessions sont 1-à-1 — un humain, un agent. Toute leur architecture est maintenant pensée autour de ce cas d'usage, qui est exactement le vôtre quand un client appelle votre clinique, votre cabinet ou votre restaurant. Les optimisations qu'ils ont faites bénéficient directement aux PME qui utilisent l'API Realtime.
Vous pouvez lire le détail technique directement sur le blogue d'OpenAI — c'est dense, mais la conclusion est claire : la barre s'est relevée, et les solutions qui restent à 1,5-2 secondes en 2026 vont paraître carrément démodées d'ici trois mois.
Comment vérifier la vraie latence de votre propre agent (en 10 minutes)
Voici ce qu'on fait nous-mêmes chez Agent IA Vocal pour mesurer la latence réelle d'un agent qu'on déploie chez un client :
Test 1 : l'enregistrement chronométré. Vous appelez votre propre numéro, vous enregistrez l'appel (avec consentement, évidemment), puis vous écoutez le fichier audio dans un éditeur comme Audacity. Vous mesurez le temps entre la fin de votre dernière syllabe et le début de la première syllabe de l'agent. Vous faites ça sur 10 tours de parole. La moyenne, c'est votre vraie latence aller-retour. Si elle dépasse 1,2 seconde, vous avez un problème.
Test 2 : le test du « mhm ». Pendant un appel test, dites des phrases courtes terminées par un signal clair (« d'accord. ») et notez si l'agent embarque par-dessus. Un agent bien configuré attend que vous ayez fini, mais embarque dans la fenêtre 300-600 ms. Trop tôt = il vous coupe. Trop tard = il y a un trou de silence. Le réglage qui contrôle ça s'appelle souvent « endpointing » ou « turn detection » et on a écrit un guide complet sur les pièges qui surviennent quand c'est mal réglé.
Test 3 : le test multi-réseau. Vous testez depuis trois endroits différents : votre wifi de bureau, votre cellulaire LTE, et idéalement un cellulaire en région (un employé qui travaille de chez lui à Saint-Hyacinthe par exemple). Si la latence varie de plus de 500 ms entre les trois, votre solution n'a pas un bon edge routing — et vos clients qui appellent depuis le 819 ou le 418 vont vivre une expérience nettement pire que ceux du 514.
Les vraies questions à poser à votre fournisseur cette semaine
Si vous évaluez actuellement un agent vocal, ou si vous en avez un qui « marche bof », envoyez ces quatre questions par courriel à votre fournisseur :
- « Quelle est votre latence aller-retour bout en bout, mesurée du moment où le client finit de parler jusqu'au moment où la première syllabe de l'agent sort du téléphone — pas une étape isolée du pipeline ? »
- « Sur quelle infrastructure WebRTC ou SIP s'exécute l'appel, et où est physiquement situé le point de terminaison média le plus proche du Québec ? »
- « Avez-vous migré vers la nouvelle architecture WebRTC d'OpenAI annoncée le 4 mai 2026, ou êtes-vous encore sur l'ancienne ? Si non, quel est l'échéancier ? »
- « Pouvez-vous me montrer un appel-test enregistré avec horodatage des étapes (STT, LLM, TTS) pour que je voie où le temps est passé ? »
Si le fournisseur botte en touche sur les questions 1 ou 4, vous avez votre réponse. Un fournisseur sérieux a ces chiffres et peut vous les fournir en 24 heures.
Ce que ça change pour le choix du LLM dans votre agent
La latence du modèle de langage (étape 3 du pipeline) est l'étape la plus variable, et celle où vous avez le plus de levier. Un GPT-4o complet répond en moyenne en 600-800 ms. Un GPT-Realtime-Mini, lancé en avril 2026, peut descendre à 200-300 ms pour des réponses simples. Un Gemini 3.1 Pro Preview tourne autour de 400-500 ms. Un Qwen 35B en open-source bien hébergé : 300-400 ms.
Pour votre PME, le bon choix dépend de la complexité des appels. Une clinique vétérinaire qui prend des rendez-vous simples ? Mini suffit largement, et vous économisez 70 % sur votre facture API en plus. Un cabinet juridique qui gère des questions nuancées ? GPT-Realtime complet, parce que la précision compte plus que la microseconde. On a fait un comparatif détaillé des trois principaux LLM pour agents vocaux au Québec qui rentre dans le détail des cas d'usage.
Le piège : optimiser la latence au détriment de la qualité
Attention quand même. On voit régulièrement des PME tomber dans le piège inverse : elles passent au modèle le plus rapide (souvent un Whisper-Tiny pour le STT et un mini-LLM), descendent à 600 ms aller-retour, et s'aperçoivent trois semaines plus tard que l'agent comprend mal le français du Québec. Le client dit « mon char est au garage » et l'agent comprend « mon chat est au garage ». Vous gagnez 400 ms de latence, vous perdez 15 % de précision de compréhension. Ce n'est pas un bon échange.
Le bon réflexe, c'est d'optimiser dans cet ordre :
- D'abord la qualité du STT en français québécois — sinon rien d'autre ne compte.
- Ensuite la latence du LLM, en choisissant le plus petit modèle qui maintient la précision sur vos cas d'usage réels.
- Enfin la configuration du turn detection et du pre-tool speech — qui peut sauver 500 ms perçues sans toucher au pipeline. On a écrit un guide précis là-dessus après la mise à jour ElevenLabs du 27 avril : comment régler le trou mort qui tue vos appels.
Et le SIP direct d'OpenAI dans tout ça ?
Petit rappel pour ceux qui ont manqué l'épisode précédent : OpenAI a aussi lancé le 30 avril 2026 une connexion SIP directe à GPT-Realtime — c'est-à-dire qu'un appel téléphonique peut maintenant entrer directement dans le modèle sans passer par une couche WebRTC traditionnelle. Combiné avec l'infrastructure du 4 mai, ça veut dire que pour une PME du Québec qui prend ses appels via Twilio ou un SIP trunk québécois, le chemin peut être plus court qu'avant. On a détaillé ce que le SIP direct change concrètement dans un autre article.
Combiner les deux annonces (SIP direct + WebRTC rebâti) : on parle d'un gain réaliste de 200 à 400 ms aller-retour pour une configuration moyenne. Ce n'est pas anecdotique. C'est la différence entre un agent qui sonne robotisé et un agent qui passe inaperçu.
L'étalon-or 2026 : où devrait être votre agent dans 90 jours
Voici la grille qu'on utilise pour qualifier un agent IA vocal de PME au Québec en mai 2026 :
- Excellent : latence aller-retour bout en bout sous 800 ms, mesurée sur 50 appels réels depuis trois régions différentes du Québec. Le client ne sait pas qu'il parle à une IA.
- Acceptable : 800 ms à 1,2 s, avec un pre-tool speech bien configuré qui masque les pauses pendant les appels d'API (booking, vérification de calendrier).
- À refaire : au-dessus de 1,5 s. Vos clients vous le disent déjà, même s'ils ne formulent pas le problème en termes techniques. Ils disent « ça sonne bizarre » ou « je sais pas, j'aime pas ça ».
- Catastrophique : au-dessus de 2 s. Vous perdez de l'argent à chaque appel.
Si votre agent est dans la zone « à refaire » ou « catastrophique », l'annonce du 4 mai est votre porte de sortie. Une révision de l'architecture qui passait pour onéreuse il y a six mois est maintenant standard chez les fournisseurs sérieux. C'est le bon moment pour demander une refonte.
Le verdict pour votre PME québécoise en mai 2026
La latence n'est pas un détail technique. C'est la variable qui décide si votre agent vocal sonne humain ou robotisé. Et avec ce qui s'est passé entre le 30 avril (SIP direct OpenAI) et le 4 mai (rebuild WebRTC), la barre vient de monter. Les solutions qui étaient acceptables en janvier 2026 sont en retard d'une génération en mai.
Si vous gérez une PME au Québec — clinique, cabinet, restaurant, commerce, cabinet juridique, agence immobilière — et que votre agent IA vocal est en service depuis plus de six mois sans révision d'infrastructure, c'est le moment de mesurer sa vraie latence et de pousser votre fournisseur à se mettre à niveau. Sinon, vos concurrents qui le font cette semaine vont prendre une avance qui sera difficile à rattraper d'ici cet automne. Chez Agent IA Vocal, l'équipe Techma s'occupe de toute la mise en place, des intégrations et de la migration vers la nouvelle infrastructure pour vous — vous n'avez rien à configurer vous-même.