Jev : un modèle d’IA qui répond en quelques centaines de millisecondes

TypeSafe AI présente Jev, un modèle d’intelligence artificielle qui n’écrit pas de phrases. L’entreprise, fondée en 2024 à San Francisco, le décrit comme le premier « System One Model », en référence à la distinction du psychologue Daniel Kahneman entre la pensée rapide et intuitive et la réflexion lente et posée. À l’origine du projet, Diogo Almeida, coauteur des travaux qui ont mené à ChatGPT.

Jev n’est pas un chatbot. Il reçoit une situation brute — un e-mail, un ticket de support, une ligne de journal — accompagnée d’une liste de questions fermées : s’agit-il de spam, ce client va-t-il partir, faut-il alerter quelqu’un ? Il renvoie une réponse pour chaque question, avec une probabilité. Là où un modèle classique écrit mot après mot, Jev calcule toutes ses réponses d’un coup, en parallèle.

TypeSafe AI annonce des temps de réponse compris entre 70 et 500 millisecondes, contre plusieurs secondes pour un grand modèle en mode raisonnement. Ces mesures ont été prises depuis la côte ouest des États-Unis, où le service est hébergé : un développeur installé plus loin y ajoute le temps de trajet du réseau.