Publié le 15 octobre 2025, 13:33:00. La division recherche en IA d’Apple a dévoilé une nouvelle technique révolutionnaire, baptisée FS-DFM, permettant d’accélérer considérablement la génération de textes longs par les modèles linguistiques. Cette méthode promet des gains de vitesse pouvant atteindre 128 fois par rapport aux approches conventionnelles, tout en maintenant une haute précision.
- La méthode FS-DFM (Flux Discrets en quelques étapes) regroupe 1 024 étapes de traitement en seulement huit.
- Elle est basée sur des modèles de diffusion, une technologie initialement conçue pour la génération d’images.
- Apple souhaite démocratiser cette approche en rendant ses propres modèles DFM et FS-DFM accessibles publiquement.
Dans un article publié sur le serveur de prépublication arXiv, les chercheurs d’Apple expliquent que leur approche, nommée FS-DFM (acronyme de « Flux Discrets en quelques étapes » pour « Discrete Flow Matching in a few steps »), vise à produire de longs textes avec une grande qualité. Contrairement aux modèles basés sur l’architecture Transformer, tels que ceux utilisés par GPT-5 d’OpenAI et qui reposent sur l’autorégression, FS-DFM exploite la technologie de diffusion. Cette dernière, initialement développée pour la génération d’images, offre des avantages significatifs en termes d’efficacité pour les grands modèles linguistiques (LLM).
Le principe fondamental des modèles de diffusion réside dans leur capacité à générer simultanément plusieurs éléments de sortie (jetons) avant de les affiner. La méthode FS-DFM entend optimiser ce processus, même si les technologies existantes sont considérées comme perfectibles. Bien que les modèles basés sur GPT dominent encore largement le paysage des générateurs de texte, Apple espère que la diffusion de ses modèles DFM et FS-DFM contribuera à diversifier les approches.
Ce projet a été mené en collaboration avec des chercheurs de l’Université d’État de l’Ohio. La division recherche en IA d’Apple avait déjà exploré les modèles de correspondance de flux dans d’autres domaines, notamment pour la génération de code de programmation et le repliement des protéines. Apple espère que ces avancées se traduiront également par des innovations dans ses propres produits. Il est à noter qu’Apple ne propose toujours pas officiellement son propre chatbot.
(bsc)