Integrierte Verarbeitungsarchitektur für Llm-Inferenzdienstpipeline mit 5G-Netzwerk

Details

Veröffentlichungs-Nr.

EP4733938

Anmeldetag

23. Oktober 2024

Veröffentlichung

29. April 2026

Rechtsraum

EP

Abstract

Cette architecture comprend un réseau d'accès radio (120), un réseau distribué (130) de Fonctions de plan utilisateur, UPF (131 ... 134), et un plan de contrôle de réseau coeur (140) comprenant des fonctions 5G selon 3GPP (141 ... 145). Elle comprend un métacontrôleur (200) avec un registre de services à la demande (210), comportant au moins un service d'inférence LLM (211-215) apte à être déployé à la demande ou de façon automatisée, un orchestrateur centralisé (220), un gestionnaire de cycle de vie (240) pour l'instanciation, la surveillance, la mise à jour, le redimensionnement et/ou la terminaison des services d'inférence, et un opérateur de requêtes (230). Le réseau distribué (130) de UPF (131 ... 134) est un programmable dynamiquement, et l'orchestrateur centralisé (220) comprend : des moyens (221) pour surveiller en continu le réseau 5G (100), aptes à analyser des requêtes utilisateur pour en dériver des profils utilisateur et des modèles d'utilisation des services d'inférence LLM ; des moyens (222-224) pour, en fonction de ces profils et modèles obtenus, sélectionner dynamiquement des ressources adaptées, modifier dynamiquement la configuration du réseau 5G (100) par interaction avec les UPF (131 ... 134), et/ou programmer les UPF (131 ... 134) pour l'exécution locale de tâches spécifiques liées à l'inférence LLM par modification des paquets en provenance et/ou à destination des UE (110) ; et des moyens (225) pour générer les requêtes de service à destination de l'opérateur de requêtes (230).

Anmelder

Firma

ILIAD

Land

🇫🇷 Frankreich