5G-Netzwerkarchitektur zur Verarbeitung von Llm-Inferenzprozessanfragenschlüsselwertcache-Implementierung

Details

Veröffentlichungs-Nr.

EP4776185

Anmeldetag

8. Januar 2025

Veröffentlichung

15. Juli 2026

Rechtsraum

EP

IPC

G06N3/045, H04L67/568

Abstract

Cette architecture comprend un réseau 5G selon 3GPP (120) avec un réseau pair-à-pair de gNB (121) incluant des ressources far-edge server de calcul et de mémoire (122), un réseau de plan utilisateur/plan de données (130), et un plan de contrôle de réseau cœur (140). Les applications LLM (201) mettent en œuvre des processus d'inférence régressifs à couches multiples utilisant des caches clé-valeur alloués à des équipements utilisateurs, UE (110), respectifs. Ces caches clé-valeur sont des caches éphémères possédant une durée de vie limitée, et sont mémorisés de façon distribuée au sein du réseau 5G (100) dans les ressources de calcul et de mémoire (122) des gNB (121) desservant les UE (110). Un orchestrateur de caches (300) interagit avec les applications LLM (201) et avec les gNB (121) via le plan de contrôle de réseau cœur (140) pour créer les caches clé-valeur, attribuer aux UE (110) respectifs les caches clé-valeur créés, déterminer la durée de vie des caches clé-valeur créés, et mettre à jour les caches clé-valeur, notamment par un processus P2P entre les gNB (121) conformément à un plan de gestion défini par l'orchestrateur de caches (300).

Anmelder

Firma

ILIAD

Land

🇫🇷 Frankreich

Fachgebiete