Projet perso · non commercial
La problématique

Monde VR

Comment faire vivre un monde VR peuplé de PNJ vraiment libres — corps physique, décisions, personnalité — sans les enfermer dans un catalogue d’animations ?

Cap vision : liberté absolue dans la logique du monde. Immersion joueur = plus tard. On avance par jalons concrets. Infos globales ci-dessous, puis les sous-parties cliquables.

Anime-réaliste Proto v0 · marche + équilibre 1 → 3 → 8 agents 13 problèmes ouverts Local d’abord
Scroll · sous-parties de la problématique ↓
Sous-parties

Découper le problème

Chaque carte ouvre la page dédiée. C’est comme ça qu’on navigue dans le détail.

Snapshot
Maintenant

Proto v0

1 PNJ · DoF réduites · marche + équilibre. Pas de saisie, pas de clé/frigo.

ML-Agents → Isaac Multi-morpho dès le début
Plus tard

Banc de stress

Porte, clé, frigo, verre d’eau — pour pousser la stack, pas pour valider v0.

Voir Carnet → Ouverts

Mouvement & physique

Sous-partie n°1 de la problématique — le cœur technique (y compris la recherche contrôle moteur).

Proto v0

1 PNJ, DoF réduites, marche + équilibre.

Hors scope : saisie, dextérité, porte/clé/frigo. Ensuite v1+ : saisie grossière.

Banc de stress (long terme)

  1. Assis → se lève avec les accoudoirs
  2. Marche jusqu’à la porte
  3. Clé, insertion, rotation, poignée
  4. Entre, ferme
  5. Frigo, verre, eau, boire

Squelette maître

Parent de contrôle humanoïde. Changer la topologie (DoF) ⇒ réentraîner. Varier échelle/masses ≠ changer de topologie.

Multi-morpho dès le début

Paramétrable (échelle, longueurs, masses). Mécanisme = P4. Muscles = rendu d’abord.

LOD & densité

20–30 m heuristique 1 → 3 → 8 20 = lointain

Transition sans rupture = P1. Auto-rig = visuel ; physique RL = pipeline séparé (P8).

Où trouver le détail

Les réponses Gemini sur Unity, le matériel, le squelette universel, les outils et le guide pas à pas (équilibre multi-morpho) sont dans les onglets ci-dessus — pas dans Recherche.

Implémenter l’architecture dans Unity ?

Oui, il est tout à fait possible d'implémenter cette architecture dans Unity. Cependant, en raison de la charge computationnelle et de la complexité des modèles (apprentissage par renforcement, réseaux de diffusion et simulation musculo-squelettique), la démarche repose sur un découplage : l'entraînement s'effectue hors ligne sur des frameworks spécialisés, puis les modèles optimisés sont intégrés dans Unity pour l'inférence temps réel.

Étape 1 — Entraînement hors ligne (Offline Pipeline)

L'entraînement de contrôleurs biomécaniques ou de réseaux de diffusion en temps réel exige une simulation parallélisée sur des milliers d'instances.

Technologies : Python, PyTorch, MuJoCo MJX ou NVIDIA Isaac Gym / Omniverse.

  • Entraîner le contrôleur biomécanique bas niveau (de type MuscleVAE) ou de contrôle d'agilité (de type PARC / Diffuse-CLoC).
  • Exporter les réseaux de neurones entraînés au format standard ONNX.

Étape 2 — Moteur d'inférence sous Unity (In-Engine Neural Execution)

Pour exécuter les réseaux ONNX en temps réel à 60+ FPS dans la boucle de jeu.

Technologies : Unity Sentis (Unity Inference Engine) ou un plugin C++ natif avec ONNX Runtime (TensorRT Execution Provider).

  • Convertir et quantifier les modèles ONNX en assets .sentis (conversion en Float16 pour réduire la consommation mémoire et accélérer l'exécution).
  • Exécuter l'inférence directement sur GPU via Compute Shaders (avec Unity Sentis) ou Tensor Cores (avec ONNX Runtime TensorRT).

Étape 3 — Planification cognitive et décisionnelle (High-Level AI)

Gestion des intentions et décomposition des tâches globales en sous-buts.

Technologies : C# orienté données (Unity DOTS / Jobs System), frameworks HTN (Hierarchical Task Networks) ou GOAP (Goal-Oriented Action Planning). Un Small Language Model (SLM) local peut être exécuté par Sentis pour la décomposition d'ordres textuels complexes.

  • Évaluer l'état du monde à basse fréquence (1 Hz à 5 Hz) et émettre la séquence de sous-buts vers le module de diffusion/cinématique.

Étape 4 — Simulation physique et actuation du corps (Low-Level Physics)

Appliquer les forces ou longueurs musculaires cibles sur l'avatar virtuel.

Technologies : Unity Physics / PhysX, composants ArticulationBody de Unity.

  • À chaque pas physique (FixedUpdate), passer le vecteur d'observations du PNJ au réseau bas niveau via Sentis.
  • Récupérer les excitations musculaires ou couples articulaires calculés par le réseau et appliquer les forces correspondantes sur les ArticulationBody.

Techniques d'optimisation multi-PNJ

  1. Batching dynamique d'inférence (GPU Tensor Batching) — regrouper les états de tous les N PNJ en un seul tenseur (N, observation_dim). Sentis / TensorRT exécute une seule passe GPU.
  2. Time-slicing — cognitif async toutes les 20–60 frames ; diffusion/génération à 15–30 Hz avec interpolation ; contrôleur physique musculaire à 60–120 Hz.
  3. LOD neuro-biomécanique — proches : muscles + diffusion ; moyens : DRL couples sans muscles ; lointains : cinématique / Motion Matching.
  4. Unity DOTS (C# Job System + Burst) — préparation des tenseurs et extraction proprioceptive sans GC Mono/IL2CPP.

Architecture matérielle pour le multi-PNJ

Faire tourner plusieurs PNJ en même temps avec une physique complète et des inférences neuronales nécessite une configuration matérielle haut de gamme orientée calcul GPU/NVIDIA.

ComposantConfiguration Minimale (1 à 3 PNJ)Configuration Recommandée Multi-PNJ (10 à 30+ PNJ)
GPUNVIDIA RTX 4070 (12 Go VRAM)NVIDIA RTX 4080 / RTX 4090 ou RTX 5080 (16 à 24 Go VRAM)
Processeur (CPU)Intel Core i7-13700K / AMD Ryzen 7 7800X3D (8–16 cœurs)Intel Core i9-14900K ou AMD Ryzen 9 7950X / 9950X (16–24 cœurs)
Mémoire RAM32 Go DDR564 Go DDR5 haute vitesse
StockageSSD NVMe PCIe 4.0SSD NVMe PCIe 4.0 / 5.0

Pourquoi ces exigences ?

Rôle du GPU : les modèles de diffusion et les réseaux VAE multi-couches nécessitent des unités de calcul matriciel dédiées (Tensor Cores). Sans accélération GPU via TensorRT ou Compute Shaders, le CPU sature immédiatement.

Rôle du CPU : la simulation physique d'un squelette articulé de 20 à 50 degrés de liberté avec gestion fine des contacts exige une puissance mono-cœur et multi-cœur très élevée pour traiter les solveurs de contraintes du moteur physique.

Squelette universel multi-morphologies

Pour appliquer le système de contrôle moteur absolu à des PNJ aux morphologies très différentes (enfants, adultes, personnes âgées, personnes en surpoids, géants ou nains) sans devoir réentraîner un modèle de zéro pour chaque personnage, la solution repose sur un squelette universel paramétrique conditionné par la morphologie.

1. Structure du Squelette Canonique (Topologie Fixe)

Pour partager des animations, des trajectoires et des réseaux de neurones entre tous les agents, la structure de l'arbre d'os (la topologie) doit rester identique.

  • Hiérarchie Canonique (Type SMPL-X / Unity Humanoid) : tous les PNJ partagent le même arbre d'articulations (ex. 55 os standards), allant du bassin jusqu'aux extrémités des doigts.
  • Espace de Forme Paramétrique (β) : la morphologie n'est pas définie par une structure d'os différente, mais par un vecteur de paramètres de forme β appliqué sur le squelette canonique. Les variations de taille, de longueur de membres et de proportions corporelles sont appliquées via des offsets relatifs par rapport à la pose de référence. Le mesh 3D s'adapte via des poids de skinning universels calculés automatiquement.

2. Adaptation Dynamique des Propriétés Physiques et Biomécaniques

Un enfant, une personne âgée ou une personne obèse ne déplacent pas leur corps de la même manière, principalement en raison de la répartition de leur masse, de leur centre de gravité et de leur force musculaire.

Calcul de la Masse et des Inerties Segmentaires : à l'instanciation, le système calcule le volume des colliders géométriques de chaque membre pour attribuer sa masse mi et sa matrice de moment d'inertie Ii.

  • Enfant : ratio de masse de la tête plus élevé, centre de masse global plus haut.
  • Personne obèse : masse concentrée dans le buste et les cuisses, inertie de rotation plus élevée.
  • Personne âgée : légère perte de masse musculaire et voûtement de la colonne (posture au repos).

Mise à l'échelle des Muscles de Hill : F0M proportionnelle au PCSA (réduite pour enfant / personne âgée). Coefficients de raideur passive fPE et d'amortissement augmentés pour une personne âgée (rigidité articulaire).

3. Contrôleur Neuronal Conditionné par la Morphologie

Au lieu d'une politique RL par type de corps, le contrôleur prend un vecteur d'observation étendu :

Ot = [st, gt, μ]

  • st : état proprioceptif (angles, vitesses)
  • gt : but / intention
  • μ : vecteur de morphologie (longueurs relatives, masses segmentaires, limites de force)

En entraînant sur une large variété de μ générés aléatoirement (Domain Randomization), le réseau apprend une politique générique capable d'adapter ses commandes selon la morphologie injectée.

4. Étapes d'Implémentation sous Unity

ÉtapeComposant UnityAction Technique
1. Squelette & MeshUnity Humanoid Rig / Skinned Mesh RendererImporter les meshes 3D réorganisés sur une hiérarchie d'os standardisée.
2. Physique DynamiqueArticulationBody & CollidersÀ l'init (Awake), ajuster l'échelle des os et appliquer masses/inerties sur les ArticulationBody.
3. Assemblage du TenseurC# Job System / BurstGénérer le vecteur de morphologie μ propre au PNJ.
4. InférenceUnity Sentis WorkerInjecter st + μ dans le modèle ONNX unifié.
5. Application des ForcesArticulationBody / PD ServosAppliquer couples ou excitations ; le comportement (foulée d'enfant, démarche lourde…) émerge de la physique.

Grâce à cette approche conditionnée, un seul fichier de modèle neuronal ONNX peut piloter n'importe quelle silhouette, tout en préservant le réalisme des interactions physiques.

Outils pour créer le squelette universel paramétrique

On les regroupe en trois catégories : modèles de corps paramétriques (standards), outils d'édition 3D, et moteurs de simulation biomécanique.

1. Modèles de Corps Paramétriques

  • SMPL / SMPL-X / SUPR (Max Planck / Meshcapade) — standard mondial. SMPL = forme β + pose θ. SMPL-X ajoute mains et visage ; SUPR gère les pieds fins.
  • SOMA / SOMA-X (NVIDIA) — pivot universel unifiant adultes (SMPL/MHR) et enfants (Anny).
  • Anny — modèle paramétrique enfants / adolescents, souvent via SOMA.

2. Logiciels de Création 3D et Add-ons

  • Blender + Add-on SMPL / SMPL-X — curseurs de morphologie, export FBX/GLTF Unity.
  • Auto-Rig Pro ou Rigify — squelette canonique custom + BlendShapes (hors brevets SMPL).
  • Meshcapade Me / MoCapade — génération / rig cloud prêts pour Unity.

3. Outils Biomécaniques et Simulation

  • OpenSim (Stanford) — scaling biomécanique : masse, CoG, PCSA.
  • MuJoCo / MuJoCo MJX — RL rapide, muscles de Hill, morphologies variées.
  • NVIDIA Warp / ProtoMotion — skinning LBS et inerties sur GPU (SOMA).

Workflow recommandé

  1. Génération : Blender + SMPL/SOMA pour profils (enfant, âgé, obèse, grand) sur le même arbre d'os.
  2. Paramètres physiques : OpenSim ou MuJoCo pour masses et forces adaptées.
  3. Entraînement : injecter μ dans le contrôleur DRL (MuJoCo / Isaac Gym).
  4. Unity : avatars + Sentis → ArticulationBody du squelette universel.

Guide : de zéro → squelette universel → équilibre → Unity multi-morpho

PHASE 1 — Construction du Squelette Universel Canonique (Blender)

Étape 1.1 — Générer le squelette canonique

  1. Installer Blender.
  2. Installer l'add-on officiel SMPL-X / SMPL for Blender (Meshcapade, usage recherche/dev).
  3. Créer un avatar de base (adulte neutre) — hiérarchie fixe ~55 os (bassin, colonne, épaules, cuisse, genou, cheville, pied…).
  4. Exporter ce squelette neutre en .FBX (ou .URDF / .MJCF pour la sim). T-pose canonique de référence.

Étape 1.2 — Générer les morphologies (Meshes & Scale-Offsets)

  1. Dans Blender + SMPL, curseurs β : Morphologie A Enfant ; B Obèse ; C Âgée / voûtée.
  2. Les os restent nommés à l'identique. Seules les positions relatives des articulations et la géométrie du mesh changent.
  3. Exporter chaque variante en .FBX distinct.

PHASE 2 — Entraînement du Contrôleur d'Équilibre (Python / Isaac Gym ou MuJoCo)

Domain Randomization + vecteur de morphologie μ pour équilibrer n'importe quel corps.

Étape 2.1 — Vecteurs d'entrée / sortie

  • Observation Ot : proprioception st (q, q̇, orientation du buste, vitesses du tronc) + morphologie μ (longueurs, masses, inerties, force max).
  • Action At : angles cibles θtarget vers servos PD virtuels de chaque articulation.

Étape 2.2 — Reward

Rt = w1·Rhauteur + w2·Ralignement − w3·Renergie − w4·Rglissement

  • Rhauteur : bassin/tête à la hauteur cible prescrite par μ
  • Ralignement : produit scalaire « haut du buste » · (0,1,0)
  • Renergie : pénalité ‖τ‖²
  • Rglissement : pénalité si pieds glissent

Étape 2.3 — PPO

À chaque reset, morphologie μ aléatoire (taille ~0,8–2,1 m, masse ~20–120 kg). PPO jusqu'à stabilité sous poussées. Exporter : torch.onnx.export(policy_net, dummy_input, "balance_universal.onnx").

PHASE 3 — Unity multi-morphologies

Étape 3.1 — Prefab : importer FBX ; ArticulationBody sur os majeurs ; bassin = racine Dynamic ; genou = hinge ; régler Kp / Kd.

Étape 3.2 — Script PNJPhysicsAgent.cs : au Start, mesurer membres + masses → construire μ local.

Étape 3.3 — Inférence en lot Sentis : un PNJGroupManager avec un Worker unique ; FixedUpdate empile (N, obs) ; une passe GPU ; distribue θtarget sur xDrive.target de chaque PNJ.

Résultat : chaque morphologie réagit selon sa physique. Un choc → le réseau ONNX unifié calcule la compensation adaptée à la taille et au centre de gravité de ce PNJ.

Architecture de Contrôle Moteur Absolu pour Agents Non-Joueurs

Synthèse Neuro-Biomécanique et Planification Hiérarchique — texte Gemini, version longue. Inspiration, pas décisions figées. L’implémentation Unity / matériel / morpho est dans Corps & pipeline.

Conceptualisation et Fondements de la Liberté Motrice Absolue

Concevoir un agent non-joueur (PNJ) doté d'une liberté de mouvement absolue constitue l'un des défis les plus complexes du calcul graphique et de l'intelligence artificielle incarnée. Dans la synthèse de mouvements traditionnelle, la liberté d'un personnage virtuel est sévèrement restreinte par l'extensibilité des jeux de données de capture de mouvement (MoCap) ou par l'instabilité fondamentale des contrôleurs physiques réactifs. L'obtention d'une motricité sans contrainte, permettant à un agent d'exécuter n'importe quelle action — du simple clignement d'œil à des manœuvres d'acrobatie ou de manipulation fine en milieu hostile — exige de dépasser les approches purement cinématiques ou purement réactives.

La liberté motrice absolue ne se résume pas à un catalogue étendu d'animations préenregistrées. Elle se définit par la capacité du système à générer des trajectoires physiquement plausibles, biologiquement cohérentes et adaptées en temps réel à la géométrie de l'environnement, aux interactions d'objets, aux variations de charge et aux perturbations imprévues. Pour opérationnaliser cette exigence sans être freiné par des limitations matérielles ou financières, l'architecture d'un tel agent doit coupler trois paradigmes majeurs : la planification cognitive symbolique issue des modèles de langage ou de graphes, la génération de trajectoires par diffusion guidée, et l'actuation physique basse niveau via l'apprentissage par renforcement profond (DRL) appliqué à des modèles musculo-squelettiques.

Cette approche intégrée résout le paradoxe historique entre le contrôle intentionnel haut niveau et la fidélité physique basse niveau. L'agent ne choisit pas simplement parmi des clips d'animation ; il synthétise et ajuste en permanence son enveloppe musculaire et articulaire pour réaliser ses intentions dans un monde dynamique.

Architecture Décisionnelle et Control-Stack Multi-Échelles

Pour régir une motricité infinie sans subir le blocage de la complexité combinatoire, le système de contrôle s'articule autour d'une pile logicielle hiérarchisée en trois niveaux fondamentaux. Chaque niveau fonctionne à une fréquence temporelle et un degré d'abstraction spécifiques, formant une chaîne de traitement fluide allant de l'intention symbolique jusqu'à la contraction musculaire.

Au sommet de la pyramide décisionnelle se trouve le niveau cognitif et symbolique, fonctionnant à une fréquence lente comprise entre 1 Hz et 5 Hz. Ce module traite les désirs abstraits de l'agent en combinant des réseaux de tâches hiérarchiques (HTN), la planification d'actions orientée but (GOAP) et les modèles de langage à large échelle (LLM) structurés sous forme de graphes d'actions dynamiques (DAG). Lorsqu'une intention complexe est formulée, telle que franchir une crevasse puis escalader une structure pour manipuler un mécanisme, ce niveau décompose le but global en une suite ordonnée de primitives sémantiques. Il effectue une vérification symbolique des préconditions et des contraintes d'affordance avant de transmettre les instructions aux couches inférieures.

Le niveau intermédiaire est le niveau cinématique génératif, opérant à une fréquence moyenne de 30 Hz à 60 Hz. Il reçoit la séquence de primitives sémantiques et synthétise en temps réel des trajectoires spatiales continues. Ce composant s'appuie sur des modèles de diffusion génératifs guidés ou des autoencodeurs variationnels conditionnels (cVAE) à haut degré de liberté. Des architectures avancées telles que PhysDiff ou Diffuse-CLoC traduisent les sous-buts en prédictions d'états futurs et en poses clés. En intégrant des fonctions de guidage par classificateur à l'inférence, ce niveau adapte la trajectoire aux contours précis du terrain, anticipe les obstacles mobiles et génère des mouvements d'évitement ou d'in-betweening sans nécessiter de ré-entraînement.

Au bas de la hiérarchie se situe le niveau biomécanique et physique, opérant à haute fréquence entre 60 Hz et 300 Hz pour garantir la stabilité de la simulation. Le plan cinématique produit par la couche générative sert de référence à un contrôleur physique basé sur l'apprentissage par renforcement profond. Ce contrôleur résout la dynamique inverse en tenant compte de la gravité, de la friction, des inerties et des forces de réaction du sol. Plutôt que d'appliquer de simples couples idéalisés sur les articulations, ce niveau calcule les signaux d'excitation appliqués à un réseau d'actuateurs musculaires, restituant la compliance et l'élasticité naturelles du corps humain.

Niveau d'AbstractionTechnologies ClésFréquenceEntrées PrincipalesSorties Générées
Cognitif & SymboliqueLLM, HTN, GOAP, Dynamic Graphs1–5 HzIntentions, états du monde, mémoireSéquence de sous-buts symboliques
Cinématique GénératifDiffusion (Diffuse-CLoC, PhysDiff), cVAE30–60 HzSous-buts, carte de profondeur / affordanceTrajectoires de poses clés et d'états
Biomécanique & PhysiqueDRL (PPO), Modèles de Hill, MuscleVAE60–300 HzTrajectoires de poses, couples/forces, proprioceptionActivations musculaires (ai) ou couples (τ)

Le Continuum Motriciel : De la Locomotion Élémentaire aux Manœuvres Complexes

L'extension des capacités de l'agent s'effectue le long d'un continuum d'agilité, depuis les mouvements fondamentaux de maintien postural jusqu'aux comportements hautement acrobatiques et manipulatoires.

À la base du répertoire moteur se trouvent les primitives de locomotion élémentaire telles que la marche, la course, le changement de direction, l'arrêt brusque et la posture assise. Ces mouvements sont gérés par des contrôleurs physiques universels à grande échelle (tels que UniCon ou DReCon). Ces systèmes apprennent à partir d'un vaste jeu de données MoCap non structuré et sont capables d'ajuster dynamiquement la fréquence de foulée et la posture du buste en fonction des variations de pente ou de vitesse demandées, tout en garantissant l'annulation du glissement de pied et le maintien du centre de masse dans le polygone de soutien.

Lorsque l'environnement présente des discontinuités majeures comme des murs verticaux, des failles profondes ou des obstacles de hauteurs variables, l'agent bascule vers le niveau d'agilité et de parkour dynamiques. Pour franchir ces structures sans être restreint par un catalogue fixe d'animations, le système exploite le cadre PARC (Physics-based Augmentation with Reinforcement Learning). Ce framework utilise une boucle itérative d'augmentation de données où un générateur cinématique synthétise des mouvements d'escalade ou de saut acrobatique sur de nouvelles géométries. Ces mouvements prospectifs, bien que physiquement imparfaits au départ, sont corrigés par un contrôleur d'imitation sous simulation physique, permettant d'intégrer progressivement des manœuvres complexes comme la combinaison d'une course murale et d'un saut de rétablissement.

Le continuum s'étend ensuite aux tâches de manipulation fine et d'interactions dynamiques avec des objets de l'environnement. L'agent ne se contente pas de déplacer son propre corps ; il doit saisir des outils, manipuler des mécanismes rigides ou déformables, ou contrôler des objets en mouvement. Dans le cas du contrôle d'objets sportifs ou d'outils, à l'image du système PhysicsFC dédié à la manipulation d'un ballon, des contrôleurs DRL spécialisés établissent un couplage fort entre la dynamique corporelle et l'objet externe. Le système évalue en continu le transfert de quantité de mouvement, les coefficients de friction et les contraintes de contact pour ajuster la posture de l'agent au millimètre près.

Au sommet de la complexité se situent les manœuvres impliquant des interactions physiques multi-agents et des postures acrobatiques extrêmes. Ces situations regroupent la lutte corps-à-corps, les arts martiaux, la danse de couple ou la réception de chutes violentes. À ce niveau, le contrôleur ne peut pas s'appuyer sur des trajectoires cinématiques rigides. Il prédit et régule les forces de réaction du sol (GRF) ainsi que les moments cinétiques transférés lors d'impacts entre plusieurs corps articulés en simulation, ajustant la raideur musculaire globale pour absorber les chocs ou projeter une charge externe.

NiveauCatégorieExemples ConcretsComposant DominantDéfi Physique Majeur
1Locomotion de baseMarche, course, esquive, virage à 180°DRL de suivi de pose, contrôleurs universelsMaintien du centre de gravité, suppression du glissement de pied
2Agilité & ParkourSaut de crevasse, escalade de mur, rétablissementBoucle d'augmentation itérative (PARC)Gestion des impacts brusques, basculement de phase de contact
3Manipulation d'objetsSaisie fine, maniement d'outils, dribbleDRL conditionnel par tâche, reward shapingStabilité du contact, friction locale, distribution de charge
4Interactions extrêmesLutte, acrobaties, sports d'équipe, chutesDiffusion jointe état-action, contrôle multi-agentConservation du moment angulaire, couplage de forces multi-corps

Actuation Biomécanique et Dynamiques Musculo-Squelettiques

L'utilisation exclusive de couples articulaires directs appliqués sur des liaisons rigides simplifie le calcul mais produit une gestuelle robotique, exempte de la souplesse et des micro-ajustements caractéristiques du vivant. L'obtention d'une motricité d'un réalisme absolu exige de doter l'agent d'un système musculo-squelettique complet, où chaque articulation est actionnée par des réseaux de musculotendons complexes.

Le Modèle de Muscle de Hill et l'Espace de Contrôle Musculaire

Dans ce paradigme, les moments articulaires ne sont plus prescrits directement. Ils émergent des forces de tension générées par des unités musculaires régies par la formulation biomécanique de Hill. La force totale FM produite par une fibre musculaire dépend de son niveau d'activation a, de sa longueur instantanée lM et de sa vitesse de contraction vM selon la relation :

FM(a, lM, vM) = F0M · [ a · fV(vM) · fL(lM) + fPE(lM) ]

Dans cette expression, F0M représente la force isométrique maximale déterminée par la surface de section transversale physiologique (PCSA) du muscle. Les termes fV(vM) et fL(lM) normalisent respectivement les relations force-vitesse et force-longueur des éléments contractiles actifs, tandis que fPE(lM) modélise la réponse élastique passive des tissus conjonctifs environnants.

Au lieu d'émettre des angles cibles pour les articulations, la politique de contrôle bas niveau (telle que MuscleVAE) opère directement dans l'espace musculaire. Elle spécifie des longueurs cibles pour des servomoteurs PD virtuels intégrés à chaque fibre musculaire. Cette approche confère au corps de l'agent une élasticité naturelle : lorsqu'un obstacle extérieur percute un membre, la résistance n'est pas infinie ; le muscle s'étire passivement selon sa courbe de tension-longueur, absorbant l'énergie avant que la boucle de rétroaction neurologique ne réagisse.

Précision scientifique : le modèle musculotendon « complet » ajoute aussi un élastique en série (tendon, SEE) et souvent la pennation. F0M est souvent proportionnelle au PCSA, pas égale.

Intégration des Dynamiques de Fatigue

La motricité biologique se distingue par sa variabilité temporelle face à l'effort physique. Un agent à liberté absolue doit manifester l'accumulation de la fatigue musculaire lors d'activités intenses ou prolongées. Pour ce faire, l'architecture incorpore le modèle de fatigue à trois compartiments réversibles (3CC-r) connecté au modèle de Hill. La capacité totale du muscle est divisée en trois états dynamiques : la fraction de fibres au repos MR, la fraction de fibres activement contractées MA, et la fraction de fibres fatiguées MF.

Forme standard 3CC (Xia & Frey Law / Looft — corrigée par rapport à l’OCR Gemini d’origine) :

dMR/dt = −C(t) + R · MF
dMA/dt = C(t) − F · MA
dMF/dt = F · MA − R · MF
MR + MA + MF = 1

C(t) aligne MA sur la charge cible TL ; F est le taux de fatigue ; R le taux de récupération. En 3CC-r, au repos (TL = 0), R est multiplié par r ≥ 1. Lorsque MF augmente, la capacité effective baisse : foulées plus courtes, compensations du buste, etc. — émergence comportementale organique.

Entraînement Hautement Parallèle sur GPU

Simuler un corps humain comprenant entre 120 et plus de 400 unités musculaires (comme le proposent les structures full-body de type MuscleMimic ou MyoLeg) engendre un coût computationnel considérable qui a longtemps rendu ces approches inexploitables. La faisabilité opérationnelle repose aujourd'hui sur l'utilisation de moteurs physiques entièrement parallélisés sur GPU, à l'image de MuJoCo MJX ou Isaac Gym. En instanciant des milliers de clones de l'agent en parallèle au sein du même pipeline mémoire, les politiques d'apprentissage par renforcement accumulent des décennies d'expérience motrice en quelques heures d'entraînement, résolvant les problèmes de coordination musculaire à fort degré de liberté.

Entraînement, Généralisation et Auto-Correction en Temps Réel

Pour qu'un agent jouisse d'une liberté absolue, il ne doit jamais se trouver bloqué lorsqu'il rencontre des configurations spatiales ou des contraintes environnementales totalement inédites. Sa capacité d'adaptation repose sur la combinaison d'une boucle d'augmentation de données régénérative et de politiques de diffusion unifiées.

Augmentation Régénérative et Boucle Autonome

La rareté des données de capture de mouvement pour des actions acrobatiques ou chaotiques constitue un verrou majeur. Le framework PARC contourne ce problème via une boucle auto-améliorante sans fin. Un modèle génératif cinématique est initialement formé sur un jeu restreint de compétences de base. Lorsqu'il est confronté à un nouveau terrain synthétique (par exemple, des blocs instables de hauteurs aléatoires), le générateur produit des trajectoires cinématiques prospectives. Ces trajectoires présentent initialement des artefacts tels que des pénétrations de surface ou des discontinuités de vitesse.

Un contrôleur d'imitation basé sur le DRL tente alors de reproduire cette trajectoire théorique à l'intérieur du simulateur physique. Lors de ce suivi, les lois Newtoniennes forcent la correction des artefacts : les contacts de pieds sont réalignés, le centre de masse est réajusté pour éviter les basculements, et les impacts sont lissés. Les trajectoires physiques corrigées sont ensuite réinjectées dans la base de données principale. La réitération de ce cycle étend continuellement la distribution des mouvements du générateur et accroît la robustesse du contrôleur d'imitation, permettant la découverte autonome de nouvelles compétences de franchissement.

Politiques de Diffusion Jointes État-Action

Les architectures conventionnelles séparent strictement le planificateur cinématique haut niveau et le contrôleur physique bas niveau, ce qui entraîne des échecs d'exécution lorsque l'environnement change plus vite que la période de replanification. La méthode Diffuse-CLoC surmonte cette rigidité en entraînant un modèle de diffusion unique qui apprend la distribution conjointe des états futurs s et des actions physiques a sur un horizon temporel H :

p(st:t+H, at:t+H)

En modélisant simultanément ce dont le corps a l'air (s) et la commande physique exacte permettant d'y parvenir (a), l'agent devient contrôlable à l'inférence via des fonctions de guidage par classificateur. Si un obstacle surgit soudainement à quelques centimètres de l'agent, le processus de débruitage guidé altère la trajectoire d'états et ajuste les actions musculaires associées en un seul passage algorithmique. L'agent contourne la menace, adapte sa réception ou modifie son geste de saisie en temps réel, sans passer par une phase lourde de re-planification hiérarchique.

Comparative Taxonomique des Paradigmes de Contrôle Moteur

La sélection de l'architecture de contrôle conditionne directement le niveau de liberté, la fidélité biologique, l'adaptabilité et la charge computationnelle de l'agent.

Le Motion Matching cinématique traditionnel offre des performances d'exécution extrêmement rapides mais se cantonne strictement aux clips d'animation préenregistrés, entraînant un échec critique dès que le terrain s'écarte de la base de données. Les politiques DRL appliquées aux couples articulaires directs améliorent considérablement la généralisation et la résistance aux perturbations, mais produisent une rigidité visuelle due à l'absence de comportement passif des tissus.

Les politiques de diffusion unifiées état-action (telles que Diffuse-CLoC) apportent une capacité supérieure de guidage à l'inférence et un respect strict des lois dynamiques, au prix d'un coût de calcul plus élevé lors du processus de débruitage. Enfin, l'actuation musculo-squelettique complète couplée à des contrôleurs en espace musculaire (comme MuscleVAE) offre le niveau ultime de liberté et de plausibilité biologique, générant spontanément des réponses compliantes et de la fatigue comportementale.

Paradigme de ContrôleDegré de Liberté MotricePlausibilité BiomécaniqueCapacité de GénéralisationCoût Computationnel (Inférence)
Motion Matching CinématiqueTrès Faible (limité au MoCap disponible)Faible (aucune réaction aux forces réelles)Nul (échec en terrain inconnu)Extrêmement Faible (~0,1 ms)
DRL en Couples Articulaires (PD Controllers)Modéré à ÉlevéMoyenne (rigidité mécanique, raideur variable)Élevée (adaptation aux perturbations)Faible à Modéré (~1–2 ms)
Diffusion Physique Unifiée (Diffuse-CLoC)Élevé à Très ÉlevéÉlevée (respect strict de la dynamique Newtonienne)Très Élevée (guidage à l'inférence)Élevé (~10–30 ms)
Actuation Musculo-Squelettique (Hill + MuscleVAE)Absolu (niveau biologique)Maximale (compliance naturelle, fatigue)Maximale (coordination musculaire émergente)Modéré à Élevé (~5–15 ms)

Synthèse et Directives Systémiques d'Implémentation

La réalisation d'un agent non-joueur doté d'une liberté de mouvement absolue exige l'abandon définitif des approches par interpolation de clips au profit d'une pile logicielle neuro-biomécanique unifiée. L'architecture optimale repose sur l'intégration harmonieuse de quatre fondations algorithmiques interconnectées.

La première fondation consiste en un moteur de planification cognitive basé sur des réseaux de tâches hiérarchiques et des modèles de langage structurés en graphes d'actions dynamiques, capables de décomposer n'importe quelle intention complexe en sous-buts physiquement réalisables. La deuxième fondation est un modèle génératif de diffusion guidé prédisant la distribution conjointe des états futurs et des actions physiques, autorisant la ré-orientation instantanée des trajectoires face aux imprévus de l'environnement. La troisième fondation repose sur un système d'actuation musculo-squelettique régi par les équations de Hill et la dynamique de fatigue à trois compartiments, garantissant la souplesse, la compliance passive et le réalisme physiologique des mouvements. La quatrième fondation s'appuie sur une boucle d'augmentation régénérative exécutée sur des architectures GPU parallélisées, étendant en permanence le répertoire moteur de l'agent par la découverte et la correction physique autonome de nouvelles manœuvres.

En articulant ces technologies au sein d'une pile décisionnelle multi-échelle, l'agent virtuel s'affranchit des contraintes habituelles du calcul graphique. Il cesse d'être un simple exécuteur d'animations prédéfinies pour devenir une entité incarnée autonome, capable de concevoir, d'adapter et d'exécuter n'importe quel mouvement complexe nécessaire à l'accomplissement de ses désirs dans un monde dynamique.

Les étapes concrètes Unity, le matériel multi-PNJ, le squelette morphologique et le guide « partir de zéro » sont dans Mouvement → Corps & pipeline — ce n’est pas de la recherche théorique.

Sources des citations

Citations de la synthèse Gemini (nettoyées). Clique pour ouvrir.

Monde vivant & IA

Sous-partie n°2 — écosystème, cerveaux, continuité hors champ.

Monde > un PNJ

Agents autonomes, relations, histoires. L’importance vient du statut dans le monde (roi, artisan, voleur…), pas d’un casting figé.

Le monde évolue même sans le joueur à proximité — mécanisme encore ouvert (P9).

Cerveaux (modules)

ModuleRôle
Personnalité / mémoireLLM + souvenirs, RAG possible
NarrateurRègles du monde, cohérence
MouvementCorps physique / plus tard construction

Horloges LLM (lent) vs RL (rapide) = P10. Fréquences recherche : cognitif ~1–5 Hz.

Principes liés

  • Local d’abord (LLM, mémoire, sims)
  • Cohérence logique > photo-réalisme
  • Liberté de décision dans les règles du monde

Immersion joueur

Sous-partie n°3 — objectif lointain (immersion visée).

Périmètre

  • VR
  • Haptique
  • Optique / combinaison custom

Pas un critère du socle mouvement actuel. On y revient après corps + IA.

Carnet

Décisions, problèmes ouverts, prochaine phase.

  1. Cahier des charges du squelette maître
  2. Mannequin + auto-rig visuel → pipeline physique
  3. Proto v0 : marche + équilibre (ML-Agents)
  4. Curriculum ; saisie en v1+
  5. Isaac / LOD / banc porte-frigo plus tard
TermeSens
PNJPersonnage non joueur
LLMGrand modèle de langage
RLApprentissage par renforcement
IK / FKCinématique inverse / directe
LODNiveau de détail
CurriculumDu facile au difficile