Frameworks Modernes : JAX, RAG et Alignement

Frameworks Modernes : JAX vs PyTorch

En 2026, l'ingénierie ML se divise principalement entre la recherche (souvent JAX) et la production (PyTorch).

Pourquoi JAX monte en puissance ?

JAX (par Google) permet la différentiation automatique sur du code Python/NumPy standard et compile le tout pour tourner ultra-vite sur GPU/TPU (via XLA).

• PyTorch : Orienté objet, facile à débugger. Le standard de l'industrie.
• JAX : Fonctionnel, orienté performance pure et parallélisation massive.

🛠️ Micro-Exercice : JAX vs NumPy

Voyons la syntaxe quasi-identique mais accélérée.

# pip install jax jaxlib
import jax.numpy as jnp
from jax import grad

# Fonction simple : f(x) = x²
def f(x):
    return x**2

# Calcul automatique de la dérivée (gradient) : f'(x) = 2x
df = grad(f)

x = 3.0
print(f"f({x}) = {f(x)}")       # 9.0
print(f"f'({x}) = {df(x)}")     # 6.0 (C'est magique!)

Apprentissage Non-Supervisé Moderne : Vector Search & RAG

L'unsupervised learning moderne ne sert plus juste à faire des clusters, mais à donner une "mémoire" aux IAs génératives.

Embeddings & Vecteurs

On transforme du texte en listes de nombres (vecteurs). Deux phrases avec un sens proche auront des vecteurs géométriquement proches.

• Vector Database (Pinecone, Milvus) : Base de données spécialisée pour chercher ces vecteurs en millisecondes.

RAG (Retrieval Augmented Generation)

Pour empêcher une IA d'halluciner, on connecte le LLM à vos données privées via une recherche vectorielle.

🛠️ Micro-Exercice : Moteur de Recherche Sémantique

Simulation simplifiée d'un système RAG.

from sklearn.feature_extraction.text import TfidfVectorizer
from sklearn.metrics.pairwise import cosine_similarity

# Corpus de connaissances
docs = [
    "La capitale de la France est Paris.",
    "L'eau bout à 100 degrés Celsius.",
    "Le Python est un langage de programmation."
]

# Question utilisateur
query = ["Quelle température pour faire bouillir de l'eau?"]

# Vectorisation (Transformation en nombres)
vectorizer = TfidfVectorizer()
vectors = vectorizer.fit_transform(docs + query)

# Calcul de similarité (Le dernier vecteur est la question)
similarities = cosine_similarity(vectors[-1], vectors[:-1])

# Trouver le document le plus proche
best_doc_index = similarities.argmax()
print(f"Réponse trouvée : {docs[best_doc_index]}")

Alignement Avancé et Tendances (DPO, I-Con)

Comment contrôler une IA générative ? Le "Reinforcement Learning" a évolué drastiquement pour les LLMs.

RLHF vs DPO

• RLHF (Reinforcement Learning from Human Feedback) : Complexe. Nécessite d'entraîner un modèle de récompense séparé + PPO.
• DPO (Direct Preference Optimization) : La norme en 2025/2026. On optimise directement le modèle sur les préférences (A est mieux que B) sans modèle de récompense explicite. Plus stable et léger.

Le "Tableau Périodique" du ML (I-Con)

Une théorie unifiée émergeant en 2026 qui prouve que la classification, le clustering et la régression sont des variantes de la même équation mathématique.

🛠️ Micro-Exercice : Concept DPO (Simulation)

Utiliser la librairie trl de Hugging Face est le standard actuel.

# Pseudo-code pour illustration de la simplicité de DPO
from trl import DPOTrainer

# Le Trainer prend directement les données de préférence
# Dataset doit avoir colonnes : "prompt", "chosen", "rejected"
dpo_trainer = DPOTrainer(
    model=model,
    train_dataset=dataset, # Vos données (A > B)
    beta=0.1,              # Hyperparamètre de divergence
)

# dpo_trainer.train()
print("L'entraînement DPO optimise directement la probabilité de 'chosen' vs 'rejected'")