Reranking Cross-Encoder pour la Précision RAG

Pourquoi les cross-encoders ?

Les bi-encodeurs (embeddings standards) encodent la requête et le document séparément. Les cross-encoders les traitent ensemble — beaucoup plus précis mais plus lent.

Bi-encodeur : sim(encode(query), encode(doc)) Cross-encodeur : score(query + doc ensemble)

Implémentation

DEVELOPERpython
from sentence_transformers import CrossEncoder

model = CrossEncoder('cross-encoder/ms-marco-MiniLM-L-6-v2')

def rerank(query, documents, top_k=5):
    # Créer des paires requête-document
    pairs = [[query, doc] for doc in documents]

    # Scorer toutes les paires
    scores = model.predict(pairs)

    # Trier par score
    ranked = sorted(zip(documents, scores), key=lambda x: x[1], reverse=True)

    return [doc for doc, score in ranked[:top_k]]

# Utilisation
initial_results = vector_search(query, k=100)
final_results = rerank(query, initial_results, top_k=10)

Meilleurs modèles (avril 2026)

Le paysage du reranking a considérablement évolué. Voici les leaders actuels :

Rerankers API (par rating ELO)

Source : Agentset Reranker Leaderboard, avril 2026

Rerankers auto-hébergés (par précision Hit@1)

Insight clé : la taille du modèle ne détermine pas la qualité. GTE-reranker à 149M params égale Nemotron à 1.2B sur Hit@1.

Nouveautés

Zerank 2 (ZeroEntropy, 2026)

• Suit les instructions : ajouter du contexte métier, abréviations, préférences utilisateur
• 100+ langues, support cross-lingue
• Reranker API le plus rapide (265ms) au plus bas coût ($0.025/M)

Cohere Rerank 4 Pro (2026)

• +170 ELO d'amélioration par rapport à v3.5
• +400 ELO sur les tâches business/finance
• Architecture multilingue mono-modèle

Jina Reranker v3 (fin 2025)

• Reranker listwise : traite requête + tous les candidats dans une seule fenêtre de contexte (jusqu'à 64 docs)
• 10x plus petit que les rerankers listwise génératifs
• BEIR : 61.94 nDCG@10 sur 18 langues

Qwen3-Reranker Series (2026)

• Trois tailles : 0.6B, 4B, 8B — tous Apache 2.0
• 100+ langues, contexte 32K, support retrieval de code
• Meilleure option reranker entièrement open-source

GTE-reranker-modernbert-base (Alibaba, 2026)

• 149M params, contexte 8192 tokens, Flash Attention 2
• Le champion de l'efficacité — égale les modèles 1B+ à une fraction du coût

Récupération à deux étapes

DEVELOPERpython
def two_stage_rag(query, vector_db):
    # Étape 1 : Récupération rapide avec bi-encodeur (100 candidats)
    candidates = vector_db.search(
        query_embedding=embed(query),
        k=100
    )

    # Étape 2 : Reranking lent mais précis avec cross-encodeur
    cross_encoder = CrossEncoder('Alibaba-NLP/gte-reranker-modernbert-base')
    pairs = [[query, doc['content']] for doc in candidates]
    scores = cross_encoder.predict(pairs)

    # Retourner le top 10
    ranked = sorted(zip(candidates, scores), key=lambda x: x[1], reverse=True)
    return [doc for doc, _ in ranked[:10]]

LLM-as-Reranker : tendance émergente

L'utilisation de LLMs comme rerankers gagne du terrain en 2026 :

• RankGPT (GPT-4) : meilleur reranker listwise (DL19 : 75.59, Covid : 85.51)
• Les rerankers listwise open-source atteignent désormais 97% de l'efficacité de GPT-4 via QLoRA
• FIRST (IBM Research) : ranking à partir des logits du premier token, -21-42% de latence
• AFR-Rank : 2.7x plus efficace que RankGPT avec réduction des coûts API

Les rerankers LLM offrent la meilleure qualité mais avec latence/coût significatifs. Les cross-encoders restent le standard de production pour la plupart des cas d'usage.

Optimisation des performances

Les cross-encoders sont lents — optimisez :

DEVELOPERpython
# Traitement par batch
def batch_rerank(query, documents, batch_size=32):
    pairs = [[query, doc] for doc in documents]
    all_scores = []

    for i in range(0, len(pairs), batch_size):
        batch = pairs[i:i+batch_size]
        scores = model.predict(batch)
        all_scores.extend(scores)

    return sorted(zip(documents, all_scores), key=lambda x: x[1], reverse=True)

Quand reranker

Toujours reranker quand :

• La précision est critique
• Le coût des faux positifs est élevé
• Vous avez un budget de calcul

Ignorer le reranking quand :

• Latence < 100ms requise
• QPS élevé (> 1000/sec)
• Budget contraint