Cohere Rerank API für den RAG-Produktivbetrieb

Warum Cohere Rerank ?

• ✅ Bis zu 40% Genauigkeitsverbesserung gegenüber Bi-Encodern
• ✅ Unterstützt mehr als 100 Sprachen
• ✅ Gehostete API (kein Modell-Hosting)
• ✅ Schnell (< 200ms für 100 Dokumente)

Schnellstart

DEVELOPERpython
import cohere

co = cohere.Client('YOUR_API_KEY')

def rerank_with_cohere(query, documents):
    results = co.rerank(
        model='rerank-v3.5',  # einheitliches mehrsprachiges Modell
        query=query,
        documents=documents,
        top_n=10
    )

    return [doc['text'] for doc in results.results]

# Verwendung
retrieved_docs = vector_search(query, k=100)
reranked = rerank_with_cohere(query, retrieved_docs)

Modelle (November 2025)

rerank-v3.5 (Daten: Juli 2026)

• Einheitlich mehrsprachig (ersetzt die separaten v3.0-Modelle für Englisch und Mehrsprachigkeit)
• Mehr als 100 Sprachen
• 1$ pro 1000 Abfragen
• 4k Token Kontext

rerank-v4.0-fast / rerank-v4.0-pro

• Neueste Generation, mehr als 100 Sprachen
• Größerer Kontext mit 32k Token
• 2$ / 2,50$ pro 1000 Abfragen

Die Modelle rerank-english-v3.0 und rerank-multilingual-v3.0 sind weiterhin verfügbar, werden jetzt aber durch das einheitliche mehrsprachige Modell rerank-v3.5 abgelöst.

Mit Metadaten

DEVELOPERpython
results = co.rerank(
    query=query,
    documents=[
        {"text": doc, "metadata": {"source": "wiki", "date": "2025"}}
        for doc in documents
    ],
    top_n=10,
    return_documents=True
)

for r in results.results:
    print(f"Score: {r.relevance_score}")
    print(f"Text: {r.document['text']}")
    print(f"Metadata: {r.document['metadata']}")

Kostenoptimierung

DEVELOPERpython
# Nur reranken, wenn der initiale Score niedrig ist
def smart_rerank(query, initial_results, threshold=0.7):
    # Wenn das erste Ergebnis hohe Vertrauenswürdigkeit hat, Reranking überspringen
    if initial_results[0]['score'] > threshold:
        return initial_results[:10]

    # Andernfalls reranken
    return rerank_with_cohere(query, [r['text'] for r in initial_results])

Cohere Rerank ist der einfachste Weg, die RAG-Genauigkeit erheblich zu verbessern. Integrieren Sie es einfach nach dem Retrieval.