OpenAI Assistants v2: verbessertes integriertes RAG

OpenAI verstärkt sein natives RAG-Angebot

OpenAI bringt die Version 2 seiner Assistants-API mit signifikanten Verbesserungen der RAG-Fähigkeiten. Der file search wird leistungsfähiger, die Quellenannotationen genauer und die Vector Stores flexibler.

"Assistants v2 stellt unsere Vision von schlüsselfertigem RAG dar", erklärt Sam Altman während der Keynote. "Entwickler können RAG-Produktionsanwendungen in wenigen Codezeilen bauen."

Neuigkeiten der Assistants-API v2

Verbesserter File Search

Der File Search v2 bringt wesentliche Verbesserungen:

DEVELOPERpython
from openai import OpenAI

client = OpenAI()

# Vector store erstellen
vector_store = client.beta.vector_stores.create(
    name="knowledge-base",
    chunking_strategy={
        "type": "semantic",  # Neu: semantisches chunking
        "min_chunk_size": 100,
        "max_chunk_size": 800
    }
)

# Dateien hochladen
client.beta.vector_stores.files.upload(
    vector_store_id=vector_store.id,
    file=open("document.pdf", "rb")
)

# Assistant mit RAG erstellen
assistant = client.beta.assistants.create(
    name="RAG Assistant",
    model="gpt-4-turbo",
    tools=[{"type": "file_search"}],
    tool_resources={
        "file_search": {
            "vector_store_ids": [vector_store.id]
        }
    }
)

Die chunking-Strategien sind jetzt direkt in der API konfigurierbar.

Quellenannotationen

Die Antworten enthalten jetzt präzise Annotations/Quellenangaben:

DEVELOPERpython
# Antwort mit Annotationen
{
    "content": "Der Umsatz ist um 15% gestiegen[1].",
    "annotations": [
        {
            "type": "file_citation",
            "text": "[1]",
            "file_id": "file-abc123",
            "quote": "Der Jahresumsatz zeigt ein Wachstum von 15%",
            "page": 12,
            "confidence": 0.94
        }
    ]
}

Die Annotationen umfassen:

• Exaktes Zitat aus dem Quelldokument
• Seitenzahl (für PDFs)
• Vertrauensscore
• Link zur Quelldatei

Diese Funktion ist entscheidend für die Erkennung von Halluzinationen.

Geteilte Vector Stores

Vector Stores können jetzt zwischen Assistenten geteilt werden:

DEVELOPERpython
# Einen geteilten Vector Store erstellen
shared_store = client.beta.vector_stores.create(
    name="company-knowledge",
    sharing="organization"  # Neu
)

# In mehreren Assistenten verwenden
for assistant_id in [assistant1, assistant2, assistant3]:
    client.beta.assistants.update(
        assistant_id,
        tool_resources={
            "file_search": {
                "vector_store_ids": [shared_store.id]
            }
        }
    )

Verbesserter Streaming

Das Streaming der RAG-Antworten ist granularer:

DEVELOPERpython
with client.beta.threads.runs.stream(
    thread_id=thread.id,
    assistant_id=assistant.id
) as stream:
    for event in stream:
        if event.event == "thread.message.delta":
            print(event.data.delta.content[0].text.value, end="")
        elif event.event == "file_search.start":
            print(f"\n[Suche in {len(event.data.files)} Dateien...]")
        elif event.event == "file_search.results":
            print(f"\n[{len(event.data.results)} Ergebnisse gefunden]")

Leistung und Grenzen

Benchmarks

OpenAI veröffentlicht Benchmarks für standardisierte RAG-Aufgaben:

Aktuelle Grenzen

Preise

Neues Preismodell

Vergleich mit kundenspezifischen Lösungen

*Für 100K Anfragen/Monat, 1000 Dokumente

Siehe unseren Leitfaden zur Optimierung der RAG-Kosten.

Anwendungsfälle

Wann Assistants v2 einsetzen

Ideal für :

• Schnelle Prototypen
• Teams ohne RAG-Expertise
• Anwendungen mit moderatem Traffic
• All-in-one-Integration

Weniger geeignet für :

• Sehr hohe Volumen (> 1M Anfragen/Monat)
• Erweiterte Anpassungsanforderungen
• Anforderungen an Datenhoheit
• Multi-LLM-Architekturen

Vollständiges Beispiel

DEVELOPERpython
from openai import OpenAI

client = OpenAI()

# 1. Vector store mit Dokumenten erstellen
vector_store = client.beta.vector_stores.create(name="docs")
client.beta.vector_stores.file_batches.upload_and_poll(
    vector_store_id=vector_store.id,
    files=[open(f, "rb") for f in ["doc1.pdf", "doc2.pdf"]]
)

# 2. Assistent erstellen
assistant = client.beta.assistants.create(
    name="Support Bot",
    model="gpt-4-turbo",
    instructions="Du bist ein Support-Assistent. Nenne immer deine Quellen.",
    tools=[{"type": "file_search"}],
    tool_resources={"file_search": {"vector_store_ids": [vector_store.id]}}
)

# 3. Eine Konversation erstellen
thread = client.beta.threads.create()
client.beta.threads.messages.create(
    thread_id=thread.id,
    role="user",
    content="Wie konfiguriert man Produkt X?"
)

# 4. Ausführen und streamen
with client.beta.threads.runs.stream(
    thread_id=thread.id,
    assistant_id=assistant.id
) as stream:
    for text in stream.text_deltas:
        print(text, end="")

Migration von v1

Breaking changes

• retrieval wird in file_search umbenannt
• Neue Struktur der Annotationen
• Vector Stores obligatorisch (keine direkt angehängten Dateien mehr)

Migrationsleitfaden

DEVELOPERpython
# Vorher (v1)
assistant = client.beta.assistants.create(
    tools=[{"type": "retrieval"}],
    file_ids=["file-123"]
)

# Nachher (v2)
vector_store = client.beta.vector_stores.create()
client.beta.vector_stores.files.create(
    vector_store_id=vector_store.id,
    file_id="file-123"
)
assistant = client.beta.assistants.create(
    tools=[{"type": "file_search"}],
    tool_resources={"file_search": {"vector_store_ids": [vector_store.id]}}
)

Unsere Einschätzung

Assistants v2 stellt eine bedeutende Verbesserung dar:

Stärken :

• Schlüsselfertiges RAG, vereinfacht
• Präzise Quellenannotationen
• Gute Integration ins OpenAI-Ökosystem

Zu beachtende Punkte :

• Lock-in bei OpenAI
• Begrenzte Anpassbarkeit
• Daten werden bei OpenAI gehostet
• Auslaufende API: OpenAI hat (August 2025) die Einstellung der Assistants-API angekündigt, mit endgültiger Abschaltung am 26. August 2026 zugunsten der Responses-API (Stand: Juli 2026)

Für Projekte, die mehr Kontrolle oder Datenhoheit benötigen, bieten Lösungen wie Ailog eine Alternative mit französischem Hosting und erweiterten Anpassungsmöglichkeiten.

Siehe unseren Leitfaden der besten RAG-Plattformen zum Vergleich.