LlamaIndex - Failproof AI

Drei Schritte zu Ihrem ersten LlamaIndex-Trace. Informationen zu Workflow-Schritten, Retrieval, dem Reaper und weiteren Optionen finden Sie in der vollständigen Anleitung.

Installation

pip install 'failproofai-sdk[llamaindex]'

Instrumentierung

Die Agent-API von LlamaIndex ist asynchron. Jeder Scope funktioniert sowohl mit async with als auch mit with.

import asyncio

import failproofai_sdk

failproofai_sdk.configure(environment="production")
failproofai_sdk.instrument()

async def main():
    async with failproofai_sdk.session():
        await agent.run("...")

asyncio.run(main())

Ohne ein zusätzliches Argument an Ihrem LLM ist jede Token-Anzahl in Ihrem Trace null — llama-index-llms-openai fordert bei Streaming keine Nutzungsdaten an. Siehe Token-Anzahlen.

Überprüfen, ob die Daten angekommen sind

Führen Sie es einmal aus und öffnen Sie dann Observe → Sessions, um Ihre Umgebung auszuwählen. Ihr Durchlauf erscheint als rekonstruierter Trace. Falls nichts ankommt, überprüfen Sie die Verbindung des Rechners mit failproofai config --status.

Vollständige LlamaIndex-Anleitung

Token-Anzahlen, was aufgezeichnet wird, Workflow-Schritte, Retrieval, Optionen und häufige Probleme.