LlamaIndex

pip install 'failproofai-sdk[llamaindex]'

import asyncio

import failproofai_sdk

failproofai_sdk.configure(environment="production")
failproofai_sdk.instrument()


async def main():
    async with failproofai_sdk.session():
        await agent.run("...")


asyncio.run(main())

from llama_index.llms.openai import OpenAI

llm = OpenAI(
    model="gpt-4o-mini",
    additional_kwargs={"stream_options": {"include_usage": True}},
)

import asyncio

import failproofai_sdk
from llama_index.core.agent.workflow import FunctionAgent
from llama_index.core.tools import FunctionTool
from llama_index.llms.openai import OpenAI

failproofai_sdk.configure(environment="production")
failproofai_sdk.instrument()

POP = {"tokyo": "37M", "delhi": "33M"}
AREA = {"tokyo": "2,194 km2", "delhi": "1,484 km2"}


def population(city: str) -> str:
    """Population of a city. Valid: tokyo, delhi."""
    return POP.get(city.lower().strip(), "unknown")


def area(city: str) -> str:
    """Land area of a city. Valid: tokyo, delhi."""
    return AREA.get(city.lower().strip(), "unknown")


async def main():
    agent = FunctionAgent(
        name="city_analyst",
        tools=[
            FunctionTool.from_defaults(fn=population),
            FunctionTool.from_defaults(fn=area),
        ],
        llm=OpenAI(
            model="gpt-4o-mini",
            additional_kwargs={"stream_options": {"include_usage": True}},
        ),
        system_prompt="Use the tools. Be terse.",
    )

    async with failproofai_sdk.session():
        async with failproofai_sdk.agent("city_analyst", goal="compare two cities"):
            print(await agent.run("Compare Tokyo and Delhi on population and area."))


asyncio.run(main())

FunctionAgent(name="city_analyst", tools=[...], llm=llm)   # agent_id = "city_analyst"

AgentWorkflow            親スパン
├─ city_analyst          ターン 1
├─ cost_analyst          ターン 2
└─ city_analyst          ターン 3  — 新しいターン（最初のターンの再開ではない）

async with failproofai_sdk.agent("research", goal="compare two cities"):
    await agent.run(...)

async with failproofai_sdk.session(f"chat-{user_id}"):
    await agent.run(...)

failproofai_sdk.instrument(
    "llama_index",
    embeddings=False,         # True にするとエンベディング呼び出しをツールペアとして記録
    steps=True,               # False にするとワークフローステップのフックペアを省略
    capture_messages=True,    # False にするとすべてのペイロードを省略: プロンプト、補完、
                              # ツールの引数と出力、ステップの I/O、リトリーバル
                              # クエリ、ゴール、最終回答
    capture_limit=8192,       # キャプチャされる値ごとに保持する文字数
    stale_after=600.0,        # 放棄されたリーフを強制クローズするまでの秒数
    reaper_interval=30.0,     # リーパーのスイープ間隔（秒）。0 で無効化
)

async def ask_human(question: str) -> str:
    """Ask a person and wait for their answer."""
    response = await ctx.wait_for_event(HumanResponseEvent)
    return response.answer