SSE で LLM 応答をストリーミングする実践ガイド

SSE で LLM 応答をストリーミングする実践ガイド

## なぜ重要か

最初の文字がすぐ表示されるだけで、チャットは速く感じます。SSE は長い応答を小さなチャンクで届けます。ClaudeN AI なら 1 つの API key と base URL で Claude、GPT、Gemini に同じ OpenAI ストリーミングを使えます。

## Python 例

``python
from openai import OpenAI

client = OpenAI(api_key="YOUR_CLAUDEN_KEY", base_url="https://clauden.ai/v1")

resp = client.chat.completions.create(
model="claude-3-5-sonnet",
messages=[{"role": "user", "content": "Explain this in plain English."}],
stream=True,
)

for chunk in resp:
print(chunk.choices[0].delta.content or "", end="", flush=True)
``

## 本番のコツ

API key はバックエンドに置き、ストリームだけをブラウザへ中継します。timeout は長めにし、token 使用量は最後に記録します。$5 無料クレジットで実 workloads を試せます。

登録で $5 分の無料クレジットを獲得

無料で始める

← ClaudeN AI ブログ

登録で $5 分の無料クレジットを獲得