LLM API 비용 줄이기: 토큰 절약 팁 7가지

## 비용은 설계다

LLM 비용은 context, 모델, 출력 길이, cache에 따라 달라집니다. 오래된 대화를 줄이고, 짧은 system prompt를 쓰고, max_tokens를 설정하며, 쉬운 작업은 저렴한 모델로 보내세요.

``python
from openai import OpenAI
client = OpenAI(api_key="YOUR_CLAUDEN_KEY", base_url="https://clauden.ai/v1")
resp = client.chat.completions.create(model="gemini-1.5-pro", messages=[{"role":"user","content":"Summarize in 5 bullets."}], max_tokens=300)
``

ClaudeN AI의 $5 무료 크레딧으로 실제 prompt를 측정해 보세요.