エージェントを自作していると、どのLLM APIを組み合わせるべきか本当に悩みますよね。特にClaude 3.5 Sonnet、GPT-4o、Gemini 1.5 Proの中から選ぶとなると頭が痛くなります。単に基本料金を見るだけでなく、各モデルのプロンプトキャッシング方式や動作特性を理解すれば、コストを大幅に節約できます。

まず、マルチファイル分析や複雑なJSON構造を完璧に維持しなければならない精密なコーディング作業には、やはりClaude 3.5 Sonnetの処理が最もクリーンです。100万トークンあたりの入力3ドル、出力15ドルと基本コストは高めですが、プロンプトキャッシングを積極的に活用すれば入力コストを90%も削減できるため、反復的なエージェントループにはかなり有利です。一方、GPT-4oは1,024トークンを超えると設定なしで自動的に50%のキャッシング割引が適用されるため管理が非常に楽で、最大16,384トークンの余裕ある出力制限をサポートしており、長くスムーズなコード出力が必要な場合に最適です。

もし数万行のコードベースや重いドキュメントを丸ごと読み込ませて質問するエージェントなら、Gemini 1.5 Proが正解に近いでしょう。最大200万トークンという圧倒的なコンテキストウィンドウのおかげで、ファイルを分割する手間がなくなるからです。ただし、128Kトークンを超えると基本API料金が2倍になり、コンテキストキャッシングの場合は75%割引が適用される代わりに、時間あたりの保管費用として100万トークンあたり4.5ドルが別途追加される点は、設計時に必ず考慮しておく必要があります。自分のエージェントが単発の精密コーディングを行うのか、それとも膨大なドキュメントを探索するのかに合わせて、賢くモデルを選択してみてください！