LLM APIの基礎用語

LLM APIを使いはじめるときに前提となる用語を、一つにつき一記事で解説しています。上から順に読むと、リクエストの形からコストの考え方、ツール連携までがつながります。

  1. 1すべての土台になるリクエスト形式OpenAI互換APIとは?仕組みと使い方を解説OpenAI互換APIの仕組みとメリット、FastMetalでの使い方を、コード例つきで丁寧に解説します。
  2. 2複数モデルを一つのAPIにまとめる層AIゲートウェイとは?仕組みと選ぶメリットを解説AIゲートウェイとは、複数のLLMを一つのAPIでまとめて使えるようにする中間層です。仕組み・主な機能・従来のAPIゲートウェイとの違いを、具体例つきで解説します。
  3. 3messages・role・主要パラメータChat Completions APIとは?messages・role・主要パラメータを解説Chat Completions APIとは、LLMに会話形式でリクエストを送るための事実上の標準インターフェースです。messages配列とrole、レスポンスの読み方、主要パラメータをコード例つきで解説します。
  4. 4モデルの振る舞いを決める指示システムプロンプトとは?役割と書き方、userとの違いを解説システムプロンプトとは、会話全体に効く「前提の指示」を渡すためのメッセージです。userメッセージとの違い、具体的な書き方のビフォー・アフター、コード例、注意点を開発者向けに解説します。
  5. 5課金とコンテキストの単位LLMのトークンとは?数え方と料金・コンテキストとの関係を解説LLM APIの課金単位「トークン」とは何か。文字でも単語でもない分割の仕組み、入力・出力の数え方、レスポンスのusageでの確認方法、コンテキストウィンドウや料金との関係を解説します。
  6. 6一度に扱える量の上限コンテキストウィンドウとは?LLMの上限と超えたときの対処法コンテキストウィンドウとは、LLMが一度に扱えるトークンの上限です。何が枠を消費するのか、超えるとどうなるのか、履歴の削り方からモデル選びまで対処法をコード例つきで解説します。
  7. 7出力のばらつきを制御する設定LLMのtemperatureとtop_pとは?用途別の設定目安を解説LLM APIのtemperatureとtop_pは、モデルが次のトークンを選ぶ「揺らぎ」を決めるパラメータです。仕組み、用途別の設定目安、よくある誤解を、コード例つきで解説します。
  8. 8モデルに外部関数を呼ばせる仕組みFunction calling(ツール呼び出し)とは?仕組みと実装の流れFunction callingとは、LLMが「この関数をこの引数で呼んでほしい」と構造化して返す仕組みです。リクエストとレスポンスの形、2往復の実装、MCPとの関係をコード例つきで解説します。
  9. 9ツール接続を標準化するプロトコルMCP(Model Context Protocol)とは?仕組みと使いどころMCPとは、LLMに外部のツールやデータを標準化された方法で接続するためのプロトコルです。仕組み・登場の背景・LLM APIとの関係を、開発者向けに分かりやすく解説します。
  10. 10429エラーの原因と対処LLM APIのレートリミット(429)とは?原因と対処法を解説LLM APIのレートリミットとは何か、429エラーが返る2つの原因(リクエスト過多と残高切れ)の見分け方、指数バックオフや同時実行制限といった正しい対処法をPythonのコード例つきで解説します。

用語を押さえたら、最初のリクエストを送ってみましょう。 はじめに →