Function calling / GPT-4, GPT-3.5の0613モデル等のOpenAI APIアップデート情報まとめ
2023/06/16
2023年6月13日にOpenAIからAPIのアップデート情報が公開されました。
公式のリリースはこちら「Function calling and other API updates」より。
今回のアップデートで、よりGPTモデルを自社サービス等に組み込んで開発しやすくなる「Function calling」機能や、既存のgpt-3.5, gpt-4モデルの新バージョンの発表などがありましたので、下記にて内容を解説します。
発表のポイント
「Function calling」機能を搭載したGPT-3.5 TurboとGPT-4の新しいモデルである0613版が登場gpt-3.5-turboの入力トークンの価格を25％コスト削減gpt-3.5-turboの4倍のトークン（4096token→16384token）を扱えるgpt-3.5-turbo-16kが登場し、価格は2倍gpt-4とgpt-3.5-turboは6月27日に0613版へ自動アップデートされるEmbeddingsモデルのtext-embedding-ada-002は、1Kトークンあたりのコストを75%削減
アップデート内容詳細
1. Function callingについて
GPTのモデルに対して関数（Function）を説明することができ、モデルは関数を呼び出すための引数を含むJSONオブジェクトを出力し、外部ツールとより確実に連携することができます。
モデルが、関数が呼び出される必要があるタイミングを検出し、関数の定義に従ったJSONで応答するため、開発者はモデルからより確実に構造化されたデータを取得することが可能になります。
開発者がモデルに関数をJSON Schemaを通じて説明し、必要に応じて特定の関数を呼び出すように指示することを可能にします。
【Function callingの例（公式ドキュメントより）】
外部ツールを呼び出して質問に答えるチャットボットの作成（例えば、ChatGPT Pluginsのようなもの）「来週の金曜日にアーニャにコーヒーを飲みに行きたいか聞くメールを送る」をsend_email(to: string, body: string)という関数呼び出しに変換「ボストンの天気はどう？」をget_current_weather(location: string, unit: 'celsius' | 'fahrenheit')に変換自然言語をAPI呼び出しやデータベースクエリに変換「今月のトップ10の顧客は誰？」をget_customers_by_revenue(start_date: string, end_date: string, limit: int)という内部API呼び出しに変換「アクメ社は先月何回注文した？」をsql_query(query: string)を使用したSQLクエリに変換テキストからの構造化データを抽出extract_people_data(people: [{name: string, birthday: string, location: string}])という関数を定義し、Wikipediaの記事に記載された全ての人物を抽出
2. モデルのアップデートについて
GPT-4とGPT-3.5 Turboの最新モデルとして、新たな0613版モデルがリリースされました。それぞれのモデルのアップデート内容は下記となります。
GPT-4
Function calling機能を含む改善されたモデルであるgpt-4-0613を発表上記のgpt-4-0613と同様の機能に加え、より多くのトークンを扱えるgpt-4-32k-0613を発表アップデートに伴い、GPT-4のAPI Wait Listからより多くのユーザーをテストに招待し、更にWait Listの完全開放を準備中
GPT-3.5 Turbo
Function calling機能を含む改善されたモデルであるgpt-3.5-turbo-0613をリリースgpt-3.5-turbo-0613は更にSystem messageでより信頼性のある操作ができるように改善gpt-3.5-turboの扱える文脈（トークン）を4倍にして価格を2倍にしたgpt-3.5-turbo-16kをリリース（1リクエストで約20ページのテキストをサポートできるように）
旧モデルの廃止
旧モデル（gpt-3.5-turbo、gpt-4、gpt-4-32k）を使用するアプリケーションは、6月27日に0613版の新モデルに自動的にアップグレード旧モデルはAPIリクエストにgpt-3.5-turbo-0301、gpt-4-0314、またはgpt-4-32k-0314を明示すれば旧モデルを引き続き使用することは可能だが、9月13日以降はリクエストが失敗するようになる
3. APIの低価格化
既存APIの効率化を実現し、利用料の低価格化が発表されました。
Embeddings
text-embedding-ada-002の1Kトークンあたりの費用を75%減の$0.0001に引き下げ
GPT-3.5 Turbo
gpt-3.5-turboの入力トークンの費用を25%引き下げ1K入力トークンごとに$0.0015、1K出力トークンごとに$0.002で使用できるように約1ドルで700ページを処理できる計算となるgpt-3.5-turbo-16kの価格は、1K入力トークンごとに$0.003、1K出力トークンごとに$0.004となる
