皆さんGitHub Models使っていますか？
私はChatGPTもどきを作って遊んでいました。
昨年末に行われた社内向けの技術イベントでも取り上げるなど、
個人的にGitHub Modelsは今イチ推しサービスです。
前回の記事の執筆後にも重要なアップデートがいくつか入っていました。
今回はそれらのアップデートについてご紹介します。
GitHub Modelsとは？に関しては前回の記事をご覧ください。
対応モデル追加
何かと話題のDeepSeekやo3-miniが早くも登場しました。
また、Codestralはコード生成タスク用に設計されているとのことで、
エンジニアとしては興味深いモデルではないでしょうか。
o1やo3-miniを使うにはGitHub Copilotの契約が必要なようです。
（OrganizationのBusinessではPlaygroundが開けなかったため、詳しい条件は分かりませんでした・・・）
ちなみに、Public PreviewやGAの意味は以下の記事に記載がありました。
New Terminology for GitHub Previews
o3-mini (Public Preview)
OpenAI o3-mini now available in GitHub Copilot and GitHub Models (Public Preview)
DeepSeek-R1 (Public Preview)
DeepSeek-R1 is now available in GitHub Models (Public Preview)
Phi-4 (GA)
Phi-4 is now available in GitHub Models (GA)
Codestral 25.01 (GA)
Codestral 25.01 is now available in GitHub Models (GA)
o1
OpenAI o1 is now available in GitHub Models
Mistral Large 24.11 (GA)
Mistral Large 24.11 is now available on GitHub Models (GA)
Llama 3.3 70B Instruct (GA)
Llama 3.3 70B Instruct is now available on GitHub Models (GA)
Playground関連
Response formatの追加（JSONとSchema）
GitHub Models now supports the ability to retrieve structured JSON responses in the UI
GitHub Models introduces JSON schema support for response formats
以前からAPI経由であれば可能でしたが、Playgroundでも対応しました。
全てのモデルが対応しているわけではないので注意です。
（Changelogから。現在は異なる可能性あり。）
JSON ⇒ OpenAI（o1-miniおよびo1-previewを除く）およびMistralモデル
Schema ⇒ GPT-4o
AIによるプロンプトの改善
GitHub Models introduces AI-powered system prompt enhancement [GA]
プロンプトエンジニアリング、難しいですよね。
改善して欲しい内容を入力すると、
AIがプロンプトを改善してくれるようになりました。
AIに指示する内容もAIが考える時代、いやはや恐ろしいものです。
トークン数とレイテンシの情報を表示
You can now view real-time token and latency usage in GitHub Models (GA)
以前からAPIのレスポンスにはトークン数が含まれていたのですが、
Playgroundでも確認できるようになりました。
レイテンシも確認できるため、前回の記事で紹介したCompareも使い、
応答速度やトークン数を比較できます。
{最後のチャットの値} / {現在のセッションの合計}で表されています。
新しいプロンプトエディターを導入
GitHub Models introduces a new prompt editor (GA)
ぱっと見では分かりづらかったので、少し使い方をご紹介します。
（果たして例が適切なのかは分かりませんが・・・）
Prompt editorから入ることができます。
User欄に{{変数名}}のような形式を入力すると、Edit variablesが有効になります。
値を入力します。
その状態でRunすると、変数が埋め込まれるようです。
ユーザープロンプトを全量再入力する必要がなく、差分だけ書き換えられるのがメリットなのでしょうか？
その他
モデル一覧にソート機能が追加
Find the next model for your project faster with new sorting options on GitHub Models (GA)
名前順や追加順、制限トークン数などでソートできるようになりました。
まとめ
API経由でしか試せなかった機能がPlaygroundでも使えるようになり、
どんどん便利になっていますね。
DeepSeekやo3-miniなど、最新のモデルへの対応のスピードにも驚きです。
この記事も数日に分けてちまちま書いていたのですが、
その間にもアップデートが行われて、書く内容が増えていつまでも終わらん！ と、
嬉しい悲鳴を上げる羽目になりました。
おわりに
KENTEMでは、様々な拠点でエンジニアを大募集しています！ 建設×ITにご興味頂いた方は、是非下記のリンクからご応募ください。 recruit.kentem.jp career.kentem.jp
