Hugging Face、複数のAIモデルをつなぐ開発ツールを公開

利用者がアプリの入力欄にメモを入れると、アプリはそれをモデルへ送り、返ってきた要約を画面に表示します。その間で要求を送り、答えを受け取るコードを書くのが開発者です。ライブラリ はこうしたコードを書くときに使う道具の集まりで、Swift は主にApple端末向けのアプリを作るときに使うプログラミング言語です。

AnyLanguageModelにモデルは入っていません。どのモデルをつなぐかは開発者が決め、そのモデルを動かす端末の条件や外部サービスの利用条件も開発者が整えます。

%% モデルをつなぐ前に決める順番 · 編集部による整理
flowchart TD
  A["必要な結果 · 例: メモの要約"] --> B["計算する場所 · 端末内か外部サーバーか"]
  B --> C["その経路の条件 · モデルファイル、APIキー、料金"]
  C --> D["実際のメモで結果を比べる"]

API は、プログラム同士が要求と応答をやり取りする約束です。提供元ごとに約束が異なると、アプリの接続コードも提供元ごとに書くことになります。AnyLanguageModelはアプリ側の要求をFoundation ModelsのAPIにそろえ、その先につなぐモデルだけを差し替えられるようにします。すでにFoundation Modelsで作ったアプリなら、import の1行を書き換えるだけで移行できるとリポジトリは説明しています。公式リポジトリ

ローカル実行 はモデルの計算を利用者の端末で行う方式、外部提供モデル はアプリがネットワーク経由で提供元のサーバーに要求する方式です。スマホに入っているアプリでも、答えはサーバーで計算されることがあります。

「会議は金曜15時、資料は木曜までに共有」というメモを、二つのモデルに同じように入れるとします。共通APIのおかげで接続コードは同じでも、問題が起きたときに見る場所は症状によって変わります。

答えが返ってきたなら、接続はできています。でも要約から「木曜」が抜けていれば、利用者に頼まれた仕事は失敗で、それは実際のメモを入れて比べないとわかりません。リポジトリの説明では、答えを決まった形式で受け取る guided generation もすべての提供元で使えます。この機能がそろえるのは形式なので、欄の中身が正しいかは、やはり実際の入力で比べることになります。公式リポジトリ

リポジトリのコードは Apache 2.0 ライセンスで公開されています。このライセンスが決めるのはライブラリのコードの利用条件までで、ダウンロードするモデルのライセンスや外部APIの料金は、それぞれの提供元が決めます。ライセンス

外部APIを使うなら、APIキーの管理も開発者の仕事です。リポジトリは、キーをアプリにそのまま埋め込まないよう案内しています。配布したアプリは解析され、キーを抜き出されるおそれがあるからです。その代わりに、利用者が自分のキーを入れる方法と、開発者のサーバーを経由して要求する方法を、それぞれの長所と短所とともに紹介しています。認証情報の案内