GPT4All

GPT4Allとは

GPT4Allは、オープンな大規模言語モデルをパソコンへダウンロードし、Windows、macOS、Linuxでローカル実行する無料のデスクトップアプリです。クラウドAPIや専用GPUがなくてもチャットを始められ、会話内容と文書を端末内で扱えます。ソフトウェアはNomicが開発し、GitHubでMITライセンスとして公開されています。

主な機能

ローカルチャット

アプリのモデル一覧から対応するGGUFモデルを取得し、端末のCPU、Apple Metal、対応GPUで実行します。モデルのダウンロード後はネットワークに依存せず会話できます。必要メモリと速度はモデルサイズ、量子化、ハードウェアで大きく変わります。

LocalDocs

LocalDocsはPDFなど手元の文書をコレクションへ登録し、関連部分を検索してモデルの回答へ渡します。回答には参照文書の抜粋、著者、日付、ページ、タイトルなどを返せます。機密文書を端末内に保ちやすい一方、モデルの誤読や不正確な引用を原文で確認します。

Python SDKとローカルAPI

Pythonパッケージからモデルを呼び出せるほか、デスクトップ設定でHTTPのローカルAPIサーバーを有効にできます。OpenAI互換のmodels、completions、chat/completionsをlocalhostのポート4891で提供します。LocalDocsの有効化は現在UIから行う必要があります。

料金・登録・動作環境

GPT4All本体は0ドルで、アカウント登録もサブスクリプションも不要です。モデルの計算と保存は自分の端末で行います。Windows 10以降、macOS 12.6以降、Ubuntu 22.04以降が目安で、少なくとも8GB RAMとAVXまたはAVX2対応CPUが案内されています。Windows ARM版もありますが、Linux公式ビルドはx86-64です。

日本語対応

公式リリースには複数言語の翻訳更新がありますが、日本語UIの現行提供を明示した対応表は確認できません。日本語の入力・出力品質はダウンロードするモデルに依存します。日本語向けモデルを選ぶ場合も、モデルカードで対応言語、コンテキスト、ライセンス、必要メモリを確認する必要があります。

おすすめの人

文章や社内文書をクラウドへ送らずにLLMを試したい人、OpenAI互換APIをローカル開発へ使いたい人、GPUなしの一般的なパソコンで小型モデルを検証したい人に向きます。最新の最大モデルを高速実行したい場合は、メモリとGPUを用意するかクラウドサービスも比較します。

商用利用・安全上の注意

GPT4AllのソフトウェアはMITライセンスで商用利用できます。ただし、ダウンロードする各モデルにはMeta Community License、Apache-2.0など別の条件があり、モデル出力の商用利用と再配布は個別確認が必要です。ローカルAPIはHTTPでlocalhostだけを待ち受ける設計ですが、転送や設定変更でネットワーク公開する場合は認証、TLS、ファイアウォールを追加します。出力の正確性、第三者権利、秘密情報の混入も人間が確認してください。