PrivateGPT

PrivateGPTとは

PrivateGPTは、Ollama、LM Studio、vLLMなどOpenAI互換の推論サーバーへ接続し、その上にアプリケーション向けAPIを追加するオープンソース基盤です。文書取り込みと引用付き検索、Messages API、ツール、MCP、Web検索、コード実行、データベース・CSV分析、非同期処理を自己ホストできます。2026年の現行版は単なる「PDFと会話するGradioアプリ」より広いAPIレイヤーで、古いprimordial branchの記事と区別が必要です。

主な機能

文書・RAG・引用

PDF等のファイルを取り込み、分割、埋め込み、検索し、回答と引用を返します。Messages API、Files、Embeddings、Token Counting等を提供します。引用が付いても原文を正しく解釈しているとは限らず、重要な回答は引用箇所と文書版を人が確認します。

モデルサーバー分離

PrivateGPT自体はモデル推論を行わず、OPENAI_API_BASEで外部の互換サーバーへ接続します。ローカルURLならデータを自環境内に保ちやすく、クラウドURLなら文章やプロンプトが外部へ送られます。「Private」という名称だけで完全ローカルと判断せず、LLM、埋め込み、Web検索の全接続先を確認します。

API・ツール・UI

Claude APIを参考にしたMessages、ツール、MCP、DB、コード実行、非同期処理を提供し、/uiには動作確認用のUIがあります。公式はUIよりAPIを実製品の中心と説明します。コード実行やDB接続は資格情報と大きな権限を持つため、サンドボックス、読み取り専用、ネットワーク制御を使います。

使い方

macOSはHomebrew、各OSはPython 3.11とuv、またはDockerで導入できます。Ollama等を起動し、OPENAI_API_BASEを設定してprivate-gpt serveを実行します。Dockerではlocal_dataをボリュームへマウントしないと再起動で取り込みデータが失われます。小さな文書でモデル、埋め込み、引用、永続化を確認してからデータを移します。

料金と動作コスト

コードはApache-2.0で無料、登録不要です。Homebrew、パッケージ、Dockerイメージから利用できます。推論サーバー、GPU・CPU、ストレージ、埋め込み、検索、監視、運用は別費用です。クラウドのOpenAI互換APIを接続すれば、その提供者のトークン料金が発生します。モデルとDBドライバーのライセンスも別に確認します。

日本語対応

日本語の質問、文書、回答品質は接続するLLM、埋め込み、OCR、分割設定に依存します。公式ドキュメントとテストUIは英語中心で、日本語UIの保証はありません。日本語PDFの段組み、縦書き、表、スキャン、固有名詞を代表データで評価し、日本語に強い埋め込みと再ランキングを選びます。

商用利用・セキュリティ

Apache-2.0条件のもと商用利用できますが、接続モデル、データベース、外部ツールのライセンスは別です。標準APIをLANやインターネットへ公開する場合、認証、TLS、リバースプロキシ、秘密管理、監査ログを追加します。ローカル保存先の暗号化、バックアップ、削除、アクセス権も必要です。自動コード・SQLを本番へ直接実行しません。

おすすめの人

自社環境のLLMへ文書・ツール・API機能を加えたい開発者、モデルとアプリ層を分離したい組織に向きます。完成済みの一般向けチャットをワンクリックで使いたい人には、Open WebUI等の方が簡単です。現行ドキュメントを基準に、古い0.6系記事のコマンドを混ぜないことが重要です。