AnythingLLM

AnythingLLMとは

AnythingLLMは、手元の文書を検索して回答するRAG、複数モデルとのチャット、AIエージェント、MCP、APIを一つにまとめたオープンソース基盤です。デスクトップ版はMac、Windows、Linuxに対応し、メールやカードの登録なしで使い始められます。Docker版は複数ユーザーの社内Webアプリとして運用でき、公式Cloudを選べば自前サーバーなしでも利用できます。

主な機能

文書RAGとワークスペース

PDFなどの資料をワークスペースへ取り込み、ベクトルデータベースへ登録して、根拠となる文書を参照しながら質問できます。LLM、埋め込みモデル、ベクトルDBを複数の選択肢から組み合わせられます。

エージェントとMCP

Web検索や外部ツールを使うエージェント、MCPサーバーとの接続、各種データコネクターを利用できます。エージェントは設定次第で外部通信や操作を行うため、許可するツールと認証情報を絞る必要があります。

複数ユーザーと開発者API

Docker版は管理者、利用者、ワークスペース権限を持つチーム運用に対応します。開発者向けAPIでチャットや文書処理を既存システムへ組み込めます。デスクトップ版は単一利用者向けで、社内共有にはDockerまたはCloudが適します。

使い方

個人で試す場合は公式ダウンロードページからOSに合うデスクトップ版を入れ、利用するLLMと埋め込みモデルを選びます。ローカルモデルだけで構成すれば外部APIキーなしでも使えます。次に資料をワークスペースへ登録し、引用元と回答内容を確認します。チーム導入ではDocker版を隔離環境へ置き、HTTPS、認証、バックアップ、更新、モデル別のデータ送信先を設計します。

無料版・料金

デスクトップ版とセルフホストDocker版は0ドルです。ただし、クラウドLLMのAPI、GPU、サーバー、ストレージの費用は別にかかります。公式ホスト版はBasicが月50ドル、Proが月99ドルで、複数ユーザー、管理、ホワイトラベルなどを提供します。Enterpriseは要問い合わせです。料金だけでなく、セルフホストの保守工数と外部モデルの従量課金を含めて比較してください。

日本語対応と商用利用

日本語の質問と回答は接続するLLM・埋め込みモデルの能力に依存します。公式GitHubには日本語のREADME翻訳がありますが、アプリUI全体の日本語対応は確認できませんでした。コードはMIT Licenseで、商用利用、改変、再配布が可能です。ただし、接続するモデル、埋め込みモデル、取り込む文書、生成出力にはそれぞれ別の利用条件があります。

向いている人

社内文書を使うAI検索を試したい人、クラウドへ資料を預けずローカルRAGを作りたい人、複数のLLMを切り替えたい開発チームに向きます。SaaSの設定だけで完結させたい場合はCloud、データと構成を自社管理したい場合はDocker、個人検証はデスクトップが分かりやすい選択です。

注意点

公式のセルフホスト規約は、ローカル優先でMintplexが文書、チャット、設定、埋め込みへアクセスしないと説明していますが、外部LLMやコネクターを選べば情報はその提供者へ送られます。オプションのテレメトリーも設定を確認してください。RAG回答は原文を誤読したり、根拠のない内容を混ぜたりするため、引用箇所を開いて確認します。公開サーバーでは認証、更新、ネットワーク制限を必須にしてください。

本番導入前に、想定質問と正解資料を使った評価セットを作り、検索漏れ、誤引用、権限外文書の参照がないか確認します。モデルや埋め込みを変更した際も同じ評価を再実行してください。