AI TOOL DATABASE v2

Promptfoo

生成AIアプリをtrial-and-errorではなく、テストケース・評価指標・攻撃プローブをコード化してリリース前に品質と安全性を検証するOSS基盤。

AIネイティブ分類 A開発ツール公式サイト

選定サマリー

30秒で向き不向きを確認

AI位置づけ

AIネイティブ（AIそのものが中核のサービス）

向いている

LLM・RAG・AIエージェントをテスト駆動で開発したいチーム

向いていない

生成AIを使わず通常のWeb/APIセキュリティだけを検査したい用途

料金

オープンソース版は無料。Enterprise/Cloudの契約条件は公式サイトで最新情報を確認。

最大の強み

OSSかつCLI中心で既存開発工程へ入れやすい

注意点

有効なevalには代表的test caseとassertion設計が必要

THINKLAB判定

生成AIの品質と安全性を『人が画面で試す』作業から、repoに残るtest suiteとCI/CDへ移したいチームに非常に相性が良いOSSです。特にred teamingまで同じ開発フローに入れられる点が強みです。

概要

PromptfooはLLMアプリケーション向けのオープンソース評価・セキュリティテストツールです。

prompt、model/provider、test case、assertionを設定して複数条件をmatrix比較でき、品質・正確性・形式・コスト・latency等を継続評価できます。

概要の続きを読む

さらにRed Team機能ではjailbreak、prompt injection、RAG poisoning、PII leakage等を含む50以上の脆弱性タイプを対象にadversarial probeを生成し、HTTP API、browser、Python/JavaScript、RAG、agent、MCP等の実アプリを攻撃対象として検証できます。

CLIを中心にローカル実行でき、GitHub Actions等のCI/CDへ組み込んで品質閾値やsecurity scanをrelease gateにできる点が大きな特徴です。

主な機能

Provider-neutral evaluation

OpenAI、Anthropic、Azure、Google、Hugging Face、ローカルモデル、custom API等を同じtest matrixで比較できます。

Assertions and metrics

文字列・JSON等のdeterministic checkからmodel-graded rubricまで、用途に合わせて評価基準をコード化できます。

50+ vulnerability red teaming

security、privacy、compliance、harmful content、custom policyを含む多数の脆弱性カテゴリを継続scanできます。

Local-first OSS workflow

CLIでevalをローカル実行でき、結果をJSON・HTML・JUnit等へ出力して既存開発工程へ組み込めます。

CI/CD integration

GitHub ActionsやGitLab等でeval/red teamを自動実行し、AI品質を通常のsoftware testに近いrelease gateとして運用できます。

AI機能の詳細・制約はページ下部の「詳細情報」にまとめています

活用例

個人・一般

Prompt・モデル変更の回帰テスト

固定test suiteでpromptやmodelの変更前後を比較し、品質低下・format崩れ・cost増加をmerge前に検出する。

RAG・AIエージェントのRed Team

prompt injection、RAG poisoning、unauthorized tool use、PII leakage等の攻撃を自動生成して弱点を調べる。

複数LLMの選定

同じ入力とassertionで複数provider/modelを比較し、品質・latency・costのtrade-offを評価する。

業務・組織

生成AIリリースの品質ゲート

CI/CDで最低pass rateや必須security testを設定し、基準未達の変更を本番投入前に止める。

AIセキュリティ監査の反復

OWASP/NIST等を意識したred team scanを定期実行し、修正前後の脆弱性を同じtest suiteで比較する。

料金

PromptfooのコアCLI/ライブラリはオープンソースで利用できます。

Cloud/Enterpriseではチーム管理、企業向けsecurity・integration等が提供されますが、契約価格や含有機能は変わるため公式情報で確認してください。

無料枠あり

Open Source

ローカルCLI/ライブラリによるeval、red team、report、CI/CD利用。接続するLLM providerのAPI料金は別途発生。

Enterprise / Cloud

要問い合わせ

組織向け管理・security・enterprise integration等。最新機能と契約条件は公式サイトを確認。

公式 Pricing ページを開く料金確認：2026年8月26日

強み・弱み

強み

OSSかつCLI中心で既存開発工程へ入れやすい
品質evalとAI red teamingを同じtest frameworkで扱える
provider/modelの対応範囲が広くvendor lock-inを避けやすい
CI/CD quality gateとして自動化しやすい
RAG・agent・MCPを含む実アプリの攻撃テストまで対象が広い

弱み

有効なevalには代表的test caseとassertion設計が必要
大規模red teamは多数のmodel callを発生させ時間とAPI費用が増える
LLM-as-a-judgeだけに依存すると評価の再現性が下がる
自動red teamは専門家によるpentestの完全な代替ではない

比較・競合

迷うときの比較軸

LLM Evals
Red Team
CI/CD
RAG/Agent testing
Assertions
OSS
ローカル実行
Enterprise機能

Promptfoo vs Braintrust

production tracing→dataset→experimentの継続的品質改善を統合するならBraintrust、CLI/CI中心のtest-driven evalとred teamingを重視するならPromptfooが強い。

Promptfoo vs LangSmith

agent tracing・evaluation・deploymentをplatformとして統合するならLangSmith、OSSのtest suiteをrepo内で管理してCIへ組み込むならPromptfooが候補。

Promptfoo vs Arize Phoenix

OpenTelemetry tracingやproduction observabilityからRAG/agentを診断するならPhoenix、adversarial security testingとrelease gateを主軸にするならPromptfooを比較。

THINKLABの結論

選定サマリーの判定を、選び方として整理したものです。

選ぶべき場合

LLM/RAG/agentの変更をPRごとに自動評価し、品質regressionやprompt injection等の脆弱性をrelease前に検出したい場合。

別製品を選ぶべき場合

主目的がproduction observabilityやtrace分析の場合はPhoenix/Langfuse、production feedbackからdatasetを育てるeval platformが必要ならBraintrust等も比較してください。

確信度: high

詳細情報

導入判断の本線から外した補足です。必要な項目だけ開いてください。

AI機能の詳細

LLM Evals

複数prompt・provider・test caseを組み合わせ、deterministic assertionやLLM rubric等で出力をscore化して比較します。

制約

LLM judgeを使う評価はgrader modelのbias・variance・costを持つため、可能な項目はdeterministic assertionと併用するのが安全です。

Automated Red Teaming

pluginsで脆弱性カテゴリ、strategiesで攻撃手法を指定し、対象アプリ向けのadversarial testを生成・実行・reportします。

制約

自動scanですべての脆弱性を証明できるわけではなく、重大システムでは手動pentestや設計レビューも必要です。

RAG / Agent / MCP Security Testing

HTTP、custom code、RAG、agent workflow、MCP server等をtargetにし、prompt injection、poisoning、tool misuse、data leakage等を検証します。

CI/CD Quality Gates

evalやredteamをGitHub Actions等から実行し、failureやpass-rate閾値に応じてbuildを失敗させ、品質・安全性regressionをmerge前に検出します。

向き不向き（一覧）

こんな人におすすめ

LLM・RAG・AIエージェントをテスト駆動で開発したいチーム
prompt/model変更をCI/CDで回帰評価したい開発者
生成AIのjailbreak・prompt injection・RAG/agent脆弱性を継続検査したい組織

概要