AI TOOL DATABASE v2
Helicone
LLM APIの通信経路に入り、リクエスト監視と100以上のモデルへのGateway、failover、cache、prompt改善を一つにまとめる基盤。
選定サマリー
30秒で向き不向きを確認
AI位置づけ
AIネイティブ（AIそのものが中核のサービス）
向いている
複数LLM APIを本番利用し、コスト・遅延・障害を一元監視したいチーム
向いていない
LLM APIをほとんど呼ばず監視基盤が不要な用途
料金
Hobby無料、Pro $79/月、Team $799/月、Enterpriseは個別見積もり。Pro以上は利用量ベース料金が加算。
最大の強み
ObservabilityとAI Gatewayが密接に統合
注意点
Pro/Teamの固定料金に加えてusage-based料金があり大規模時は見積もりが必要
THINKLAB判定
LLMのログ基盤とmodel routingを別々に持たず、観測したcost・latency・failureをそのままGateway運用やprompt改善へつなげたいチームに相性が良いです。
概要
Heliconeは生成AIアプリケーション向けのオープンソースObservability / AI Gatewayです。
LLMリクエストとレスポンス、token、cost、latency、error、custom propertyを記録し、Sessionsで複数stepのagent flowを追跡できます。
概要の続きを読む概要を閉じる
さらにAI GatewayではOpenAI互換の統一インターフェースから100以上のモデルを扱い、provider routing、automatic failover、rate limiting、cachingを適用できます。
Prompt Management、Experiments、Evaluatorsも備え、productionデータを観測するだけでなく改善サイクルへつなげられる点が特徴です。
主な機能
One-line observability integration
proxyまたはSDK統合で既存LLM通信を大きく書き換えず、request単位のcost・latency・errorを可視化できます。
Multi-provider AI Gateway
複数LLM providerを統一APIから呼び出し、障害時のfallbackやroutingをアプリ外へ切り出せます。
Cost optimization
user・feature・model等のcustom propertyで費用を分解し、cacheやroutingを使ってLLMコスト削減を狙えます。
Open source / self-host
Heliconeはオープンソースで、AI GatewayはDockerやHELM chartを使った自社インフラへのdeploymentも可能です。
Production improvement loop
logging、evaluation、experiments、prompt managementをつなぎ、production edge caseから改善を進められます。
AI機能の詳細・制約はページ下部の「詳細情報」にまとめています
活用例
個人・一般
LLM APIのコスト・障害監視
model、user、feature別のtoken/cost/latency/errorを追跡し、急増やprovider障害を調査する。
AIエージェントのデバッグ
Sessionsでtool callを含むmulti-step処理をまとめ、失敗したstepや遅延箇所を特定する。
複数モデルの統一運用
AI Gatewayでprovider差を吸収し、fallback、cache、rate limitを一か所で管理する。
業務・組織
生成AI原価の可視化
顧客・機能・部署ごとにLLM利用費を分解し、価格設計や予算管理に利用する。
LLM providerの冗長化
Gatewayのrouting/failoverを利用し、単一provider障害によるサービス停止リスクを下げる。
料金
Hobbyは無料で月10,000 requestsと1GB storage、1 seat/1 organization。
Proは$79/月、Teamは$799/月で、Pro以上は10,000 requests無料分の後にusage-based pricingが適用されます。
Enterpriseは個別契約です。
無料枠あり
Hobby
$0 / 月
月10,000 requests、1GB storage、1 seat、1 organization。
Pro
$79 / 月 + usage
Unlimited seats、Alerts & reports、HQL。10K free requests後はusage-based。
Team
$799 / 月 + usage
5 organizations、SOC 2 & HIPAA compliance、Dedicated Slack channel。
Enterprise
要問い合わせ
Custom MSA、SAML SSO、on-prem deployment、bulk cloud discounts等。
公式 Pricing ページを開く料金確認：2026年8月26日
強み・弱み
強み
- ObservabilityとAI Gatewayが密接に統合
- 100以上のモデルを統一interfaceから扱える
- Sessions・Prompt・Experimentsまでproduction改善機能が広い
- オープンソースでself-hostの選択肢がある
- Hobby無料枠があり小規模導入を試しやすい
弱み
- Pro/Teamの固定料金に加えてusage-based料金があり大規模時は見積もりが必要
- Gatewayをcritical pathへ置く構成ではrouting層自体の可用性設計が重要
- 多機能化により単純なrequest loggingだけなら過剰になり得る
比較・競合
迷うときの比較軸
- AI Gateway
- Tracing
- Sessions
- Prompt管理
- Experiments
- Self-host
- 料金
- provider routing
Helicone vs Langfuse
OSS observability・evaluation・prompt管理をself-host中心で組みたい場合はLangfuse、Gatewayによるprovider routingまで一体化したい場合はHeliconeを比較。
Helicone vs LangSmith
LangGraphを含むagent engineering、evaluation、deploymentまで一体化するならLangSmith、provider-neutralなGatewayとrequest-level observabilityを重視するならHeliconeが候補。
Helicone vs Portkey
両者ともAI Gatewayとobservabilityを提供するため、enterprise governance、guardrail、self-host、料金、routing要件で比較したい。
THINKLABの結論
選定サマリーの判定を、選び方として整理したものです。
選ぶべき場合
複数providerを使うproduction AIで、request-level observability、fallback、cache、cost controlを同じ運用面から扱いたい場合。
別製品を選ぶべき場合
必要なのがoffline evaluationだけ、またはGatewayを通信経路へ追加したくない場合はLangfuse、Braintrust等を含めて役割を比較してください。
確信度: high
詳細情報
導入判断の本線から外した補足です。必要な項目だけ開いてください。
AI機能の詳細
LLM Observability
LLM request/response、token、cost、latency、error、model/provider、custom metadataを収集し、dashboardやHQLで分析します。
制約
保存するprompt/responseには機密情報が含まれ得るため、保持・redaction・deployment方式を要件に合わせて設計する必要があります。
AI Gateway
OpenAI互換endpointから100以上のモデルへアクセスし、provider routing、load balancing、failover、rate limiting、cacheをGateway層で適用します。
制約
利用可能モデル・provider・routing条件は更新されるためModel Registryと最新docsの確認が必要です。
Sessions / Tracing
関連する複数requestをsessionとしてまとめ、会話やagentのmulti-step flowをtree/chat形式で追跡して問題箇所を調査します。
Prompt Management / Experiments
promptをversion管理し、productionデータを使ったexperimentで複数promptやmodelを比較して変更の効果を検証します。
制約
評価結果はdatasetやevaluator設計に依存するため、本番品質判断では代表性のあるケースと人手確認も必要です。
向き不向き（一覧）
こんな人におすすめ
- 複数LLM APIを本番利用し、コスト・遅延・障害を一元監視したいチーム
- ObservabilityとAI Gatewayを同じ基盤で運用したい開発者
- OSSやself-hostの選択肢を残したいAIチーム
おすすめしないケース
- LLM APIをほとんど呼ばず監視基盤が不要な用途
- prompt/responseを外部サービスへ送れずself-host運用もできない環境
プラットフォーム / API
対応プラットフォーム
- Web
API
あり · API / Docs
セキュリティ / データの扱い
公式サイトではSOC 2認証を掲示し、TeamでSOC-2/HIPAA compliance、EnterpriseでSAML SSOとon-prem deploymentを提供しています。
取扱い: ObservabilityではLLM request/responseを扱うため、機密情報を送る場合はorganization設定、保持、アクセス制御、必要に応じたself-host/on-prem構成を確認してください。
学習・送信: Heliconeによるデータ利用条件と、Gateway経由で接続する各LLM providerの学習・保持条件は分けて最新Privacy/Termsを確認してください。