LLMガードレールとは
LLMガードレールは、ChatGPTのような大規模言語モデル (LLM) を自社のサービスや社内ツールに組み込むときに、AIに渡す入力とAIが返す出力を確かめ、問題があれば止めたり書き換えたりする仕組みです。道路のガードレールが車を道から外さないように、AIの回答を決めた範囲の中に収めます。
LLMは、聞かれたことに対してもっともらしい文章を返します。そのため、何も対策をしないまま社外向けのチャットボットにすると、次のようなことが起こりえます。
入力側で起きること
- 差別的な言葉や暴力的な依頼が送られてくる
- 「これまでの指示を無視して」とルールを外させようとする (プロンプトインジェクション)
- 利用者が個人情報をそのまま書き込む
出力側で起きること
- 有害な内容や不適切な表現を返す
- 社外秘や個人情報を答えに含めてしまう
- 渡した資料に書かれていないことを事実のように答える
最後の「資料に無いことを答える」はハルシネーションと呼ばれる問題です。仕組みと減らし方はChatGPTのハルシネーションの記事で詳しく解説しています。ガードレールは、こうした問題をモデルの外側で検査して防ぐ層だと考えると分かりやすいです。
ガードレールの種類
ガードレールには、どこで何を確かめるかによっていくつかの種類があります。NVIDIAのオープンソースのNeMo Guardrailsは、次の5つに分けて説明しています。
ガードレールの種類
| 種類 | 確かめるもの | 例 |
|---|---|---|
| 入力 (Input) | 利用者からの入力 | 不適切な依頼を断る、個人情報を伏せる |
| 対話 (Dialog) | 会話の流れ | 決めた話題以外には定型文で答える |
| 検索 (Retrieval) | RAGで取り出した文書の断片 | 関係ない文書や機密の文書を外す |
| 実行 (Execution) | AIが呼び出すツールの入出力 | 危ない操作を止める |
| 出力 (Output) | AIが返す回答 | 有害な回答を止める、書き換える |
社内文書を検索して答えるRAGの仕組みを作るなら、検索と出力のガードレールが特に大切です。RAGそのものの作り方はRAG構築の記事を参考にしてください。
ガードレールが入る場所
- 人利用者が入力
- AI入力のチェック有害・攻撃・個人情報
- AILLMが回答を作る
- AI出力のチェック有害・根拠のない回答
- 人利用者に表示
主なガードレールサービスの料金と機能
自前でルールを書かなくても、クラウド各社がガードレールの機能を提供しています。ここでは、2026年11月15日に公式ページで確かめた内容をもとに4つを比べます。
主なガードレールサービスの比較
| サービス | 料金 | 主な機能 |
|---|---|---|
| OpenAI Moderation API | 無料 | 文章と画像の有害判定 (13カテゴリ) |
| Azure AI Content Safety | 無料枠: 文章・画像それぞれ月5,000件 / 標準: 文章1,000件あたり0.375ドル、画像1,000枚あたり0.75ドル | 有害判定、Prompt Shields (攻撃の検知)、著作物の検知、根拠の検知 |
| Amazon Bedrock Guardrails | コンテンツフィルター・拒否トピックは1,000単位あたり0.15ドル、機密情報フィルターは0.10ドル、単語フィルターは無料 | 有害判定、話題の制限、個人情報の伏せ字、根拠のチェック |
| NeMo Guardrails | オープンソース (Apache 2.0) で無料。動かすサーバー代は別 | 入力・対話・検索・実行・出力の5種類を自分で設定 |
OpenAI Moderation API
OpenAIのModeration APIの公式ガイドでは、エンドポイントは無料で使えると明記されています。モデルはomni-moderation-latestで、文章と画像を判定できます (音声は対象外)。
判定するカテゴリは、嫌がらせ、ヘイト、自傷、性的な内容、暴力、違法行為などの13種類です。結果には、問題があるかどうか (flagged) と、カテゴリごとの0〜1のスコアが返ります。まずは無料で入力チェックを入れたい場合の第一候補になります。
ただし、確かめられるのは有害な内容かどうかです。「自社の商品以外の話題には答えない」「資料に無いことは言わない」といった自社のルールは、別の仕組みで作る必要があります。
Azure AI Content Safety
MicrosoftのAzure AI Content Safetyの料金ページによると、無料のプランでは文章・画像それぞれ月5,000件まで使え、Prompt Shields、著作物の検知、根拠の検知 (Groundedness detection) も含まれます。無料枠を超えると止まり、超過分の課金はされません。
標準のプランは、文章1,000件あたり0.375ドル、画像1,000枚あたり0.75ドルです (Azure Retail Prices APIで確かめた米国東部の価格)。文章の1件は1,000文字までで、それより長い文章は1,000文字ごとに1件と数えます。
また、Azure上でOpenAIのモデルなどを使う場合は、標準でコンテンツフィルターがかかります。Microsoft Learnの解説によると、ヘイト・性的・暴力・自傷の4カテゴリを、安全・低・中・高の4段階で判定し、どの段階から止めるかを設定で変えられます。
Amazon Bedrock Guardrails
AWSのAmazon Bedrockの料金ページによると、Bedrock Guardrailsは有効にしたフィルターの分だけ料金がかかります。1単位は1,000文字までで、たとえば5,600文字の入力は6単位と数えます。
Bedrock Guardrailsのフィルター別単価
「拒否トピック」を使うと、「投資の助言はしない」のように答えてはいけない話題を自然な言葉で決められます。機密情報フィルターは、メールアドレスや電話番号などを見つけて伏せ字にする機能で、正規表現で指定する分は無料です。自動推論チェックは、ポリシー1つにつき1,000単位あたり0.17ドルです。
NeMo Guardrails
NeMo GuardrailsはNVIDIAが公開しているオープンソースのツールキットで、ライセンスはApache 2.0です。ライセンス料はかかりませんが、自社のサーバーで動かし、Pythonで組み込む必要があります。
会話の流れはColangというPythonに近い書き方の言語で決めます。「この質問にはこう答える」といった細かい制御ができる反面、設定と運用には開発者の手が必要です。
月額の目安を計算する
料金を比べるために、1か月に1万回、1回1,000文字以内の入力を判定する場合を、上の単価から計算してみます。出力も判定する場合は、それぞれ倍になります。
月1万回 (1回1,000文字以内) の入力を判定する場合の目安
| サービス | 計算 | 月額の目安 |
|---|---|---|
| OpenAI Moderation API | 無料 | 0ドル |
| Azure AI Content Safety (無料プラン) | 5,000件までで止まる | 0ドル (半分は判定されない) |
| Azure AI Content Safety (標準) | 1万件 × 0.375ドル / 1,000件 | 3.75ドル |
| Bedrock Guardrails (コンテンツフィルターのみ) | 1万単位 × 0.15ドル / 1,000単位 | 1.50ドル |
| Bedrock Guardrails (コンテンツフィルター + 拒否トピック) | 1万単位 × (0.15 + 0.15) ドル / 1,000単位 | 3.00ドル |
このくらいの利用量なら、ガードレールの費用は月に数ドルの水準です。AI本体の利用料のほうがずっと大きくなることが多いので、まずはガードレールを入れて安全側に倒すほうが現実的です。AI本体のAPI料金はAI APIの料金比較で比べています。
中小企業がガードレールを入れる手順
専任のAIエンジニアがいない会社でも、次の順番なら小さく始められます。
止めたいことを書き出す
「差別的な表現を返さない」「個人情報を答えに含めない」「自社の商品以外の相談には答えない」など、AIに守らせたいことを先に文章にします。
使っているクラウドに合わせて選ぶ
OpenAIのAPIを直接使っているならModeration API、AzureならContent Safety、AWSならBedrock Guardrailsと、すでに使っているクラウドのサービスを選ぶと契約や請求が増えません。
入力と出力の両方にかける
入力だけでなく、AIの回答も表示する前に確かめます。止めたときに利用者へ出す定型文も用意します。
ログを見て設定を調整する
止めすぎて普通の質問まで断っていないか、逆に見逃していないかをログで確かめ、判定の厳しさや拒否する話題を調整します。
よくある質問
LLMガードレールは無料で始められますか?
始められます。OpenAIのModeration APIは無料で、Azure AI Content Safetyにも文章・画像それぞれ月5,000件の無料枠があります。NeMo Guardrailsもオープンソースで、ライセンス料はかかりません (動かすサーバー代は別です)。
OpenAIとAzureではどちらが安いですか?
有害な内容の判定だけなら、無料のOpenAI Moderation APIが最も安く済みます。Azure AI Content Safetyは有料ですが、プロンプト攻撃の検知 (Prompt Shields) や根拠の検知など、判定できる種類が多いのが違いです。必要な機能で選んでください。
システムプロンプトで禁止すればガードレールは要りませんか?
システムプロンプトでの指示も有効ですが、「これまでの指示を無視して」といった攻撃で外される場合があります。モデルの外側で入力と出力を確かめるガードレールと組み合わせるほうが安全です。
ガードレールとハルシネーション対策は同じですか?
一部が重なります。Azureの根拠の検知やBedrockの根拠のチェックは、渡した資料に基づかない回答を見つける機能で、ハルシネーション対策にも使えます。ただし、有害な内容を止める機能とは別のものなので、目的に合わせて有効にしてください。