# LLMガードレールとは｜OpenAI・Azure・AWSの料金と中小企業の始め方

LLMガードレールの意味と仕組みを整理し、OpenAIのModeration API、Azure AI Content Safety、Amazon Bedrock Guardrails、NeMo Guardrailsを料金と機能で比べました。公式ページで確かめた単価から月額の目安を出し、中小企業が小さく始める手順を解説します。

<Points>

- LLMガードレールは、AIへの入力と出力を確かめて、危ない内容や想定外の答えを止める仕組み
- OpenAIのModeration APIは無料。Azure AI Content Safetyは月5,000件まで無料枠がある
- Amazon Bedrock Guardrailsは使うフィルターごとの従量課金で、1,000文字を1単位として数える

</Points>

## LLMガードレールとは

LLMガードレールは、ChatGPTのような大規模言語モデル (LLM) を自社のサービスや社内ツールに組み込むときに、**AIに渡す入力とAIが返す出力を確かめ、問題があれば止めたり書き換えたりする仕組み**です。道路のガードレールが車を道から外さないように、AIの回答を決めた範囲の中に収めます。

LLMは、聞かれたことに対してもっともらしい文章を返します。そのため、何も対策をしないまま社外向けのチャットボットにすると、次のようなことが起こりえます。

<Compare>
<Column title="入力側で起きること">

- 差別的な言葉や暴力的な依頼が送られてくる
- 「これまでの指示を無視して」とルールを外させようとする (プロンプトインジェクション)
- 利用者が個人情報をそのまま書き込む

</Column>
<Column title="出力側で起きること" tone="accent">

- 有害な内容や不適切な表現を返す
- 社外秘や個人情報を答えに含めてしまう
- 渡した資料に書かれていないことを事実のように答える

</Column>
</Compare>

最後の「資料に無いことを答える」はハルシネーションと呼ばれる問題です。仕組みと減らし方は[ChatGPTのハルシネーションの記事](/chatgpt-hallucination)で詳しく解説しています。ガードレールは、こうした問題をモデルの外側で検査して防ぐ層だと考えると分かりやすいです。

## ガードレールの種類

ガードレールには、どこで何を確かめるかによっていくつかの種類があります。NVIDIAのオープンソースの[NeMo Guardrails](https://github.com/NVIDIA/NeMo-Guardrails)は、次の5つに分けて説明しています。

<Figure title="ガードレールの種類" caption="NeMo Guardrailsの説明をもとに、何を確かめるかを整理しました。" source="NVIDIA NeMo Guardrails (GitHub)">

| 種類 | 確かめるもの | 例 |
|---|---|---|
| 入力 (Input) | 利用者からの入力 | 不適切な依頼を断る、個人情報を伏せる |
| 対話 (Dialog) | 会話の流れ | 決めた話題以外には定型文で答える |
| 検索 (Retrieval) | RAGで取り出した文書の断片 | 関係ない文書や機密の文書を外す |
| 実行 (Execution) | AIが呼び出すツールの入出力 | 危ない操作を止める |
| 出力 (Output) | AIが返す回答 | 有害な回答を止める、書き換える |

</Figure>

社内文書を検索して答えるRAGの仕組みを作るなら、検索と出力のガードレールが特に大切です。RAGそのものの作り方は[RAG構築の記事](/rag-construction)を参考にしてください。

<Flow
  title="ガードレールが入る場所"
  caption="入力と出力の両方で確かめるのが基本です。"
  steps={[
    { label: "利用者が入力", by: "human" },
    { label: "入力のチェック", note: "有害・攻撃・個人情報", by: "ai" },
    { label: "LLMが回答を作る", by: "ai" },
    { label: "出力のチェック", note: "有害・根拠のない回答", by: "ai" },
    { label: "利用者に表示", by: "human" },
  ]}
/>

## 主なガードレールサービスの料金と機能

自前でルールを書かなくても、クラウド各社がガードレールの機能を提供しています。ここでは、2026年11月15日に公式ページで確かめた内容をもとに4つを比べます。

<Figure title="主なガードレールサービスの比較" caption="2026年11月15日時点。Azureの単価はAzure Retail Prices APIの米国東部 (East US) の価格です。地域や為替で変わるため、申し込み前に公式の料金ページで確かめてください。" source="OpenAI、Microsoft Azure、AWS、NVIDIAの公式ページ">

| サービス | 料金 | 主な機能 |
|---|---|---|
| OpenAI Moderation API | 無料 | 文章と画像の有害判定 (13カテゴリ) |
| Azure AI Content Safety | 無料枠: 文章・画像それぞれ月5,000件 / 標準: 文章1,000件あたり0.375ドル、画像1,000枚あたり0.75ドル | 有害判定、Prompt Shields (攻撃の検知)、著作物の検知、根拠の検知 |
| Amazon Bedrock Guardrails | コンテンツフィルター・拒否トピックは1,000単位あたり0.15ドル、機密情報フィルターは0.10ドル、単語フィルターは無料 | 有害判定、話題の制限、個人情報の伏せ字、根拠のチェック |
| NeMo Guardrails | オープンソース (Apache 2.0) で無料。動かすサーバー代は別 | 入力・対話・検索・実行・出力の5種類を自分で設定 |

</Figure>

### OpenAI Moderation API

OpenAIの[Moderation APIの公式ガイド](https://developers.openai.com/api/docs/guides/moderation)では、エンドポイントは無料で使えると明記されています。モデルは`omni-moderation-latest`で、文章と画像を判定できます (音声は対象外)。

判定するカテゴリは、嫌がらせ、ヘイト、自傷、性的な内容、暴力、違法行為などの13種類です。結果には、問題があるかどうか (`flagged`) と、カテゴリごとの0〜1のスコアが返ります。まずは無料で入力チェックを入れたい場合の第一候補になります。

ただし、確かめられるのは有害な内容かどうかです。「自社の商品以外の話題には答えない」「資料に無いことは言わない」といった自社のルールは、別の仕組みで作る必要があります。

### Azure AI Content Safety

Microsoftの[Azure AI Content Safetyの料金ページ](https://azure.microsoft.com/en-us/pricing/details/cognitive-services/content-safety/)によると、無料のプランでは文章・画像それぞれ月5,000件まで使え、Prompt Shields、著作物の検知、根拠の検知 (Groundedness detection) も含まれます。無料枠を超えると止まり、超過分の課金はされません。

標準のプランは、文章1,000件あたり0.375ドル、画像1,000枚あたり0.75ドルです (Azure Retail Prices APIで確かめた米国東部の価格)。文章の1件は1,000文字までで、それより長い文章は1,000文字ごとに1件と数えます。

また、Azure上でOpenAIのモデルなどを使う場合は、標準でコンテンツフィルターがかかります。[Microsoft Learnの解説](https://learn.microsoft.com/en-us/azure/ai-foundry/openai/concepts/content-filter)によると、ヘイト・性的・暴力・自傷の4カテゴリを、安全・低・中・高の4段階で判定し、どの段階から止めるかを設定で変えられます。

### Amazon Bedrock Guardrails

AWSの[Amazon Bedrockの料金ページ](https://aws.amazon.com/bedrock/pricing/)によると、Bedrock Guardrailsは有効にしたフィルターの分だけ料金がかかります。1単位は1,000文字までで、たとえば5,600文字の入力は6単位と数えます。

<BarChart
  title="Bedrock Guardrailsのフィルター別単価"
  source="Amazon Bedrock 料金ページ (2026年11月15日時点)"
  unit="ドル / 1,000単位"
  data={[
    { label: "自動推論チェック", value: 0.17, display: "0.17ドル" },
    { label: "コンテンツフィルター (文章)", value: 0.15, display: "0.15ドル", highlight: true },
    { label: "拒否トピック", value: 0.15, display: "0.15ドル" },
    { label: "機密情報フィルター", value: 0.10, display: "0.10ドル" },
    { label: "根拠のチェック", value: 0.10, display: "0.10ドル" },
    { label: "単語フィルター", value: 0, display: "無料" },
  ]}
/>

「拒否トピック」を使うと、「投資の助言はしない」のように答えてはいけない話題を自然な言葉で決められます。機密情報フィルターは、メールアドレスや電話番号などを見つけて伏せ字にする機能で、正規表現で指定する分は無料です。自動推論チェックは、ポリシー1つにつき1,000単位あたり0.17ドルです。

### NeMo Guardrails

[NeMo Guardrails](https://github.com/NVIDIA/NeMo-Guardrails)はNVIDIAが公開しているオープンソースのツールキットで、ライセンスはApache 2.0です。ライセンス料はかかりませんが、自社のサーバーで動かし、Pythonで組み込む必要があります。

会話の流れはColangというPythonに近い書き方の言語で決めます。「この質問にはこう答える」といった細かい制御ができる反面、設定と運用には開発者の手が必要です。

## 月額の目安を計算する

料金を比べるために、**1か月に1万回、1回1,000文字以内の入力を判定する**場合を、上の単価から計算してみます。出力も判定する場合は、それぞれ倍になります。

<Figure title="月1万回 (1回1,000文字以内) の入力を判定する場合の目安" caption="公式の単価から計算した目安です。税、通信費、AI本体の利用料は含みません。" source="各社公式の料金ページから計算">

| サービス | 計算 | 月額の目安 |
|---|---|---|
| OpenAI Moderation API | 無料 | 0ドル |
| Azure AI Content Safety (無料プラン) | 5,000件までで止まる | 0ドル (半分は判定されない) |
| Azure AI Content Safety (標準) | 1万件 × 0.375ドル / 1,000件 | 3.75ドル |
| Bedrock Guardrails (コンテンツフィルターのみ) | 1万単位 × 0.15ドル / 1,000単位 | 1.50ドル |
| Bedrock Guardrails (コンテンツフィルター + 拒否トピック) | 1万単位 × (0.15 + 0.15) ドル / 1,000単位 | 3.00ドル |

</Figure>

このくらいの利用量なら、ガードレールの費用は月に数ドルの水準です。AI本体の利用料のほうがずっと大きくなることが多いので、まずはガードレールを入れて安全側に倒すほうが現実的です。AI本体のAPI料金は[AI APIの料金比較](/ai-api-pricing-comparison)で比べています。

<Note tone="info">

長い文章ほど単位数が増えます。1回3,000文字の資料をまとめて判定すると、AzureもBedrockも3件 (3単位) として数えるため、上の表の3倍になります。

</Note>

## 中小企業がガードレールを入れる手順

専任のAIエンジニアがいない会社でも、次の順番なら小さく始められます。

<Steps>
<Step title="止めたいことを書き出す">

「差別的な表現を返さない」「個人情報を答えに含めない」「自社の商品以外の相談には答えない」など、AIに守らせたいことを先に文章にします。

</Step>
<Step title="使っているクラウドに合わせて選ぶ">

OpenAIのAPIを直接使っているならModeration API、AzureならContent Safety、AWSならBedrock Guardrailsと、すでに使っているクラウドのサービスを選ぶと契約や請求が増えません。

</Step>
<Step title="入力と出力の両方にかける">

入力だけでなく、AIの回答も表示する前に確かめます。止めたときに利用者へ出す定型文も用意します。

</Step>
<Step title="ログを見て設定を調整する">

止めすぎて普通の質問まで断っていないか、逆に見逃していないかをログで確かめ、判定の厳しさや拒否する話題を調整します。

</Step>
</Steps>

<Note tone="caution">

ガードレールを入れても、すべての問題を防げるわけではありません。Microsoft Learnの解説でも、コンテンツフィルターが動かなかったときは、フィルターをかけないまま回答が返る場合があると書かれています。重要な用途では、人が確認する手順を残してください。ChatGPTを社内で使うときの設定は[ChatGPTのセキュリティ設定の記事](/chatgpt-security-settings)にまとめています。

</Note>

## よくある質問

### Q. LLMガードレールは無料で始められますか？

始められます。OpenAIのModeration APIは無料で、Azure AI Content Safetyにも文章・画像それぞれ月5,000件の無料枠があります。NeMo Guardrailsもオープンソースで、ライセンス料はかかりません (動かすサーバー代は別です)。

### Q. OpenAIとAzureではどちらが安いですか？

有害な内容の判定だけなら、無料のOpenAI Moderation APIが最も安く済みます。Azure AI Content Safetyは有料ですが、プロンプト攻撃の検知 (Prompt Shields) や根拠の検知など、判定できる種類が多いのが違いです。必要な機能で選んでください。

### Q. システムプロンプトで禁止すればガードレールは要りませんか？

システムプロンプトでの指示も有効ですが、「これまでの指示を無視して」といった攻撃で外される場合があります。モデルの外側で入力と出力を確かめるガードレールと組み合わせるほうが安全です。

### Q. ガードレールとハルシネーション対策は同じですか？

一部が重なります。Azureの根拠の検知やBedrockの根拠のチェックは、渡した資料に基づかない回答を見つける機能で、ハルシネーション対策にも使えます。ただし、有害な内容を止める機能とは別のものなので、目的に合わせて有効にしてください。
