AIのPoCを本番へ移行してよいかは、何がそろえば決められるか

AIのPoCで精度が合格しても、それだけでは本番へ移行してよいかは決められません。決め手になるのは、停止条件・監視する項目・異常時の連絡と復旧の手順・意思決定者の4つが文書になっていて、承認者がその文書と試験結果を見てリリース可否を判断できる状態にあるかです。欠けている項目があっても、見送るしかないわけではありません。範囲を狭めるか、対応期限と責任者を付けた条件つきで進める道があります。

AIのPoCが合格でも、本番へ移行できないのはなぜか

PoCが確かめるのは「このAIで作れるか」で、本番移行で問われるのは「止め方・見張り方・直し方が決まっていて、運用できるか」です。問いが違うので、精度の数字が良くても後者の答えにはなりません。

2026年7月にIPAのサイトで公開された「生成AIおよびAIエージェントを安全に活用するための手引書」は、AIシステムの段階を「企画→調達→技術検証・設計→運用前準備→運用→廃棄」の6つに分けます。PoCは技術検証にあたり、その後に運用前準備という別の段階があります。運用前準備で確かめるのは、安全性・禁止用途への利用抑止・攻撃耐性・運用実現性・インシデント対応力の5つで、精度はそのどれでもありません。

手引書は、技術検証の結果を採用可否・リリース条件・残存リスク・追加対策・運用監視項目などに反映するよう書いています。PoCの結果は、合格の印ではなく、これらを書く材料です。なお、この手引書はIPAの意見を代表するものではなく著者の見解だと本書に明記されており、国の基準ではなく整理の手本として使います。

手引書は、AIシステムは正常に稼働していても出力が不適切になりうるとして、出力内容・利用実態・コスト変動まで含めた継続監視が必要だとも書いています。PoCの期間に問題が出なかったことは、本番で出ないことの証明になりません。

仮に、報告会のスライドが「精度は目標を達成」で終わり、運用の担当者を書く欄がどこにも無いとします。役員の問いに答えられないのは、PoCの範囲にその問いが入っていなかったからです。PoCの中で何を測るかは生成AI導入のPoCで確認すべきチェック項目で扱っているので、ここでは合格した後にそろえるものだけを見ていきます。

本番へ上げる前に、何が文書でそろっていればよいか

AIのPoCを本番へ移行してよいのは、評価の合格に加えて、停止条件・監視する項目・異常時の連絡と復旧の手順・意思決定者が文書になり、承認者がリリース可否を判断できるときです。これを7行の判断表にしました。自社のPoCを1行ずつ当て、「確かめるもの」が手元に出せるかを見てください。

表の使い方を2つ補います。

1つ目は、文書の有無だけで判断しないことです。手引書は、対策が効いているかを設定画面・ログ・権限一覧・テスト結果・変更履歴でも確かめるよう書いています。監視項目一覧があっても、実際に画面で見られなければそろっていません。

2つ目は、閾値の数字を表に入れていないことです。どの程度の誤りで止めるか、費用がいくら増えたら見直すかに公的な基準値は無く、業務の重さで変わるので、自社で決めて測れる形で書きます。

リリース可否は、誰が何を見て決めるのか

2026年7月にIPAのサイトで公開された手引書は、本番稼働の前に、試験結果を受け取るだけで終わらせず、リスクが許容できる水準まで下がったかを確かめたうえで、承認者がリリース可否を判断する必要があるとしています。役員の問いに答える人と、答える材料をはっきりさせる整理です。

承認者が見るのは、精度の数字より「残ったもの」

承認者が見るのは判断表の7行と、欠けている行の扱いです。精度は1行目に入るだけで、残り6行は運用の話です。承認者は「何が欠けていて、誰がいつまでに埋めるのか」を見て、承知のうえで判を押すかを決めます。手引書は、次の段階へ進むときに関係者で協議し、リスクが許容範囲内であることと残存リスクの取扱いを文書にしてから進むよう書いています。承認は口頭でなく、この文書に名前と日付を残す形にします。

承認者が決まっていなければ、そこから決める

手引書は、運用開始後の管理体制・責任分界点・意思決定者を運用前に明確にしておく必要があるとしています。総務省と経済産業省のAI事業者ガイドライン第1.2版（2026年3月）も、各主体でアカウンタビリティを果たす責任者を設定することを挙げています。ガイドラインは法的な拘束力のない指針ですが、社内で「誰の判断か」を説明するときの拠り所になります。

本番では、止める判断をする人、異常の連絡を受ける人、リリースを承認する人が要ります。情報システム部門が運用を持つ場合でも、AIの出力を使う部門の責任者が承認に加わらないと、出力の誤りをどこまで許すかを決められません。名前が入っていない欄は、判断表では「欠けている」と数えます。

委託先がいるなら、責任の所在を契約で分ける

開発会社にPoCを任せていた場合、本番で誰が直すのかは、契約に書かなければ決まりません。AI事業者ガイドラインは、関係者の間で契約などにより責任の所在を明確にすることを挙げています。停止の判断は自社、原因の調査と修正は委託先、のように分けて書きます。委託先を選ぶ段階で聞くことはAIエージェントの開発会社は、見積の前に何を聞いて選ぶかで扱っています。

人の判断をどこに入れるかも、承認の前に決めます。AI事業者ガイドラインは、適切なタイミングで人間の判断を介在させる利用の検討を挙げています。最初は出力を人が確かめてから使い、監視の結果を見て確認の範囲を減らす順番なら、承認者も判断しやすくなります。

そろっていない項目があるとき、本番移行は見送るしかないのか

そろっていない項目があると、本番へは上げられないのか。そうではありません。直しきれない事項は、条件・暫定対策・期限・責任者を付けて管理すれば進められます。ただし、停止条件と切戻しの手順が無いものは上げません。

手引書は、試験で重大な問題が見つかったときの選択肢として、設計・設定の変更、提供範囲の縮小、運用での対処、リリースの延期を挙げています。さらに、運用開始前に直せない事項は、リリース条件・暫定対策・対応期限・責任者・承認者を明確にして管理するとしています。何が欠けたまま上げるのかを文書にして承認を受ける考え方です。欠けた行は、次の3つに振り分けます。

上げない：止め方と決める人が無いとき

停止条件・切戻しの手順・承認者・残った問題の一覧のどれかが無いときは、上げません。ここからは公的資料の文言ではなく、この記事の整理です。条件つきで上げるという扱いは、条件が破られたら止められることを前提にしています。止め方が決まっていなければ、条件を付けても守らせる手段が無く、条件つきの運用そのものが成り立ちません。承認者がいなければ、条件を誰が承知したのかも残りません。この4つは、他の行を埋める前に決めます。

範囲を狭めて上げる：見張りが全体に届かないとき

監視の仕組みやログの保存がまだ全体に届かない場合は、提供範囲を狭めて上げます。使う部署を1つにする、出力を人が全件確かめる業務に限る、外部の顧客に直接届く使い方を外す、といった狭め方です。狭めた範囲をリリース条件として書き、広げるときは改めて承認を受けます。

期限と責任者を付けて上げる：手順はあるが確認が残っているとき

手順はあるが関係者での通しの確認が済んでいない、ログの保存期間が決まっていない、といった欠けは、期限と責任者を付けて上げられます。残った問題の一覧に、暫定対策（それまで誰が何で補うか）・対応期限・責任者・承認者を1件ずつ書き、期限を過ぎたら範囲を狭めるか止める、という扱いまで先に書いておきます。

本番に入った後は、何を監視し、いつ見直すのか

本番に入った後は、出力内容・利用実態・費用の3つを見続け、モデルの更新や使う範囲を広げるたびに、リリース条件を見直します。上げた時点の判断表は、本番の間ずっと使う台帳になります。

毎日見るものと、きっかけがあったときに見るもの

手引書は監視・検知の例にログ監視・異常検知・不適切な出力の検知を挙げ、重要なシステムでは毎日人が確認することが望ましいとしています。何を「重要」とするかは承認者と決めます。加えて手引書は、モデルの更新や利用範囲の拡大などをきっかけに臨時点検を行い、リリース条件や利用条件も見直すとしています。AI事業者ガイドラインも、運用開始後に外部環境の変化を踏まえた見直しを挙げています。生成AIの提供元がモデルを入れ替えたときは、自社が何も変えていなくても臨時点検のきっかけです。

PoCの評価の一式は、捨てずに回し続ける

PoCで使った評価の問題と採点方法は、本番でも使えます。Anthropicは自社の技術解説で、回帰評価を「それまでこなせていたタスクを今もすべてこなせるか」を問う評価だと説明しています。同社は、自動の評価は公開前と変更のたびに、本番の監視は公開後に想定外の入力や現実の失敗を見つける役目だと分け、合格率の高くなった評価はずれを捕まえるために継続して回す一式へ移す、と書いています。モデルの更新やプロンプトの変更のたびにPoCの評価を回し、合格条件を割ったら停止条件に照らす、というつなぎ方ができます。

変更は、承認とセットで記録する

手引書は、高リスクな変更で承認者・承認日・リリース条件・リリース後の確認結果を記録し、リリース判断の根拠と切戻しの手順を確かめられる状態にしておくとしています。判断表の6行目の台帳がその置き場所です。日々の出力を誰が確かめるかは、AIエージェントの確認作業の担当を扱った記事で詳しく書いています。

役員への返事は、判断表からどう組み立てるか

役員の「上げてよいのか」には、判断表の結果から4つのどれかで返せます。どれも、欠けている行の名前と、その扱いを1文で言う形です。

最後の返事は、見送りではなく「決めることが2つ残っている」という報告です。AIにどこまで任せるかの全体像は、AIエージェント自動化はどこまで任せられるかで整理しています。

公開日：2026年10月