ローカルLLMの商用利用｜ライセンスの見方と8モデル比較2026

2026.10.12

記事の要約 ローカルLLMの商用利用とは、公開された重み（学習済みモデルの本体となるデータ）を自社環境で動かして事業に使うことで、可否はモデルごとのライセンス原文と利用規約で決まります。 ライセンスはApache 2.0やMITの標準型と、LlamaやPLaMo、Gemma 3以前の独自型に分かれ、独自型には利用者数や売上の上限、表示義務が付くことがあります。 判定は配布元の原文を確認日つきで記録し、派生モデルや出力の扱いまで社内規程に落とす手順で行い、最終判断は法務または専門家の確認を経るのが安全です。 「商用利用できるとブログに書いてあったので使い始めた」。ローカルLLMの導入現場で、こうした判断が後から法務の指摘を受ける例があります。重みを動かせるかは技術の話で、事業に使えるかはライセンスの問題です。 本記事では、ローカルLLMの商用利用を判定する見方を、ライセンスの種類、主要8モデルの比較、見落としやすい条件、社内規程の順に解説します。比較表は公式モデルカードと原文を2026年10月7日に確認した内容に限ります。 東京大学松尾研発のAIスタートアップとしてローカルLLM開発を手がける弊社は、モデル選定の工程にライセンス確認を組み込んでいます。読み終えたとき、使いたいモデルを自分で判定できることがゴールです。 本記事は法的助言ではなく、最終判断は原文確認と専門家への相談を前提にしてください。 ローカルLLMの商用利用とは？「商用利用できる」の正しい意味 ローカルLLMの商用利用とは、公開された学習済みモデルの重みを自社環境で動かし、製品・サービスや社内業務に使うことを指します。重みとは、学習の結果として得られた数値データの集まりで、モデルの本体に当たります。配布元から重みのファイルを入手すれば、自社のサーバーやPCでモデルを動かせます。 自社の業務に使うだけでも商用利用に含まれると定めるライセンスがあり、外販の有無だけでは判断できません。 PLaMo Community Licenseは商業目的を「私的使用又は学術用途の範囲を超える、事業での利用又は営利を目的とする利用」と定義し、組織内部の利用も含めています。社内の文書要約だけだから商用ではない、という判断は通らないと考えるべきです。 ライセンスと利用規約の違い モデルの利用条件は、ライセンスと利用規約という2つの文書に分かれていることがあります。ライセンスは重みの使用・改変・再配布の許諾を定め、利用規約や利用ポリシーは禁止用途や配布時の義務を定めるのが典型的な役割分担です。 Llama 3.3はCommunity Licenseの本文に加えて、別文書のAcceptable Use Policy（禁止用途を定めた利用ポリシー）を組み込んでいます。本文だけで可否を決めると禁止用途を見落とすため、両方を揃えて読むのが判定の前提です。 オープンソースとオープンウェイトの違い 「オープンソースのLLM」という言い方は、厳密には多くのモデルに当てはまりません。公開されているのは重みだけで、学習データや学習コードは非公開というモデルが大半で、こうした重みだけの公開はオープンウェイトと呼ぶのが正確です。 Open Source InitiativeのOpen Source AI Definition 1.0は、学習データの十分な情報、学習と推論のコード、パラメータの3点が揃うことを条件にしています。重みだけの公開ではこの定義に該当しないのが実情です。 参照元：Open Source Initiative「The Open Source AI Definition – 1.0」（2024年10月公表） ローカルLLMのライセンス5種類と商用利用の条件 ローカルLLMのライセンスは、標準型のオープンソースライセンスと、開発元が独自に定めたライセンスの2系統に分かれます。標準型は条件が少なく、独自型は条件が多いのが基本で、系統の見分けが判定の第一歩です。 ライセンス系統商用利用主な条件Apache 2.0標準型可再配布時に写し・変更告知・NOTICE保持。特許許諾つきMIT標準型可著作権表示とライセンス文の同梱のみ。特許条項なしLlama Community License独自型条件つき可月間アクティブユーザー7億人超は別途許諾。表示・命名義務Gemma Terms of Use（Gemma 3以前）独自型条件つき可派生物の受領者に規約の写し。禁止用途を契約に組み込む研究限定ライセンス独自型不可研究目的のみ。商用利用は別契約 Apache 2.0は商用利用・改変・再配布（重みを第三者に渡すこと）を認めつつ、再配布時にライセンスの写し・変更の告知・NOTICE（帰属表示を記した添付ファイル）の保持を求めます。特許ライセンスが明示的に付与される点がMITとの違いで、MITは著作権表示と許諾文の同梱だけが条件です。 研究限定ライセンスは商用利用を認めません。Mistral AI Research Licenseは研究目的を「非営利かつ非商用」の個人・学術研究と定義し、従業員の日常業務も外しています。PoC（試験導入）であっても収益目的なら研究に該当しない点は見落としやすい条件です。 参照元：The Apache Software Foundation「Apache License, Version 2.0」、Open Source Initiative「The MIT License」、Mistral AI「Mistral AI Research License」（2026年10月7日確認） 主要ローカルLLM8モデルの商用利用可否と条件【2026年10月7日確認】 候補に挙がりやすい海外5モデルと国産3モデルについて、モデル配布サイトHugging Faceの公式モデルカード（配布元が書くモデルの説明ページ。モデル名のリンク）と原文を確認しました。比較表は2026年10月7日時点の確認結果で、採用時には原文を再確認してください。 モデル（開発元）ライセンス商用利用主な条件・注意点Llama 3.3 70B（Meta）Llama 3.3 Community License条件つき可2024年12月6日時点で月間アクティブユーザー7億人超は別途許諾。「Built with Llama」表示と命名義務Gemma 4（Google DeepMind）Apache 2.0可Gemma 4（2026年4月公開）から。Gemma 3以前は独自規約Qwen3.5（Alibaba Cloud）Apache 2.0可397B-A17B・27Bともにapache-2.0。表示義務のみgpt-oss 120B / 20B（OpenAI）Apache 2.0可2025年8月公開。表示義務のみMinistral 3（Mistral AI）Apache 2.0可2025年12月公開の14B・8B・3B。旧世代の一部は研究限定PLaMo 2.1 8B（Preferred Networksグループ）PLaMo Community License条件つき可関係会社を含む直近事業年度の売上10億円以下かつ事前登録が条件。超える場合は別契約。第三者提供時は「Built with PLaMo」表示LLM-jp-3.1（国立情報学研究所）Apache 2.0可研究開発の初期段階と注記。人の意図や安全性に沿う調整は未実施Sarashina2.2（SB Intuitions）MIT可安全性の学習は限定的と注記。著作権表示の同梱のみ 判定のポイントは2つです。第1に、標準型ライセンスでも再配布時の表示義務は残るため、追加学習などで調整した後の重みを納品するなら同梱文書が必要です。 第2に、独自型のLlamaとPLaMoは自社の規模で可否が変わり、判定の主語は「自社」になります。 国産モデルには海外モデルを日本語で追加学習した派生もあり、Llama-3-ELYZA-JP-8BのライセンスはMeta Llama 3 Community Licenseです。 このように元のモデルに追加学習などを施して作ったものを派生モデルと呼び、派生モデルは元モデルのライセンスまで遡って見るのが原則です。 国産モデルの全体像は「国産LLMとは？政府が選んだ7モデル比較と導入の判断基準」、性能面の選び方は「ローカルLLMのおすすめモデルと導入の全貌！スペック・商用利用・RAG構築まで徹底解説」と「ローカルLLM比較｜主要モデル5選と実行ツール3選【2026年最新】」が本記事と対になります。 参照元：Meta「Llama 3.3 Community License」（2024年12月）、Google「Gemma Terms of Use」（2026年4月1日改定）、Mistral AI「Introducing Mistral 3」（2025年12月2日） ローカルLLMの商用利用で見落としやすい5つの条件 「商用利用可」の表記だけを見て導入すると、次の5つの条件を見落としがちです。いずれも実際のライセンス原文に根拠がある条件で、可否判定の後に条件の棚卸しを行う工程を置くことで防げます。 情シス・法務・開発責任者のどこが確認を担うかも、この5項目を軸に決めると分担しやすくなります。それでは、順に見ていきましょう。 1. 月間アクティブユーザー数の上限 Llama 3.3 Community Licenseは、2024年12月6日時点で自社または関連会社の製品の月間アクティブユーザー（月に1回以上使う利用者の数）が7億人を超える場合、Metaへの許諾申請を求めています。 基準日が固定されている点が特徴で、公開後にユーザーが増えても遡って不可になる構造ではないと読めます。 多くの日本企業には当たらない条件ですが、自社だけでなく関連会社を含めて判定する点は、社内規程に明記しておく必要があります。 2. 派生物の表示義務と命名義務 LlamaとPLaMoは、組み込んだ製品やサイトに「Built with Llama」「Built with PLaMo」の表示を求め、派生モデルの名称にも元モデル名を含めるよう定めています（Llamaは名称の先頭に置く指定）。表示義務は社内利用では問題になりにくく、外販時に漏れやすい条件です。 製品ドキュメントやアバウト画面への記載を、外販製品のリリース前チェックの項目に加えておくと、外販時の表示漏れを事前に防げます。 3. 再配布時の義務 Apache 2.0でも、調整後の重みを配布するときはライセンスの写し・変更の告知・NOTICEの保持が必要です。顧客への納品も再配布に当たるため、受託開発では契約書の添付文書に反映します。 Gemma Terms of Useはさらに、派生物の受領者への規約の写しの提供と、禁止用途の契約への組み込みを求めています。 4. 利用規約の改定 Gemma Terms of Useは2026年4月1日に改定され、Gemma 4は別のライセンス（Apache 2.0）で提供されると追記されました。同じ系列でも世代ごとにライセンスが変わる実例です。 モデルカードのlicense欄だけでなく開発元の規約ページも確認し、確認日とURLを記録しておくと、後から経緯を説明できます。 5. 学習データと出力の扱い PLaMo Community Licenseは、モデルの出力で学習させたモデルも派生モデルとして同じ条件に縛られると定めています。学習データの詳細は非公開のモデルが多く、著作権上のリスクは利用者側に残ります。 出力の二次利用と学習データの由来は別々に確認する必要があり、国内では文化庁の考え方（2024年3月）が判断の出発点です。 参照元：文化庁「AIと著作権について」（「AIと著作権に関する考え方について」2024年3月） 社内規程に落とし込むローカルLLM商用利用のチェックリスト ライセンスの判定は、担当者の知識に頼ると属人化します。判定の手順を社内規程に書き、記録を残すことで、監査や顧客の問い合わせに答えられます。弊社が選定で使う確認項目を、規程に転記できる形で示します。 モデルカードのlicense欄と、ライセンス原文のURL・確認日を記録したか 別文書の利用規約・利用ポリシー（禁止用途）を読んだか 独自型なら、利用者数・売上の自社条件を満たすか確認したか 派生モデルなら、元モデルのライセンスまで遡ったか 外販・納品があるなら、表示・命名義務と同梱文書を製品仕様に反映したか 出力を学習に使うなら、その扱いをライセンスで確認したか 半年ごとの再確認と、法務または外部専門家の確認手順を決めたか チェックリストは生成AIの利用ルールの一部として運用すると定着します。ルールの作り方は「生成AIガイドラインの作り方｜企業の事例11選と必須項目2026」、費用の見通しは「ローカルLLMの費用相場｜構築・運用コストと料金の考え方2026」をご覧ください。 このように、ローカルLLMの商用利用はモデル選定と法務確認を同時に進める必要があり、両方を見られる相談先があると判断が早まります。 弊社は、AI・DXの疑問を東大出身の専門家にチャットで相談できる「AI×DX寺子屋」（プランA＝月額20万円・税抜で相談し放題）を提供しています。 ロート製薬株式会社の品質統括部は、寺子屋を入口に仕様書作成の自動化からスモールスタートしました。候補モデルを自社データで検証したい段階なら、AI PoCサービス「ココロミ」でご一緒できます。 参照元：株式会社EQUES「ロート製薬株式会社 導入事例」 ローカルLLMの商用利用に関するよくある質問 Q. 社内の業務だけに使う場合も商用利用になりますか？ ライセンスによっては商用利用に含まれます。PLaMo Community Licenseのように、組織内部の利用も商業目的に含めている例もあります。外販しないからと確認は省けません。 Q. Hugging Faceのlicense欄だけを見れば十分ですか？ 十分ではありません。license欄は要約にすぎず、別文書の利用規約や禁止用途ポリシーが組み込まれていることがあります。原文と規約ページの両方を確認してください。 Q. ファインチューニングした重みを顧客に納品するときの注意点は？ ファインチューニング（自社データで追加学習させること）した重みの納品は再配布に当たるため、Apache 2.0でもライセンスの写し・変更の告知・NOTICEの同梱が必要です。LlamaやPLaMoの派生なら、表示・命名義務も納品物に反映します。 Q. ライセンスが途中で変わったら、使い続けられますか？ ライセンスによって異なり、PLaMoのように提供元が契約を変更できると定める例もあるため、変更条項と告知方法を確認してください。新世代のモデルは別ライセンスになることもあり、Gemma 3以前とGemma 4が実例です。乗り換えのたびに判定をやり直してください。 まとめ ローカルLLMの商用利用は、「商用利用可」の一言ではなく、ライセンス原文と利用規約を自社の条件に照らして判定する作業です。標準型でも再配布時の義務は残り、独自型は自社の規模で可否が変わります。要点は次のとおりです。 ライセンスは重みの許諾、利用規約は禁止用途と配布義務。両方を揃えて読む 標準型は条件が少なく、独自型は利用者数・売上・表示義務の条件つき。派生モデルは元モデルまで遡る 確認日とURLを記録し、半年ごとの再確認と専門家の確認を社内規程に組み込む 本記事は法的助言ではなく、最終判断はライセンス原文を確認し、必要に応じて弁護士など専門家に相談のうえ行ってください。ローカルLLMの商用利用で迷われている段階でも、お気軽にご相談ください。最後までお読みいただき、ありがとうございました。 ライセンスの疑問をチャットで相談しませんか AI×DX寺子屋では、モデル選定やライセンス確認の疑問を東大出身の専門家にチャットで相談できます。まずは無料相談からどうぞ。 無料で相談する AI×DX寺子屋を見る

ハルシネーションの事例7選｜企業・団体で起きた原因3型と対策

2026.10.12

記事の要約 ハルシネーションの事例とは、生成AIが事実に基づかない内容をもっともらしく出力し、組織の発信物や提出物に混入した出来事のことです。事実関係を確認できた7件を扱います。 7件は架空の出典を生む「学習データ型」、文書を検索して答える仕組み（RAG）の不備による「RAG不備型」、確認工程が無い「検証不足型」に整理でき、複数の型が重なる事例が大半です。 責任はAIではなく発信した側に向かい、裁判所や審判所（＝紛争を裁く公的機関）は提出・掲載した者が正確性を担うと判断しています。チェックリストで自社に起こりうる型を特定できます。 「生成AIの誤りで実際に何が起きたのか、社内説明に使える具体例が欲しい」。AI導入を推進する部門や情シス（情報システム部門）・法務から、こうした相談が増えています。事例を集めた記事は多いものの、出典が二次情報にとどまり、社内資料に引用しづらいのが実情です。 本記事では、裁判所の命令や当事者の公式声明といった公式文書または報道で事実関係を確認できたハルシネーションの事例を7件選び、何が起き、どう決着したかを事実だけで整理します。そのうえで原因を3つの型に分け、自社で起こりうる型を見極めるチェックリストを示します。 東京大学松尾研発のAIスタートアップとして製薬・製造業の生成AI開発を手がける弊社は、PoC（概念実証。＝本格開発の前に小規模に試す検証のこと）の段階で誤答の型を洗い出す工程を置いています。読み終えたとき、自社で優先して潰すべき型が判断できるはずです。 ハルシネーションとは？事例を読む前に押さえる3つの前提 ハルシネーションとは、生成AIが事実に基づかない内容を、もっともらしい文章や数字として出力する現象です。誤りの見た目が正しい出力と区別できない点が、従来のシステム障害と決定的に異なります。 前提の1つ目は、ハルシネーションはモデルの欠陥ではなく性質だという点です。大規模言語モデル（＝生成AIの中核となる、大量の文章で学習したAIのこと）は「次に来る確からしい語」を予測して文章を作るため、根拠が無い問いにも空白を埋めるように答えます。 2つ目は、責任は出力したAIではなく発信した組織に向かうという点です。後述する裁判所や審判所は、提出・掲載した側に正確性を担う義務があると判断しました。 3つ目は、対策は用途ごとに異なり、万能の一手は無いという点です。総務省と経済産業省の「AI事業者ガイドライン（第1.2版）」も、RAG（検索拡張生成。＝文書を検索し、その内容を根拠に答えさせる仕組み）でハルシネーションの抑制が期待されると注記しつつ、人間の判断を介在させる適正な利用を求めています。 参照元：総務省・経済産業省「AI事業者ガイドライン（第1.2版）」（2026年3月） ハルシネーションの事例7選｜企業・団体で実際に起きたこと ここからは、公式文書または報道で事実関係を確認できた7件を、法務・顧客対応・検索・報道・金融解説・学術・観光の順に紹介します。いずれも、責任はAIではなく提出・掲載した側に向かいました。 報道でしか確認できない部分はその旨を明記し、各事例の末尾に原典へのリンクを置いています。社内資料にはそのまま出典として使えます。 1. 米国の弁護士がChatGPTの架空判例を裁判所に提出（法務） 存在しない判例を引用した反論書面が、制裁の対象になりました。2023年、米連邦地裁の航空会社を相手とする訴訟で、原告側の弁護士がChatGPTで調べた判例を反論書面に引用しました。その判例は複数が架空で、引用文も作られたものでした。 同年6月22日の制裁命令（＝裁判所が違反者に罰を科す決定）で、裁判所は弁護士2名と法律事務所に連帯して5,000ドルの罰金を命じました。命令は「信頼できるAIツールの利用自体に不適切な点は無い」としつつ、提出物の正確性を担う門番の役割は弁護士にあると明記しています。 参照元：米ニューヨーク南部地区連邦地裁「Mata v. Avianca, Inc. 制裁に関する意見と命令」（2023年6月） 2. エア・カナダのチャットボットが運賃規定と異なる案内（顧客対応） チャットボットの誤案内に対し、企業が賠償を命じられました。2022年11月、忌引運賃を調べた利用者に、エア・カナダ公式サイトのチャットボットは「搭乗後でも、発券日から90日以内に申請すれば忌引運賃を適用できる」と回答しました。同社の規定では事後申請は認められていませんでした。 ブリティッシュコロンビア州民事解決審判所（＝カナダの少額紛争を裁く公的機関）は2024年2月14日、同社に計812.02カナダドルの支払いを命令しました。同社の反論を、審判所は「チャットボットを別の法的主体のように扱う主張」と評し、ウェブサイトの一部として掲載情報すべてに責任を負うと退けています。 参照元：British Columbia Civil Resolution Tribunal「Moffatt v. Air Canada, 2024 BCCRT 149」（2024年2月） 3. GoogleのAI Overviewsが風刺記事や掲示板を根拠に誤答（検索） 検索結果のAI要約が、風刺や掲示板の冗談を事実として提示しました。2024年5月、Googleが米国で提供を始めたAI Overviews（＝検索結果の最上部にAIが要約を示す機能）で、奇妙な回答や不正確な回答が相次ぎ、同社は同月30日の公式ブログでこれを認めました。 Googleが挙げた原因は、情報の空白・風刺記事の誤認・掲示板の皮肉な投稿の採用の3点です。情報の空白とは、信頼できる情報源が少ない話題のことです。対策として、ユーザー投稿の利用制限や健康分野の表示制限など12件以上の技術的改善を公表しました。 参照元：Google「AI Overviews: About last week」（2024年5月） 4. 新聞の特集に実在しない書籍の推薦リストが掲載（報道） 外部から仕入れた特集面に、生成AIが作った架空の本が並びました。2025年5月18日、米シカゴ・サンタイムズ紙の夏季特集の読書リストに、実在しない書籍が掲載されました。特集は外部から購入したもので、編集部の確認を経ていませんでした。 同紙は5月20日の声明で、配信会社のフリーランス制作者がAI利用を開示せずに制作したと説明し、内容の不正確さと外部制作の不開示を「容認できない」と表明しました。電子版からの削除と当該号の非課金、第三者コンテンツにも編集基準を課す方針変更を公表しています。 参照元：Chicago Sun-Times「Chicago Sun-Times response to May 18 special section」（2025年5月） 5. CNETがAIで下書きした金融解説記事に誤りが見つかり訂正（金融解説） AIが下書きした77本の解説記事の一部で、事実誤認が見つかりました。米テクノロジーメディアのCNETは2022年11月から、社内開発のAIエンジンで金融サービスの基礎解説を作る試験を始め、77本を公開しました。 1本の記事で事実誤認が指摘されたことを受けて全記事を監査した結果、ほかにも訂正が必要な記事が見つかり、一部は大幅な修正を要しました。同社は2023年1月25日、編集長名の記事で誤りを認め、AIツールの利用を一時停止しました。 参照元：CNET「CNET Is Testing an AI Engine. Here's What We've Learned, Mistakes and All」（2023年1月） 6. 医療倫理誌が存在しない参考文献を含む論文を撤回（学術・医療） 生成AIで集めた参考文献が実在せず、掲載論文が撤回されました。英国の学術誌『Journal of Medical Ethics』は2026年5月下旬、製薬分野のAI活用の倫理を論じた論文の撤回通知を公開しました。 撤回の理由は、著者が生成AIで参考文献を特定し、実在を確認しなかったこと、文献の一部が存在しないことです。通知は査読（＝専門家による掲載前の審査）過程の操作の証拠にも言及しています。 医療・製薬では根拠文献の実在が議論の前提であり、架空引用は結論の信頼を失わせます。 参照元：Journal of Medical Ethics「論文撤回通知（Retraction）」（2026年5月）／Retraction Watch「報道記事」（2026年） 7. 福岡の観光キャンペーンサイトが実在しない施設を紹介（観光） 生成AIで作った観光記事が、自治体の名義後援を失う結果になりました。2024年11月、福岡県の魅力を発信するキャンペーンサイト「福岡つながり応援」で、実在しない施設など誤った情報が多数見つかりました（報道による）。 運営会社は公式Xで、生成AIを活用して記事を作成し、人的確認のうえ発信していたと説明して謝罪しました。名義後援（＝金銭や人の支援を伴わない名前だけの後援）をしていた福岡市は11月14日付で後援を取り消しました（いずれも報道による）。 参照元：J-CASTニュース「AI使用で誤情報垂れ流し...福岡県キャンペーンの運営会社謝罪&記事削除」（2024年11月）／西日本新聞「AIの福岡観光誤情報サイト 福岡市が後援取り消し」（2024年11月） ハルシネーションの事例に共通する原因の3つの型 7件を並べると、業種は違っても原因は3つの型に収まります。主因の型を見分けると、優先する対策が決まります。7件を型に当てはめると次の表になります。 事例学習データ型RAG不備型検証不足型1. 架空判例主因－重なる2. 運賃の誤案内－主因重なる3. AI要約の誤答－主因－4. 架空の書籍主因－主因5. 金融解説の誤り主因－重なる6. 架空の文献主因－重なる7. 架空の施設重なる重なる主因 第1の型は、モデルの知識だけで答えさせる「学習データ型」です。判例・文献・書名のように固有名詞と出典が結び付く情報は学習データ（＝モデルが事前に読み込んだ文章の集まり）に部分的にしか含まれず、モデルは断片をつなぎ合わせて「ありそうな」出典を作ります。 事例1・4・6に共通する構図で、事例5の数値や社名の誤りも同じ型に含まれます。 第2の型は、参照する情報が不足または不整合な「RAG不備型」です。参照先に古い規定や風刺記事が混ざれば、AIはそれを根拠として採用します。事例2・3がこの型で、対策は規定文書の版管理（＝どれが最新版かを管理すること）と参照元の限定です。 原因の切り分けは「RAG導入で精度が出ない3つの原因と改善手順【2026年版】」で解説しています。 第3の型は、人の確認工程が設計に無い「検証不足型」です。事例4は外部制作物を無審査で掲載し、事例7は「人的確認のうえ発信」と説明しながら実在しない施設を見落としました。プロンプト（＝AIへの指示文）の工夫では解決せず、誰がどの基準で確認し、誰が公開を止めるかを決めることが対策です。 自社で起こりうる型を見極める対策チェックリスト 自社のAI活用でどの型が起こりやすいかは、用途と運用の形で判断できます。次の項目に1つでも該当すれば、その型の対策を優先してください。 （学習データ型）判例・論文・法令など、出典を伴う回答をAIに求めている （学習データ型）出力に含まれる固有名詞や数字を、原典と照合する工程が無い （RAG不備型）チャットボットが規定文書の最新版を参照しているか確認していない （RAG不備型）回答に根拠の文書箇所が表示されず、利用者が確かめられない （検証不足型）生成物の確認担当者と確認項目が文書化されていない （検証不足型）外部委託物のAI利用の有無を契約で確認していない （検証不足型）誤りが見つかったときの公表・訂正・停止の手順が決まっていない チェックで型が見えたら、次は対策の選び方です。RAG・プロンプト設計・人の確認工程をどう組み合わせるかは、親記事の「ハルシネーション対策とは？原因と安全なAI活用法を徹底解説」で原因別に整理しています。 社内ルール化には「生成AIガイドラインの作り方｜企業の事例11選と必須項目2026」も参考になります。 このように、7件の事例はいずれも本番で初めて誤りの型が分かったことで被害が大きくなりました。こうした課題に対し、弊社は大規模開発の前にAIの精度と誤答の型を確かめるPoCサービス「ココロミ」を提供しています。 SOLIZE PARTNERS株式会社とは、設計ナレッジの提案支援と3D CADデータの自動生成の2テーマで、熟練技術者の暗黙知をAIが扱えるかを検証しました。業務特有の誤りを本番前に把握したい場合は、PoCの設計段階からご相談いただけます。 参照元：株式会社EQUES「SOLIZE PARTNERS株式会社 導入事例」 ハルシネーションの事例に関するよくある質問 Q. ハルシネーションは最新モデルを使えば無くなりますか？ 無くなりません。モデルの更新で頻度は下がる傾向にありますが、確からしい語を予測して文章を作る仕組みは変わらないためです。モデル選定より、出典の照合と確認工程の設計に投資するほうが効果を見込めます。 Q. 社内利用だけなら事例のような問題は起きませんか？ 社内利用でも起きます。会議資料や稟議書に架空の統計や文献が入れば、意思決定が誤った前提で進みます。社内資料にも出典の実在確認を求めるルールが必要です。 Q. 誤りが外部に出てしまったとき、何を優先すべきですか？ 事実の訂正、影響範囲の公表、再発防止の工程追加の3点です。事例4のサンタイムズ紙は2日後に声明を出し、削除・非課金・方針変更を同時に示しました。AI利用を隠すと信用面の損失が広がります。 Q. 事例を社内説明に使うとき、どの点を強調すべきですか？ 「AIが間違えた」ではなく「確認工程が無かった」と伝えることです。事例1の裁判所も、AIの利用自体ではなく、提出前の確認を怠り、指摘を受けた後も架空判例を撤回しなかった点を制裁の理由にしました。対策費は確認工程の設計費だと整理すると議論が前に進みます。 まとめ ハルシネーションの事例7件は、架空の出典を生む学習データ型、参照情報が不整合なRAG不備型、確認工程の無い検証不足型という3つの原因に収まります。一次情報が示すのは、AIが生成した内容でも発信した組織が正確性を担うという一点です。 7件は法務から観光まで業種を問わず起き、いずれも発信した組織が責任を負う形になった 原因は3つの型に分けられ、型ごとに出典照合・参照データ整備・確認工程の設計という対策が対応する 自社で起こりうる型はチェックリストで特定でき、本番前のPoCで誤りの型を洗い出すことが被害を防ぐ近道になる ハルシネーションの事例から学ぶべきことは、AIを使わない理由ではなく、どの工程に確認を置くかという設計の問題です。自社でどの型が起こりやすいか判断に迷われる場合は、お気軽にご相談ください。最後までお読みいただき、ありがとうございました。 誤答の型をPoCで確かめませんか AI PoCサービス「ココロミ」で、本番前にAIの精度と誤答の型を実測します。まずは無料相談からどうぞ。 無料で相談する ココロミを見る

PoC失敗の事例5選｜本番に進まない原因と防ぎ方【2026年】

2026.10.12

記事の要約 AI PoC（＝本番開発の前に小さく行う技術検証）の失敗とは、技術的に動くことは確かめたのに、本番投資の判断材料が揃わず次に進めない状態を指し、精度の高低とは別に起こります。 IPAのDX動向2026では、AIを導入・試験利用する企業のうち効果を期待どおり以上と答えたのは31.8％にとどまり、学習データを整備して活用している企業は7.0％です。 失敗は目的不明・データ不足・成功基準（＝合格と見なす数値条件）なし・現場不在・本番コスト未試算の5パターンに分かれ、その多くは着手前の設計で防げます。 「PoCは成功したはずなのに、本番化の稟議（＝社内の決裁手続き）が通らない」「3本目のPoCが終わったが、現場は何も変わっていない」。AI推進の担当者から聞く機会が増えた声です。この状態が長引くと社内に「PoC疲れ」（＝検証を重ねても本番に進まない徒労感）が広がり、AI活用への期待そのものが冷めていきます。 本記事では、PoC失敗の事例を公的調査と公表資料から5件取り上げ、なぜ本番（＝検証を終えて実業務で運用する段階）に進めなかったのかを失敗パターン別に整理します。パターン別の防ぎ方と、着手前の設計チェックリストも示します。 東京大学松尾研発のAIスタートアップとして製薬・製造業のAI PoCを手がける弊社の経験も踏まえて解説します。読み終えたときには、止まっているPoCの原因を特定し、成功基準を先に決めた設計へ見直せるようになるはずです。 AI PoCの失敗とは？「PoC疲れ」が生まれる構造 AI PoCの失敗とは、技術的な検証は終えたのに、本番投資の意思決定に進めない状態を指します。本番移行できない原因は、精度不足だけではありません。多くのPoCは「動いたが、次に進む理由を誰も説明できない」形で止まります。 PoC（Proof of Concept：概念実証）の役割は、本番開発に投資してよいかを判断する材料を得ることです。したがって、判断材料が揃わなかったPoCは、精度が高くても失敗といえます。逆に、精度が届かなくても「投資しない」と結論できたPoCは役割を果たしています。 この区別が曖昧なまま検証を繰り返すと、PoC疲れが起こります。PoC疲れとは、検証が本番に結びつかない経験が重なり、組織がAI活用の意欲を失う現象です。次に有望なテーマが出ても「またPoCか」という空気が先に立ち、現場の協力が得にくくなります。 公的調査と行政機関の公表資料に見るPoC失敗の実態5選 PoC失敗は企業名つきで公表されることが少なく、個別事例を集めるのは難しい領域です。ここでは、公的調査が示す「成果が出ていない層」の数字と、行政機関が公表した検証結果を事例として扱います。 いずれも一次情報を確認したうえで、本番判断に必要な材料のどれが欠けていたかを読み取り、次章の失敗パターンにつなげます。 1. IPA「DX動向2026」：期待どおり以上の効果は31.8％ IPAが2026年7月に公表した「DX動向2026」では、AIを導入または試験利用している企業は58.0％に達しました。しかし、そのうち効果を「期待以上」「期待どおり」と答えた企業は合計31.8％で、半数の50.6％は「一定の効果はあった」にとどまります（IPAは「期待したほどではない」層と解釈）。 導入は進んだのに期待に届かない構図は、PoCの出口が設計されていないことを示唆します。同じ調査で、AI導入企業のうち学習データ（＝AIに学ばせる元データ）を「整備しておりAIに活用している」企業は7.0％しかなく、データ整備が効果実感の前提になっていることがうかがえます。 2. 総務省「情報通信白書」：利用率86.4％でも効果実感は一部の業務に偏る 総務省の令和8年版情報通信白書では、生成AIの活用方針を答えた日本企業のうち、何らかの業務で利用している割合は86.4％でした。一方で、導入効果を実感する割合は「議事録・メール作成補助」が約7割で、他の業務類型より顕著に高い結果です。 この偏りは、使い始めることと、業務の成果に結びつけることの間に大きな段差があることを示しています。令和7年版白書でも、導入時の懸念は「効果的な活用方法がわからない」が最多でした。目的を定めない検証は、効果実感の薄い領域で止まりやすくなります。 3. PwC「生成AIに関する実態調査2025春」：日本は期待を下回る企業が増加 PwC Japanグループが2025年6月に公表した5カ国比較調査（売上高500億円以上の企業が対象）では、日本企業は「活用中」または「社外サービス提供中」が56％と、前回から13ポイント伸びました。一方、「期待を上回る」企業の割合は米英の4分の1、独中の半分にとどまっています。 さらに日本の活用中・推進中の企業では、「やや期待を下回る」「期待とはかけ離れた結果」の合計が前回調査から7ポイント増えました。期待値を数値で定義しないと、終了後に「下回った」としか言えないことを示す結果です。 4. MIT NANDA「The GenAI Divide」：企業向けAIの本番到達は5％ MITのProject NANDAが2025年7月に公表した報告書は、生成AI投資から測定できる収益効果を得られていない組織を95％としました（300件超の公開事例と52組織への調査に基づく）。 業務特化型の企業向けAIでは、検討した組織は60％、PoCに進んだのは20％、本番到達は5％と段階ごとに落ちる構図が示されています。 報告書が最大の障壁として挙げるのは、モデルの品質ではなく「学習の欠如」です。現場の文脈を取り込めないツールは、PoCで動いても定着しないという指摘です。 外部パートナーと組んだ案件の本番到達率は約67％で、内製の約33％の2倍とされています（自己申告に基づく参考値）。 5. デジタル庁の技術検証：回答案作成は得点率90％でも、根拠の参照箇所は40％ 国の検証でも、PoCで生成AIの限界が数字で示された例があります。デジタル庁は2023年12月から2024年3月にかけて、13府省庁・26自治体の職員767人に検証環境を提供して生成AIの技術検証を行い、2024年5月に結果を公表しました。 パブリックコメント（＝国民から募る意見）対応の検証では、総務省のコメント10件を対象に、職員の作業結果との合致度を得点率で評価しました。意見の分類と表現の変換は90％でしたが、意見元の抽出は参照箇所の正確さが40％、回答案作成も回答部分に限ると60％にとどまりました。 報告書は、回答案作成と意見元抽出は文脈理解が必要な難易度の高い作業であり、参考材料として採用する運用が現実的だと結論づけています。 どこまでAIに任せ、どこから人が担うかの線を数字で引けた点で、PoCの役割を果たした例ともいえます。精度の数字を本番の運用設計に結びつけられるかが、失敗と成功の分かれ目です。 自治体全体でも、総務省の令和7年度調査でAI導入の課題として「導入効果が不明」が571件挙がり、前年度より増えました。効果を測る基準がないことが、企業と行政に共通する壁です。 参照元：独立行政法人情報処理推進機構「DX動向2026」（2026年7月）／総務省「令和8年版情報通信白書 生成AIの業務利用状況」（2026年7月）、「令和7年版情報通信白書 企業におけるAI利用の現状」（2025年7月）／PwC Japanグループ「生成AIに関する実態調査2025春 5カ国比較」（2025年6月）／MIT Project NANDA「The GenAI Divide: State of AI in Business 2025」（2025年7月）／デジタル庁「行政における生成AIの適切な利活用に向けた技術検証の環境整備 R5年度検証結果共有」（2024年5月）／総務省「令和7年度 地方自治体におけるAI・RPAの実証実験・導入状況等調査」（2026年4月） PoCが本番に進まない5つの失敗パターンと防ぎ方 5つの事例に共通するのは、技術の不足ではなく、判断に必要な材料が設計に含まれていなかったことです。弊社がPoCのご相談を受ける場面でも、止まった原因は次の5パターンにほぼ収まります。兆候と防ぎ方を整理します。 失敗パターン現場に出る兆候防ぎ方の要点目的不明「AIで何かやる」が目標業務課題を1つに絞るデータ不足データの所在と量が未確認着手前にデータ棚卸し成功基準なし「良かった気がする」で終わる合格条件と撤退条件を数値で先に決める現場不在IT部門だけで検証している現場担当者を評価者に組み込む本番コスト未試算見積もりが検証後に初めて出るPoC中に運用費と体制を試算 目的不明と成功基準なしは、同じ原因から生まれる 目的が曖昧なPoCは、成功基準も決められません。「何を確かめるためのPoCか」が1文で言えない状態では、どの数値を見れば合格かが定まらず、終了後の評価が印象論になります。 防ぎ方は、着手前に「対象業務・現状の数値・目標の数値・撤退条件」の4点を文書にすることです。撤退条件とは、この水準に届かなければ中止すると先に決める線のことです。撤退条件を決めておけば、精度が届かないPoCも「投資しない」という成果になります。 目的の立て方と評価指標の具体例は「AI PoCの進め方とは？期間や失敗しない秘訣を事例と共に解説」で詳しく整理しています。 データ不足と現場不在は、精度より先に定着を阻む IPAの調査が示すとおり、AI導入企業のうち学習データを整備してAIに活用できている企業は7.0％しかありません。データの所在と品質を確認せずに始めると、期間の大半をデータ探しに費やすことになります。 現場不在も同じく定着を阻みます。MITの報告書が「学習の欠如」と呼んだ問題は、現場の文脈がAIに届いていないことの裏返しです。 防ぎ方は、実際に使う担当者を検証の評価者として最初から組み込むことで、現場が「この出力なら業務で使える」と判定する場を設けます。 本番コスト未試算は、PoC成功後に稟議を止める 本番化の費用と運用体制の見積もりが検証後に初めて出てくると、効果と費用の数字が揃わず稟議が通りません。PoC環境では無視できたデータ連携・権限管理・監査対応の費用が、本番では主要な項目になるためです。 防ぎ方は、PoC期間中に本番の概算を並行して作ることです。年間の運用費・体制・人員を仮置きし、PoCで得た効果の数値と突き合わせます。 費用対効果の計算の型は「AI導入の費用対効果の計算式・試算例｜稟議を通す3つの要点」をご参照ください。 着手前に確認するPoC設計チェックリスト 5つのパターンを防ぐ要点を、着手前の確認項目に落とし込みます。1つでも「決まっていない」があれば、開始を遅らせてでも埋めることをおすすめします。 対象業務を1つに絞り、現状の数値（時間・件数・エラー率など）を実測したか 合格条件と撤退条件を数値で文書化し、関係者が合意しているか 検証に使うデータの所在・量・品質・利用許諾を確認したか 現場の利用者が評価者として参加し、業務で使えるかを判定する場があるか 本番化した場合の年間運用費・体制・セキュリティ要件の概算があるか PoC終了時に「本番へ進む／再検証／撤退」を決める会議が予定されているか チェックリストを埋める過程で、検証の観点を「技術・業務・事業性」の3つに分けて見ると抜けが減ります。 観点ごとの確認方法は「PoC検証とは？目的と3つの観点・進め方・成功事例を解説」で解説しています。 このように、PoC失敗の多くは着手前の設計で防げるというのが弊社の見方です。こうした「成立性（＝技術的・事業的に成り立つか）を小さく確かめる」段階を支援するため、弊社はAI PoCサービス「ココロミ」（スリムプラン月々99万円〜・スタンダードプラン月々250万円〜）を提供しています。 SOLIZE PARTNERS株式会社とのPoCでは、設計ナレッジ（＝設計上の知見）の提案支援と3D CAD（＝立体の設計データを作るソフト）データの自動生成の2テーマを対象に、熟練技術者の暗黙知（＝言葉になっていない経験上のノウハウ）をシステム化できるかを検証しました。 参照元：株式会社EQUES「SOLIZE PARTNERS株式会社 導入事例」 PoC失敗に関するよくある質問 Q. PoCの成功基準はどのように決めればよいですか？ 現状の業務数値を実測し、本番投資を判断できる水準を目標値として置きます。精度だけでなく処理時間や確認工数など業務の指標を含めると本番化の判断に使えます。撤退条件も同時に決めておきます。 Q. PoCの期間はどの程度が適切ですか？ 目的と対象業務を1つに絞れていれば、数週間から3か月程度で結論を出すのが現実的です。弊社の経験では、期間が長引く主因はデータの準備不足で、着手前の棚卸しで短縮できます。延長より対象を狭めた再設計のほうが結論は早く出ます。 Q. PoC疲れが起きている組織では、何から着手すべきですか？ 過去のPoCを「何を確かめようとして、何が決まったか」の観点で棚卸しすることをおすすめします。多くの場合、成功基準が無かったことが共通原因として見つかります。次のPoCは1テーマに絞ります。 Q. 精度が目標に届かなかったPoCは失敗ですか？ 撤退条件を事前に決めていれば、失敗ではなく「投資しない」という判断が得られた成功です。失敗になるのは、精度が届いたのに判断材料が揃わず次に進めない場合です。終了時に判断が下せるかどうかで評価してください。 まとめ PoC失敗の事例を見ると、止まる原因は技術ではなく設計にあります。目的・データ・成功基準・現場・本番コストの5点を着手前に固めれば、PoCは本番投資の判断材料として機能します。本記事の要点は次のとおりです。 PoC失敗とは、検証は終えたのに本番投資の判断に進めない状態で、精度の高低とは別に起こる 国内調査では期待どおり以上の効果を得たAI導入企業は31.8％にとどまり、データ整備の有無が結果を分けている 目的不明・データ不足・成功基準なし・現場不在・本番コスト未試算の5パターンは、着手前のチェックリストで防げる 止まっているPoCの原因を特定したい段階でも、お気軽にご相談ください。最後までお読みいただき、ありがとうございました。 PoCの設計から一緒に始めませんか AI PoCサービス「ココロミ」で、成功基準の設計と成立性の検証を小さく進めます。まずは無料相談からどうぞ。 無料で相談する ココロミを見る