AI導入の失敗事例中小企業がつまずく7つの型
と
自社の進め方を点検する表

AI導入の失敗事例を、業務選び・データと入力の準備・試行・現場への組み込み・運用の5つの工程に分けると、つまずき方は7つの型にまとまります。どの型も、その工程で決めておくこと（試す業務、入力する情報、試す資料と確かめ方、出力の置き場所、更新の担当）を決めないまま、次の工程へ進んだときに起きるものです。

自社の進め方を点検して、最初に「いいえ」が出た工程まで戻り、そこを直してから先へ進みます。ただし、会社が認めていないサービスに個人情報を入力している場合や、人の確認を通らないAIの回答が顧客に届いている場合は、点検より先に、その使い方を止めてください。

事例には、試験公開から終了までをたどれるニューヨーク市のAIチャットボットのほか、判決文や行政・企業の公表資料など原文を確かめられるものを使います。中小企業の導入が止まるまでの経過は、原文で確かめられる公開記録が見つからなかったため、起きやすい場面を架空の例として示しました。点検表と、止まった試行を振り返るシートは、コピーしてそのまま使えます。

この記事で分かること

• 最初の業務は、結果を社内の人が確かめられ、誤っても社内で止められるものを選びます
• 見た目の自然さを正しさと取り違えると、誤りが確認を素通りします
• 試している業務ごとに、上から順に「はい」「いいえ」で答え、最初に「いいえ」が出た行の一手から手を付けます

AI導入の失敗は、
止まった工程で見分けます

まず、7つの型と5つの工程の対応を一覧で確認してください。

一つの会社で複数の型が同時に起きることも珍しくありません。その場合も、工程の早いほうから直します。業務選びが曖昧なまま試行の精度を上げても、使われない仕組みが正確になるだけだからです。

正しい進め方を段階順に知りたい場合は、中小企業のAI導入の進め方で業務選定から運用定着までを説明しています。すでに試して止まっているなら、この先の型と点検表で、止まった地点から原因をたどってください。

導入から終了までを、
公開資料でたどれる例

ニューヨーク市の事業者向けAIチャットボットは、試験公開から終了までを、市の発表と報道機関の検証でたどれる例です。

市は2023年10月16日、AIの利用に関する行動計画とあわせて、事業者向けサイトで市として初めての全市的なAIチャットボットを試験的に公開すると発表しました（ニューヨーク市長室の発表資料）。発表によると、チャットボットは市の事業者向けウェブページ2,000件以上の情報をもとに答える仕組みで、まだ試験段階（ベータ版）と位置づけられていました。

2024年3月29日、米国の非営利報道機関The Markupなどは、このチャットボットが「従業員のチップの一部を受け取ってよい」「店は現金での支払いを断ってよい」など、市の法令に反する回答をしたと報じました（The Markupの検証記事）。同じ質問でも、聞いた記者によって答えが変わった例も示しています。

市の担当部局は、試験中のプログラムであり、今後も改善すると答えました。

2026年1月、新しい市長は予算の不足を説明する記者会見で、このチャットボットを「事実上使えない」ものと呼び、費用は約50万ドルだったとして、削減の対象に挙げたと報じられています（The Markupの2026年1月30日の記事）。

2026年10月15日に確認した時点で、チャットボットのアドレス（chat.nyc.gov）は、「チャットボットのベータ試験は終了した」と書かれた市のページへ転送されます。

市のページは、終了の理由を書いていません。理由として確かめられるのは、報道で伝えられた市長の発言までです。市の内部でどう試し、回答をどう確かめていたかも、公開資料からは分かりません。

そのため、ここでは市がどの型に当たるかを決めつけず、公開資料で確かめられる事実と、自社で同じことを防ぐために答えておく点検の問いを並べます。

自社に置き換えると、顧客へ直接答える仕組みほど、誤りを社内で見つける方法と、続けるかやめるかを決める条件を、公開する前に決めておく必要があります。

業務選びでつまずく2つの型

業務選びでよく見られるのは、何に使うかを決めないまま始める型と、最初から影響の大きい仕事を選ぶ型です。

型1　使う業務を決めずに、
アカウントを配る

次は架空の例です。従業員30名の設備工事会社が、全員に生成AIのアカウントを配りました。使い方の説明会も開きましたが、3か月後に使っているのは数名で、用途はあいさつ文やメールの言い回しの確認でした。

この会社では、見積書の作成や工事写真の整理に時間がかかっていました。しかし、どの業務の、どの作業を減らすかを決めていなかったため、社員はAIに何を頼めばよいか分からないままでした。減らしたい作業が決まっていないので、効果も測れません。

型1に当てはまったときの直し方

業務を1つに絞り、その業務の1件分について、受け取る資料・作るもの・確認する人を書き出します。「見積業務」ではなく、「メールで届いた依頼1件から見積書の下書きを作り、課長が単価を確かめる」の粒度まで落とすのが目安です。

書き出す作業には、その業務を毎日担当している人に加わってもらいます。手順の細かな違いや例外を知っているのは、推進担当ではなく現場の担当者だからです。

AIの結果が正しいかを確かめる人が決まるまでは、その業務を試さずに後回しにします。候補の比べ方は業務棚卸し表で比較する優先順位にまとめました。

型2　失敗が顧客や金額に
直結する仕事から始める

最初の業務は、結果を社内の人が確かめられ、誤っても社内で止められるものを選びます。顧客への回答や金額の判断は、効果が大きく見えるので最初に選ばれがちです。一方で、誤りに気づくのが社外に出た後になりやすい仕事でもあります。

公表されている事例を2つ紹介します。どちらも、チャットボットの案内やAIを使った価格の推定が、顧客への案内や会社のお金の判断に使われていました。

公開事例：チャットボットの誤った案内で、
航空会社に支払い命令

カナダ・ブリティッシュコロンビア州の民事紛争解決審判所は、2024年2月14日、エア・カナダに対し、利用者へ合計812.02カナダドルを支払うよう命じました（Moffatt v. Air Canada, 2024 BCCRT 149）。

判断文によると、利用者は祖母が亡くなった後、航空券を予約する前に、同社サイトのチャットボットで忌引き運賃を調べました。チャットボットは、航空券の発行日から90日以内に申請すれば割引運賃を適用できるという趣旨の案内をしました。ところが、チャットボットがリンクしていた同社の案内ページによれば、旅行を終えた後の申請には適用されません。

同社は、チャットボットの情報について責任を負わないと主張しました。審判所はこの主張を退け、情報が固定のページから出たかチャットボットから出たかに関係なく、自社サイトの情報には会社が責任を持つと判断しています。

審判所は、同社がチャットボットの正確さを確保する合理的な注意を払っていなかったとも認定しました。なお、判断文は、このチャットボットがどんな技術で動いていたかを書いていません。

公開事例：価格の予測に基づく
住宅の買い取り事業を、
予測の難しさを理由に終えた例

米国の不動産情報サービスのZillow Groupは、2021年2月25日、自社の住宅価格の推定値「Zestimate」を、住宅を買い取って販売する事業「Zillow Offers」の最初の買い取り提示額として使い始めると発表しました（同社の発表資料）。発表は、推定値の算出に、写真の情報を取り込む深層学習などのAIを使っていると説明しています。対象は、20以上の都市で条件に合う住宅の一部でした。

同社は同じ年の11月2日、Zillow Offersを終える計画を発表しました（同社の決算発表、米証券取引委員会への提出資料）。

同社CEOは、住宅価格を予測する難しさが想定をはるかに超え、事業の拡大を続けると収益と財務の変動が大きくなりすぎると説明しています。同じ四半期には、将来の販売価格の見込みより高く住宅を買い取ったことによる約3億400万ドルの在庫の評価減を計上し、従業員を約25%減らす計画も示しました。

終了の発表は、原因をZestimateやAIの誤りだとは特定していません。ここから読み取れるのは、価格の予測に基づいて会社のお金で住宅を買う事業では、規模を広げるほど、予測が外れたときの損失も大きくなるという点です。

中小企業に置き換えると、AIの需要予測をそのまま発注量にする、AIが出した見積額をそのまま顧客へ送る、といった使い方が同じ構造にあたります。

型2に当てはまったときの直し方

顧客への回答をAIで作りたい場合も、最初は担当者が読んで送る「下書き」までをAIに任せます。送信ボタンを押すのは人です。金額にかかわる判断なら、AIは候補と根拠を並べるところまでにし、確定は人が行います。

あわせて、下書きを人がどれだけ直したかも記録しておきましょう。直す箇所が減っても、送る前に人が確かめる流れは残します。

人の確認を外して社外へ自動で出すことを考えるのは、誤った案内に気づいたときに止める人と止め方、送った内容を後から見直す担当、誤った案内をした場合の責任者を決めた後です。

社内向けの問い合わせ対応から始める方法は、社内問い合わせのAI活用で説明しています。

データと入力の準備で
つまずく2つの型

AIに何を入力するかの決め方と、渡す資料のそろえ方で起きる失敗です。

型3　入力してよい情報を
決めずに使い始める

社員が個人で契約した生成AIに、顧客名の入った見積書や従業員の情報を貼り付けている状態が、型3の典型です。本人は仕事を早く進めたいだけでも、会社として個人情報の扱いを説明できなくなります。

公開事例：閲覧履歴から算出した内定辞退率の
提供に、行政の勧告

生成AIの例ではありませんが、データの使い方で行政の勧告に至った国内の例があります。個人情報保護委員会は2019年12月4日、株式会社リクルートと株式会社リクルートキャリアに勧告を行いました（個人情報保護委員会の公表資料）。

対象は、応募した学生などの情報と就職情報サイトの会員情報を突き合わせ、サイト上の閲覧履歴などから内定を辞退する確率を算出して企業へ提供するサービスでした。公表資料は、本人の同意なく第三者に提供された人数を26,060人としています。

一部の利用企業は、応募者の氏名をサービスの運営会社へ渡し、突き合わせに使わせていました。

委員会は、利用目的の通知・公表や、個人データを外部へ提供する際の法的な検討とそれに沿った対応が不適切だったとして、該当する利用企業に対し、利用目的の通知・公表を適切に行うこと、個人データを外部へ提供する場合は組織として法的な検討を行うこと、委託先を適切に監督することを指導しています（3項目のうち、利用目的の通知・公表だけが該当した企業もあります）。

応募者の氏名を外部のサービスへ渡す際の法的な検討や対応が不適切だったとして、利用企業も指導を受けました。社員が生成AIのサービスへ顧客や従業員の情報を貼り付ける場面も、外部へ情報を渡すという点で同じ構造です。外部のサービスを使う側も、自社のデータの渡し方と使い方を説明できる必要があります。

個人情報保護委員会が示した2つの確認点

2023年6月2日公表の生成AIサービスの利用に関する注意喚起等は、事業者が生成AIに個人情報を入力する場面について、次のように書いています。

• 個人情報を含む指示文を入力する場合は、その個人情報の利用目的を達成するために必要な範囲内かを十分に確認する
• 本人の同意なく個人データを含む指示文を入力し、そのデータが応答の出力以外の目的で扱われる場合は法律に違反する可能性があるため、提供事業者が機械学習に利用しないこと等を十分に確認する

入力してよいかの最終的な判断は、利用するサービスの契約内容と自社の利用目的によって変わるため、一律の答えはありません。迷う場合は、情報管理の責任者や専門家に確認してください。

なお、個人情報保護法は2026年7月17日に改正法が公布され、個人情報保護委員会が施行に向けて政令・規則・ガイドライン等の整備を進めています（令和8年改正個人情報保護法について、2026年10月15日確認）。

施行日や細かな運用はこれから示されるため、入力する前の確認は、上の注意喚起と、その時点の委員会の公表資料をもとに行ってください。

型3に当てはまったときの直し方

試行を始める前に、情報の種類ごとの扱いを1枚の文書にします。試すだけでも、入力した情報は外部のサービスへ送られます。下の表は、最初の試行を安全側から始めるための出発点の例です。

社員が個人のアカウントで業務の情報を扱ってよいかも、この文書に書いておきます。決めていない状態が続くほど、誰が何を入力したかを後から確かめられなくなります。

型4　AIに渡す資料が、
本番で届く書類と合っていない

次も架空の例です。部品の卸売会社が、FAXで届く注文書をAIで読み取り、受注表へ入れる仕組みを試しました。試行では、印字のきれいな注文書10枚で品番と数量を正しく読み取れました。

ところが本番では、手書きの追記、取引先ごとに違う書式、旧品番での注文、数量欄が空欄で備考に書かれた注文が届きます。試行に使った資料が、実際に届く書類の種類を代表していなかったため、本番で読み取りの誤りと確認待ちが増えました。

型4に当てはまったときの直し方

本番で届く書類を種類別に集め、それぞれに人が正解を付けておきます。通常の書類だけでなく、手書き、書式違い、旧品番、項目の欠けを含めます。取引先の名前や金額が入った書類をAIに入力するかどうかは、型3で決めた扱いに従ってください。FAXの注文書なら、OCR導入前に試す7つの注文パターンの分け方を参考にしてください。

試行でつまずく型

試行での失敗は、確かめ方が足りないまま次へ進んだときに起きるものです。

型5　うまくいった1件で判断し、
出力を元資料と照合しない

生成AIの出力は文章が整っているため、中身が正しく見えます。見た目の自然さを正しさと取り違えると、誤りが確認を素通りします。

公開事例：生成AIが作った存在しない判例を、確かめずに裁判所へ提出

米国ニューヨーク州南部地区連邦地方裁判所は、2023年6月22日、ChatGPTが作った存在しない判例と偽の引用を含む書面を提出した弁護士らと法律事務所に、5,000ドルの制裁金を科しました（Mata v. Avianca, Inc., 22-cv-1461 (PKC)、制裁に関する意見および命令）。依頼者や、偽の判例で名前を使われた裁判官に手紙で知らせることも命じています。

裁判所の文書によると、弁護士はChatGPTを高性能な検索エンジンのようなものだと思い込み、2023年3月1日の書面に、ChatGPTが示した判例を引用しました。相手方から「引用された判例の多くが見つからない」と指摘され、裁判所から判例の写しを出すよう命じられた後も、弁護士らは偽の判例を本物として扱い続けています。

弁護士は審問で、判例の一つを無料の判例検索サイトで探して見つからなかったことを認めました。後に出した書面では、判例が本物かどうかをChatGPT自身に尋ね、本物だという回答を受け取ったことも明らかにしています。尋ねた時期についての弁護士の説明は書面ごとに食い違っており、裁判所はその点も問題にしました。

裁判所は、信頼できるAIを補助に使うこと自体は不適切ではないとしたうえで、提出書面の正確さを確かめる役割は弁護士にあると述べています。AIに「本当か」と聞くことは確認になりません。元の資料と照合して初めて確認になります。

型5に当てはまったときの直し方

試行では、正解が分かっている例を3種類そろえ、AIの出力を一件ずつ照合します。型4の架空の注文書で示すと次のとおりです。

件数と並べて、担当者が出力を確かめるのにかかった時間も記録します。AIが出力するまでが速くても、確認と修正に時間がかかれば、手作業より遅くなる場合もあるでしょう。

現場への組み込みと運用で
つまずく2つの型

試行で精度が出た後に止まるのは、業務の流れへの置き方と、作った後の面倒の見方に原因があります。

型6　AIの作業が、
業務の流れの外にある

ここでも架空の例を使います。ある工務店が、メールで届く見積依頼から見積書の下書きをAIで作れるようにしました。試行では、担当者が依頼文を対話型AIの画面へ貼り付けると、品目と数量の下書きが出てくる状態です。

ただ、単価表は別のExcelにあり、出力を見積ソフトへ手で写す作業が残りました。確認する課長は元のメールを探し直す必要があり、数週間で担当者は元のやり方に戻りました。AIの作業が速くても、前後に貼り付けと転記と探し直しが増えれば、現場にとっては手間が増えたことになります。

型6に当てはまったときの直し方

1件の仕事を受け取ってから記録が終わるまでを書き、AIの出力がどこに置かれ、誰が何と見比べて確認し、どこへ登録されるかを決めます。転記が残るなら、その時間も効果の測定に入れてください。

あわせて、担当者が説明を見なくても毎回同じ手順で使えているかを確かめます。使い方を1枚の手順書にし、困ったときに聞ける相手を決めておかないと、つまずいた担当者から元のやり方に戻っていきます。

型7　作った人しか直せず、
資料の更新が止まる

次も架空の例です。総務担当者が、就業規則と手続きの案内をもとに社内問い合わせへ答える仕組みを作りました。半年後に規則が改定されましたが、AIが参照する資料は古いままでした。作った担当者は異動しており、誰も更新の方法を知りませんでした。

前述のエア・カナダの判断は、顧客向けのチャットボットについて、会社が自社サイトの案内に責任を負うとしたものです。社内向けの仕組みはこの判断の対象ではありませんが、古い資料に基づく回答を社員が信じて手続きを進めれば、やり直しの手間を負うのは会社です。

型7に当てはまったときの直し方

仕組みを作る段階で、次の5点を決めます。

• 参照する資料を更新する担当者と、更新のきっかけ（規程の改定、単価の変更など）
• 誤った出力が見つかったときに、仕組みを止める人と止め方
• 作った人が不在のときに、代わりに直せる人
• 引き継ぎの資料と、別の担当者が実際に1件を処理して確かめる日
• 利用料と、確認・更新にかかる時間を、減った作業時間と並べて見直す時期

AIが参照する資料の更新は、仕組みを作る作業とは別に、規程や単価が変わるたびに繰り返し起きる作業です。作る段階で、作る作業と更新する作業を分けて考えておくと、担当を決めやすくなります。

弊社が自社用に開発したタスク管理ツールでも、タスクの登録と、状態・担当者・期日の更新は別々の処理として実装しています（開発実例：案件管理ツールの入力と状態更新）。

ただし、誰が更新し、誰が完了を確かめるかは、ツールを作っただけでは決まりません。仕組みを作ることと、更新と確認の担当を運用のルールとして決めることは、別々に用意する必要があります。

自社の進め方を点検する表

ここまでの7つの型を、17の問いにしました。試している業務ごとに、上から順に「はい」「いいえ」で答え、最初に「いいえ」が出た行の一手から手を付けます。推進担当と、その業務を実際に担当している人が別々に答えるのも一つの方法です。答えが分かれた問いに、認識の違いがあります。

ただし、会社が認めていないサービスに個人情報を入力していたり、人の確認を通らないAIの回答が顧客に届いていたりする場合は、表の順番を待たずに、その使い方を先に止めます。

表の「次の一手」を実際の手順に落とすときは、中小企業のAI導入の進め方の各段階を参照してください。業務選びは「1．最初に試す業務を選ぶ」、データと入力は「2．AIへ渡す資料と、使える範囲を決める」、試行は「3．誤処理を止められるか試す」と「4．効果測定は、確認と運用の手間を含める」、組み込みと運用は「5．本番との連携と、運用担当を決める」が対応します。

止まった試行を振り返るシート

すでに試して止まっている場合は、次のシートを埋めてから、続けるかどうかを決めます。形式はテキストなので、社内の共有フォルダーやExcelにそのまま貼り付けて使ってください。

振り返りシート
（コピーして使えます）

【AI試行の振り返りシート】
記入日：
記入者：　　　　　　（推進担当／業務の担当者）

1. 試した業務
　・業務名：
　・1件分の入力（受け取る資料）：
　・1件分の出力（作るもの）：
　・出力を確かめた人：

2. 使ったAIと入力した情報
　・サービス名と契約の種類：
　・入力した情報の種類（架空／社内資料／取引先情報／個人情報）：
　・利用条件（学習利用・保存）を確認した日：

3. 試した例の件数
　・通常の例：　　件（正しく処理：　　件）
　・例外の例：　　件（誤って通した：　　件）
　・情報不足の例：　　件（確認待ちに回せた：　　件）

4. かかった時間（1件あたり）
　・試行前の手作業：　　分
　・AIを使った場合（確認・修正・転記を含む）：　　分

5. 止まった地点（当てはまるものに○）
　・業務選び　・データと入力の準備　・試行　・現場への組み込み　・運用

6. 止まった理由（事実だけを書く）
　・

7. 判断（いずれかに○）
　・続ける　・範囲を縮めて試し直す　・組み込み方を見直す
　・既製品の機能に切り替える　・やめる

8. 次に試す日と、続ける条件
　・試す日：
　・続ける条件：

6の「止まった理由」には、「使いにくい」のような感想ではなく、「出力を見積ソフトへ写す作業が1件5分残った」のように、起きた事実を書いてください。理由が事実で書けていれば、7の判断は感覚ではなく条件で決められます。

続ける・縮める・やめるの判断

シートの3〜6が埋まったら、次の表に当てはめてください。

やめる判断も、失敗ではなく一つの結論です。何を確かめてやめたかが残っていれば、次の業務選びで同じ型を避けられます。

メリットとデメリットは、
業務ごとに比べます

振り返りで別の業務を選び直すときも、これから最初の業務を選ぶときも、候補を下の表のように並べてみてください。同じAIでも、文章の下書きと顧客への回答では、得られるものと増える手間が違います。

比べるときに見るのは、確認・転記・更新にかかる手間を差し引いた後も、手作業より楽になっているかです。差し引いた結果が手作業と変わらない業務は、急いでAIにする必要はありません。

最初に「いいえ」が
出た工程から直す

AI導入の失敗事例を工程で分けると、どの型も、その工程で決めておくことを決めないまま次へ進んだときに起きています。

公開事例でも、航空会社と法律事務所の例で問われたのは、AIやチャットボットの性能より、出力を誰がどう確かめていたかでした。ニューヨーク市の例では、法令に反する回答が、外部の報道機関の検証で明らかになりました。就職情報サイトの例では、外部へ情報を渡す際の法的な検討や対応が問われました。

最初の一歩は、いま試している業務、またはこれから試す業務1つについて、点検表の17の問いに答えることです。止まった試行があるなら、振り返りシートを埋めてから続けるかを決めてください。

会社が認めていないサービスへの個人情報の入力や、人の確認を通らない顧客への回答が続いているなら、点検より先にその使い方を止めます。

点検の結果、業務の流れへの組み込みや、例外の確認・資料の更新の仕組みが自社だけでは用意しにくいと分かったら、外部の支援を検討する時期です。まるっとAIでは、試行の記録といまの業務の流れをもとに、止まった工程と、AIに任せる範囲・人が確かめる範囲を整理します。