AIの問題点とは？7つのリスクと2026年最新の規制・対策を解説

AIの問題点は、ハルシネーション・情報漏えい・著作権・バイアス・雇用・責任所在・シャドーAIの7軸に集約されつつあります。
これらは2025年から2026年にかけて、日本AI推進法の全面施行（2025年9月）、EU AI Actの高リスクAI義務適用予定（2026年8月→2026年5月のDigital Omnibus合意で延期見込み）、IPA「情報セキュリティ10大脅威2026」での「AI利用をめぐるサイバーリスク」初選出（3位）など、規制と評価の枠組みが大きく変わった領域です。

加えて、AIエージェントの本格展開によりプロンプトインジェクションや自律実行の制御困難という新しい論点も加わりました。

本記事では、2026年6月時点の最新動向をもとに、7つの問題点の中身、AIエージェント時代の新しい脅威、規制動向、問題点別の対策、ケース別の取り組み方、料金感までを体系的に解説します。

AIの問題点の現在地 — IPA10大脅威で「初の3位入り」が示した転換

AIの問題点は、2026年に入って議論のレイヤーが大きく変わりました。
　
象徴的な出来事が、独立行政法人情報処理推進機構（IPA）が2026年に公表した「情報セキュリティ10大脅威 2026」で、「AIの利用をめぐるサイバーリスク」が初選出にもかかわらず3位にランクインしたことです。

これまでは「漠然とした不安」「将来の懸念」として語られてきたAIリスクが、ランサムウェア・サプライチェーン攻撃と並ぶ実害ベースの脅威として位置づけられたという意味があります。
　

情報セキュリティ10大脅威2026 組織編TOP10（出典：IPA）

表で示されているとおり、1位ランサム攻撃（11年連続）・2位サプライチェーン攻撃（8年連続）に次ぐ3位に、初選出の「AIの利用をめぐるサイバーリスク」が入っています。1位2位がいずれも長年トップ常連の脅威であるなかに、いきなり3位で割り込んだことが、このリスクが企業の実害として無視できない段階に来た事実を示しています。

経年変化として見ると、2025年版と2026年版の入れ替わりはさらに鮮明です。

「10大脅威2025」と「10大脅威2026」の比較（出典：トレンドマイクロ）

2025年版に存在していた「DDoS」「分散型サービス妨害攻撃」等の脅威が押し下げられ、2026年版で初登場のAIリスクが上位に食い込んだ構造です。AIが「使う側のメリット」と同時に「攻撃の道具と防御の対象」として可視化されたことが、ランキング変化のドライバーになっています。

「AIの利用をめぐるサイバーリスク」の3カテゴリ

IPAは今回のAIリスクを、攻撃の方向で3つに分けて整理しています。

以下の表で、3カテゴリの違いを整理しました。

カテゴリ	視点	具体例
AIの悪用	攻撃者がAIを使う	プロンプトでマルウェア生成・フィッシングメール自動量産・声や映像のディープフェイク
AIシステムへの攻撃	AI開発者・提供者が攻撃される	プロンプトインジェクション・モデル汚染・学習データ窃取
AI利用の運用・法的リスク	利用企業がリスクを背負う	機密情報の意図せぬ学習利用・ハルシネーションによる誤った業務判断・著作権侵害

この分類が示すのは、「AIリスク＝AIを使う側だけの話ではない」という事実です。攻撃者の道具にもなり、AIを提供する側も攻撃対象になり、利用する側も法的責任を負う——どの立場からも逃げられない領域になりました。

2026年に「議論のレイヤー」が変わった3つの理由

なぜ2026年になってAIの問題点が一段重い論点になったのか。背景には、規制・運用・技術の3つの動きが重なっています。

規制の本格適用

2025年9月に日本のAI推進法が全面施行、2026年3月にAI事業者ガイドライン第1.2版（AIエージェント・フィジカルAI追記）が公表、EU AI Actの高リスクAI義務は2026年8月2日の予定だったが2026年5月のDigital Omnibus合意で2027年12月以降へ延期見通しとなった。

シャドーAIの実害化

GRASグループの2026年4月調査・IBM 2025-07-30レポートなどで、従業員が業務時間中に個人アカウントで生成AIを使う「シャドーAI」が情報漏えいの主要リスクの一つとして扱われるようになった。

AIエージェントの本格化

ChatGPT・Claudeの単発利用に加え、自律的にツールを呼び出すAIエージェントが業務に入り始め、プロンプトインジェクションなど「AIが意図せず暴走する」リスクが現実化した。

これら3つは独立した話ではなく、互いに連鎖しています。
規制が動くからガバナンスを整える必要が生じ、シャドーAIで漏れたから契約形態を見直し、エージェントが動くから「人間が止められない判断」を制度で抑える必要が出てくる——という連鎖です。

AI総研の支援現場でも、2025年までは「ChatGPTを使ってよいか」という議論だったものが、2026年に入って「どのAIサービスをどんな契約形態でどの業務に許可するか」という運用設計の話に変わってきました。
本記事はその実務的な見取り図として書いています。

---

押さえるべき7つの問題点

ここからは、企業が把握すべきAIの問題点を7軸に分けて詳述します。

このセクションは「何が起きるか」を整理する役割で、対策本体は後段の「問題点別の対策と統制設計」でまとめて扱います。

ハルシネーション（事実と異なる出力）

ハルシネーションとは、LLM（大規模言語モデル）が事実と異なる情報を、自信ありげに生成してしまう現象です。確率的にテキストを生成する仕組み上、構造的に避けきれない問題です。

医療診断補助・法律文書作成・財務レポート・社内ナレッジ検索のように、正確性が問われる業務で発生すると、業務判断そのものを誤らせます。

米国ではChatGPTが生成した存在しない判例を弁護士が裁判書類に提出して制裁を受けた事例も報じられています。

各種ハルシネーション統計レポートでは、RAG（検索拡張）や外部リソース参照によってハルシネーションの低減には一定の効果があるとされる一方、残存率はベンチマーク・タスクの性質によって大きく異なることが示されています。

「ゼロにはならない前提で運用設計する」という割り切りが必要な領域です。

情報漏えいとプライバシーリスク

従業員が外部の生成AIサービスに機密情報や個人情報を入力し、入力データがモデル学習や運営側のログに残ることで漏えいするリスクです。

実際にChatGPTで社内コードが漏れた事例が複数公表されています。

NRIセキュアの整理では、生成AI利用時の情報漏えい経路として「AIモデルへの学習利用」「生成AIサービス事業者側のログ保存」が主要なものとして挙げられています。

生成AIをめぐる3つのリスクの関係性（出典：NRIセキュア）

NRIセキュアは生成AIのリスクを「利用者目線（生成AIサービスを使う側）」「提供者目線（生成AIサービスを提供する側）」「社会目線（社会全体への影響）」の3層で整理しています。

情報漏えいは利用者目線の中心論点ですが、提供者側のセキュリティ事故や社会的影響としても波及するため、対策は3層を意識しながら同時に設計する必要があります。

特に問題なのが、後述の「シャドーAI」と組み合わさったときの被害規模です。IT部門が把握していない経路で機密が外部に出てしまうと、漏えいの発見そのものが遅れます。

著作権侵害リスク

AIの著作権リスクは、「出力側」と「学習側」の2層あります。

• 出力側
  AI生成物が既存著作物に類似していた場合の侵害リスク。
  詳細はAI生成作品の著作権解説記事を参照。
  
  

• 学習側
  学習データに無断で著作物を取り込んだことに対する権利者からの訴訟リスク。
  
  Bartz v. Anthropicでは、Anthropicが約50万作品を海賊版サイト経由で学習に使ったとして、2025年9月5日に15億ドル規模の和解案に合意し、9月25日に予備承認（米史上最大の著作権和解）された。

コード生成ではGitHub Copilotの著作権問題も論点になっており、商用利用時はサービスごとの補償条項（IP indemnity）を必ず確認する必要があります。

バイアスと差別的出力

AIは学習データに含まれる偏見を反映した出力を生成する可能性があります。

採用選考・与信審査・保険料設定・量刑予測など、人の権利に影響する判断にAIを使う場合、バイアスによる差別が法的問題に発展します。

米Amazonは過去に、過去の採用データを学習させたAIが女性候補者を不利に評価する傾向を示したため、社内向けAI採用ツールの利用を中止しました。

EU AI ActではこうしたユースケースをAnnex IIIで「高リスクAI」に分類し、リスク評価・人的監視・データガバナンスの義務を課しています。

バイアスは「技術的な精度の問題」ではなく「法令遵守の問題」になりました。

雇用への影響

AIによる業務自動化が進むと、特定の職種は確実に縮小します。

世界経済フォーラム（WEF）の Future of Jobs Report 2025 では、2030年までに170百万件の新規雇用が生まれる一方で、92百万件の雇用が消失し、ネットでは78百万件の純増となる試算が示されています。

同時に「2030年までに必要スキルの約40%が変化し、雇用主の63%が既にスキルギャップを変革の最大障壁と認識」とも報告されています。

つまり「全体の雇用は増えるが、求められるスキルが変わる」という構図です。

詳細はAI普及による雇用問題・AI導入で仕事はどう変わるかで個別に整理しています。

責任の所在の曖昧さ

AIが誤った判断・誤った出力で損害を引き起こした場合、責任の所在が不明瞭になりやすい論点です。

責任の引受先には複数のレイヤーがあります。

• AIモデル開発者（OpenAI・Anthropic・Google等）
• AIサービス提供者（SaaS事業者・SIer）
• 利用企業（AIを業務に組み込んだ事業者）
• 最終利用者（社員・顧客）

EU AI Act Article 25は、高リスクAIについて、バリューチェーン上の役割移転（誰が「提供者」になるかの引き継ぎ）や、提供者と第三者供給者間の情報提供・技術アクセス・支援を書面合意で定める枠組みを置いています。

日本ではまだ明文の責任ルールはありませんが、利用企業側で「AIが判断した場合の最終責任者は誰か」を運用ポリシー上で定めておかないと、インシデント発生時にエスカレーション経路が機能しません。

シャドーAI（管理されないAI利用）

会社が公式に導入していないAIサービスを、従業員が個人アカウントで業務に使う「シャドーAI」が、2026年最大級のリスクとして急浮上しています。

GRASグループの2026年4月調査では、シャドーAI利用者のうち機密情報を入力する割合が**一般社員18.8%に対し課長・部長クラスでは37.5%**と約2倍に達しています（母集団はシャドーAI利用者）。判断材料や経営情報のような重い情報ほど、シャドーAI経由で漏れやすい構造です。

加えてIBMの2025年7月30日プレスリリース（Cost of a Data Breach 2025）では、シャドーAI利用が多い組織は少ない組織に比べて平均で約67万ドル（約1億円）の追加コストを負担していると報告されています。

7つの問題点のうち、シャドーAIだけは「単独で対策する」よりも、ハルシ・情報漏えい・著作権・責任所在の全てを巻き込む経路として捉える必要があります。

---

AIエージェント時代の新しい脅威

7つの問題点に加えて、2026年の独自軸として整理しなければならないのが、AIエージェント特有のリスクです。

AIエージェントは、人間からの指示を一段抽象化された目標として受け取り、自律的にツールを呼び出して目標を達成しに行きます。

「自分で判断する」「外部APIを叩く」「ファイルを書く」が組み合わさるため、従来のチャット型生成AIとはリスクの種類が変わります。

プロンプトインジェクションの成功率

最も警戒されているのが、プロンプトインジェクション（攻撃者が入力経由でAIの指示を上書きする攻撃）の高成功率です。

Anthropic Claude Opus 4.6のSystem Cardでは、GUI computer-use環境・防御策なしの条件で、単発のプロンプトインジェクション成功率17.8%、同一目標で200回試行する適応型攻撃では78.6%まで成功率が上がると報告されています（二次整理: Uravation）。

加えてセキュリティ企業Radwareが公開した「ZombieAgent」レポートでは、ChatGPTのエージェント機能を悪用してユーザーがクリックしなくても機密情報を窃取できる脆弱性が実証されました。

攻撃者がメールやWebページに仕掛けた間接プロンプトをAIが「読み込んでしまう」だけで、ユーザーが知らないうちに情報が外部に送られる構造です。

マルチエージェント感染と被害の連鎖

エージェントが複数連携する設計では、1つのエージェントが侵害されると他のエージェントへ被害が連鎖します。
「マルチエージェント感染」と呼ばれる攻撃パターンで、社内エージェント連携基盤の設計時には特に注意が必要です。

加えてSysdigの分析では、攻撃者がLLMをエージェントとして組み込んだケースで、CVE悪用から内部データベース到達までの攻撃全体が1時間未満で完結し、DBダンプ自体は2分未満で実行された事例が報告されています。

人間の検知・対応が間に合わないスピード感での被害が想定されます。

完全自律型AIエージェントは15%しか進んでいないという運用面の現実

リスク面だけでなく、運用面でも独自の壁があります。Gartnerが2025年9月に公表した調査では、ITアプリケーションリーダーの75%が何らかのAIエージェントを試験・導入済みである一方で、**完全自律型AIエージェントを検討・試験・導入しているのはわずか15%**にとどまることが報告されています。

止まる主因は次の3点に集約されます。

• セキュリティとガバナンスの設計が間に合っていない
• 検証・モニタリング（Observability）の仕組みがない
• 「失敗時に誰が責任を取るか」の合意が組織として取れない

つまりAIエージェントは、技術的に「動かす」よりも、「安全に止められる仕組みを先に整える」ことの方が難しいのが実態です。

技術選定だけで進めると、本番に入る前にガバナンス側の論点でブロックされます。

---

規制と公式ガイドラインの現在地

AIの問題点に対する公的な枠組みは、2025年から2026年にかけて一気に整いました。
ここでは日本・EU・著作権訴訟の3軸で、本記事の作成時点（2026年6月）で押さえるべき動向を整理します。

詳細は別途AI規制法の解説記事もご覧ください。

日本AI推進法（2025年9月全面施行）

日本では「人工知能関連技術の研究開発及び活用の推進に関する法律」（通称AI推進法）が、2025年6月4日に公布、9月1日に全面施行されました。

AI推進法の概要（出典：内閣府）

内閣府の概要図で示されているとおり、AI推進法は「法律の必要性（日本のAI開発・活用の遅れ／生成AI利用率の低さ）→ 基本理念（国民生活の向上・国民経済の発展）→ 基本的施策（研究開発の推進・人材育成・国際協力）→ 体制（本部設置・内閣総理大臣本部長）→ 罰則（規定なし）」という構造で組み立てられています。

罰則なしという特徴は、EU AI Actとは正反対の「まず使う・育てる・国際協調する」を優先したイノベーション重視の設計です。

EU AI Actのような網羅的な義務・罰則体系ではなく、罰則なし・努力義務ベースのガイドライン的設計です。企業に直接効くのは第7条「活用事業者の責務」で、活用事業者には次の努力義務が課されています。

• 基本理念にのっとり、自ら積極的にAIを活用して事業活動の効率化・高度化・新産業の創出に努める
• 国・地方公共団体が実施するAI関連施策に協力する

違反しても罰則はありませんが、政府が悪用事案などに対して情報収集・指導・公表できる枠組みは整っています。「ガイドラインだから無視してよい」ではなく、「法的義務化の前段階として、後述のAI事業者ガイドラインに沿った運用整備を進めるべき」と捉えるのが実務的な解釈です。

AI事業者ガイドライン第1.2版（2026年3月改定）

総務省・経済産業省が共同で策定する「AI事業者ガイドライン」は、2026年3月31日に第1.2版へ改定されました。

第1.0版（2024年4月）・第1.1版（2025年3月）からの主な追記内容は次のとおりです。

• AIエージェント：定義・便益・リスク・対策・実装例の追記
• フィジカルAI：自動運転・ロボティクス領域のAI実装に関する論点追記
• リスクベースアプローチ：ユースケース別の許容範囲・対策レベル整理

「AI開発者」「AI提供者」「AI利用者」の3者それぞれが何を遵守すべきかが、章単位で示されています。

AI事業者ガイドライン第1.2版 3主体の対応（出典：経済産業省・総務省）

3主体の対応図では、AI開発者がデータ収集・前処理・モデル開発・検証を担い、AI提供者がシステム実装・サービス提供・運用監視を担い、AI利用者が利用環境構築・実利用・データ管理を担う、という業務フローが縦割りで整理されています。

データ・モデル・サービス・利用の各段階で、3主体が「自分の責任範囲で何をすべきか」がフローとして読めるため、社内のAIガバナンス設計時には「自社はどの主体か／隣接主体に何を期待するか」の検討材料として直接使えます。

日本AI推進法と組み合わせて、法令はガイドラインを参照に運用整備し、罰則は不要だが社会的説明責任の根拠とするという構造です。

詳細な体系化はAIガバナンス解説記事に整理しています。

EU AI Act（高リスクAI義務は2027年12月以降に延期見通し）

EUのAI Actは、2024年8月発効、2025年2月に「禁止AI実践」と「AIリテラシー義務」が適用開始、2025年8月にGPAI（汎用AI）モデル義務が適用開始と段階的に効力が発生しています。

EU AI Actの4段階リスク分類（出典：European Commission）

EU AI Actは、AIシステムをピラミッド最上位の「Unacceptable risk（許容不能リスク）＝禁止」、その下の「High risk（高リスク）＝厳格な義務」、続く「Limited risk（限定リスク）＝透明性義務」、最下層の「Minimal or no risk（最小リスク）＝義務なし」の4段階に分類して、リスクの大きさに応じた義務レベルを設定しています。

記事冒頭で触れた「採用AI・与信AI・教育評価AI」はピラミッドの上から2段目（高リスク）に該当します。

現行条文上は2026年8月2日に、Annex IIIに該当する「高リスクAIシステム」の義務が本格適用される予定でした。

しかし2026年5月7日にEU理事会と欧州議会が「Digital Omnibus on AI」で政治合意し、スタンドアロン型の高リスクAIは2027年12月2日、製品組込型（リフト・玩具等）は2028年8月2日へ延期される見通しとなりました（正式採択前のため、最終的に変更される可能性が残ります）。違反時の罰則は次のとおりです。

違反カテゴリ	罰則の上限
禁止AI実践への違反	3,500万ユーロ または 全世界売上の7%（高い方）
高リスクAI義務違反	1,500万ユーロ または 全世界売上の3%（高い方）
当局への虚偽情報提供	750万ユーロ または 全世界売上の1%（高い方）

日本企業でも、EU圏内にAIサービス・AI組み込み製品を提供する場合は適用対象です。採用AI・与信AI・教育評価AIなどがAnnex IIIに該当します。

高リスクAIシステムのライフサイクル管理プロセス（出典：European Commission）

高リスクAIシステムに分類された製品は、図のとおり「設計・開発 → 適合性評価（Conformity assessment）→ CEマーキング → EUデータベース登録 → 市場投入 → 継続的なモニタリング」というライフサイクル全体で適合性義務を負います。

罰則表で示した最大1,500万ユーロという金額は、ライフサイクルのどこかでこの義務を怠った場合に発動するため、プロダクト開発の初期から「EU AI Act準拠は機能要件として最初から組み込む」という設計が必要になります。

著作権訴訟：Bartz和解と9社新聞訴訟

2025〜2026年は学習データの著作権訴訟が次々と動いた時期でした。代表的な決着・進行中事案は次の2つです。

Bartz v. Anthropic（米国）

2025年9月5日、Anthropicが3名の著者代表との集団訴訟で15億ドル規模の和解案に合意（同月25日に予備承認）。和解対象は約50万作品で、1作品あたり約3,000ドル換算。
NPRの報道では「米史上最大の著作権和解」と評された。

ただし「合法に取得した書籍を訓練に使う行為自体はフェアユース」とする中間判決はそのまま残り、争点は「海賊版ライブラリ経由の取り込み」に限定された決着。

9社新聞 vs OpenAI・Microsoft（米国・進行中）

2025年11月26日、MediaNews Groupが管理する米9社の新聞社（Los Angeles Daily News／San Diego Union-Tribune／Boston Herald 等）がOpenAIとMicrosoftを著作権侵害でニューヨーク南部地区連邦裁判所に提訴。

請求額は100億ドル超で、NYT vs OpenAIに続く大型訴訟として注目されている。

これらの動きは、AIサービスを業務に組み込む側の企業にも影響します。学習元の合法性に争いがあるサービスを使い続けると、将来の出力に対する権利関係リスクが残る可能性があるためです。

商用利用ではIP indemnity（補償条項）の有無を必ず契約レベルで確認する必要があります。

---

問題点別の対策と統制設計

ここからは、7つの問題点と新しいAIエージェント脅威に対して、企業がいま打てる対策を整理します。

具体策はリスクごとに違いますが、「技術・ポリシー・教育の三位一体」という基本構造は共通します。一つだけ対策しても穴が残るためです。

7つの問題点 × 対策マッピング

以下の表で、各問題点に対する代表的な対策を一覧化しました。

問題点	技術対策	ポリシー対策	教育対策
ハルシネーション	RAG導入・Human-in-the-Loop・出力検証ツール	重要業務でのAI単独判断禁止	出力検証の手順教育
情報漏えい	エンタープライズ契約（Azure OpenAI・ChatGPT Enterprise・Claude for Enterprise等）／DLP	機密情報の入力禁止リスト	「ZDR契約」「学習利用オプトアウト」の理解
著作権	類似性チェック・出典トレース	IP indemnity（補償条項）付きサービス選定	商用利用ルールの周知
バイアス	バイアス検出ツール・データ多様性確保	高影響判断は人的監視必須	公平性原則の周知
雇用影響	リスキリングプラットフォーム	業務再設計・新職種定義	スキル習得支援
責任所在	監査ログ・出力履歴の保管	責任分担明文化・エスカレーションフロー	インシデント時の対応訓練
シャドーAI	承認済みAIツールリスト・SaaS可視化ツール	AI利用ガイドライン策定	承認済みツールの使い方教育

注目すべきは、「エンタープライズ契約への切り替え」「AI利用ガイドライン策定」「従業員教育」の3つは、複数のリスクに同時に効くという点です。

最初の一歩としてこの3つを揃えると、シャドーAI・情報漏えい・責任所在まで一度に手当てできます。

AIエージェント特有の対策

エージェント領域では、従来のチャット型AIにはない統制が必要です。

• 入力ソースのサンドボックス化
  エージェントが読み込む外部コンテンツ（メール・Webページ・添付ファイル）はサンドボックス処理し、悪意ある間接プロンプトが本体ロジックに到達しないようにする
  
  

• 権限分離（Least Privilege）
  エージェントに与えるAPIキー・ツール権限は業務に必要な最小限に絞る。書き込み権限・実行権限は人間承認をはさむ設計にする
  
  

• 観測性（Observability）
  エージェントが何を読み・何を考え・何を実行したかをトレースとして残し、後追いで監査できる仕組みを整える
  
  

• キルスイッチ
  意図しない動作を検知したら即座に止められる停止ボタンを実装する。「安全に止められる仕組み」が技術的に動かす仕組みより優先される

これらは2026年時点で完成形があるわけではなく、各社が試行錯誤している領域です。

実装が固まるのを待っていては機会損失が大きいので、「観測性とキルスイッチを最低条件として導入する」というラインから始めるのが現実的です。

ガバナンス体制の構築

技術・ポリシー・教育を統合して動かすには、組織としてのAIガバナンス体制が必要です。基本要素は次のとおりです。

• AI倫理委員会または推進委員会：経営層・情報システム・法務・人事・現場部門の合議体
• AI利用ガイドライン：承認済みツール・禁止行為・申請手続を明文化
• インシデント対応フロー：誤出力・情報漏えい発生時のエスカレーション経路
• 継続的モニタリング：AI出力の品質劣化（データドリフト）・ログ分析・定期見直し

取締役会の54%が「AIガバナンスを上位5優先事項に挙げていない」という2026年のキトワークス調査もあります。

経営層の関与度がガバナンス成熟度の最大の決定要因であるため、「情報システム部門だけで進める設計」は失敗パターンの代表例です。

---

ケース別の取り組み方

ここまでの整理を踏まえても、実際に「自社で何から手を付けるか」は、企業のポジションによって優先順位が大きく変わります。

このセクションでは、AI総研の支援現場で頻出する4つのケースについて、いますぐ手を付けるべき打ち手と、判断軸を整理します。

自社プロダクトにAIを組み込む企業の場合

SaaS・モバイルアプリ・業務システムにAIを組み込んで顧客に提供する企業は、「自社のAI出力に関する法的責任を負う立場」になります。優先順位は次のとおりです。

第一優先：IP indemnityのあるサービス選定

学習データの合法性が争われているサービスは、出力の権利関係も不安定になりやすい。
Azure OpenAI・Claude for Enterprise・Google Vertex AIなど、補償条項を提供するエンタープライズサービスをコアに据える。

第二優先：出力ログの保管と監査体制

EU AI Act対応・国内のAI事業者ガイドライン対応を視野に、出力ログ（プロンプト・入力データ・出力結果・モデルバージョン）を最低6ヶ月は保管できる設計にする。

第三優先：人的監視ポイントの設計

完全自動化を目指さず、業務影響度の高い判断には必ず人間承認をはさむフローを設計する。
「Human-in-the-Loop」を「ボトルネック」ではなく「責任の引き取り点」として位置づける。

導入判断で詰まりやすいのが、「Human-in-the-Loopの粒度」です。
すべての出力に人間レビューをはさめば安全だが業務効率が落ち、自動化に振り切れば責任問題が膨らみます。

実務的には「業務影響度を3段階に分け、高影響のみ人間承認、中影響はサンプリングレビュー、低影響は自動化」のような分業設計に落とすケースが多いです。

顧客向けに公開チャットAIを提供する企業の場合

カスタマーサポート・問い合わせ対応・予約受付などに公開チャットAIを使う場合、エンドユーザーが直接AIと対話するため、リスクの種類が増えます。

優先論点は次の3つです。

• ハルシネーション対策（最優先）
  誤った案内が事業責任に直結するため、RAGで社内ナレッジに限定回答させる設計が事実上の標準。FAQ範囲外の質問は人間オペレーターに引き継ぐフローを必ず作る。
  
  

• プロンプトインジェクション耐性
  公開エンドポイントは攻撃者が直接アクセスできる。入力長制限・既知の攻撃パターン検知・センシティブ情報の出力ブロックを多層で実装する。
  
  

• 透明性（EU AI Act Article 50）
  AIと対話していることをユーザーに明示する義務がEU AI Actで規定されている。チャット冒頭で「AIアシスタント」であることを表示する設計を標準化する。

EU AI Actの高リスクAI義務は2026年5月のDigital Omnibus合意で2027年12月以降に延期される見通しですが、それまでに**「設計上の任意のベストプラクティス」から「EU圏向けには法令遵守事項」へ転換する準備**を進めておく価値があります。延期されたタイミングで慌てて改修するより、現在のプロダクト設計から織り込んだ方が確実です。

社内活用（業務効率化）を進める企業の場合

社員向けにChatGPT・Microsoft 365 Copilot・Gemini等を導入し、業務効率化を進めるケースです。

優先論点はシャドーAIの可視化と置き換えです。

• 第一歩：SaaS可視化ツール（CASB等）で、社内ネットワーク経由でアクセスされている生成AIサービスを洗い出す
• 第二歩：洗い出した利用実態を踏まえて、エンタープライズ契約の正式導入を進める
• 第三歩：「承認済みAIツールリスト」と「禁止行為リスト」を明文化し、教育で浸透させる

パナソニック コネクトは「ConnectAI」を全社導入し、2024年の活用実績で年間44.8万時間の業務時間削減を達成しています。

ConnectAIによる業務時間削減実績（出典：パナソニック ニュースルーム）

同社の公式プレスで示されている数値が興味深く、2023年5月時点では「聞く」62.2% / 「頼む」31.9%だった社員のAI利用パターンが、2025年5月時点では「聞く」45.9% / 「頼む」41.7%へと、ほぼ拮抗する水準まで「頼む」が伸びています。

要因として「社員のAI活用スキルの向上」と「AI技術の進化」の2点が挙げられており、プロンプトの文字数も当初の2.7倍（109文字 → 273文字）に増加しています。同社が成功した理由のひとつは、シャドーAIを許す前に「正式ツールを使う方が便利」という状態を先に作ったこと——社員が個人アカウントに逃げる動機を消した設計です。

導入で詰まりやすいのが「個人向けプランで業務利用してしまうリスク」です。安いという理由でChatGPT Plus（個人契約）で業務を進めると、入力データの学習利用ポリシーが法人契約と異なるため、情報漏えいの統制が効きません。

正式ツール提供までの暫定期間も、「個人プランで業務情報は扱わない」の方針を必ず明示する必要があります。

セキュリティ人材を抱えにくい中小企業の場合

専任のセキュリティ・法務人材を置きにくい中小企業の場合、「AIの問題点に対処できないからAIを使わない」という選択は、現実的にはむしろ大きな機会損失になります。

優先順位の整理は次のようになります。

• やる：エンタープライズ契約のAIサービス（ChatGPT Enterprise・Azure OpenAI・Claude for Enterprise）を最初から使う
• やる：AI利用ガイドラインを最低1枚作る（AI事業者ガイドラインの観点を参考に、自社向けの1枚ルールに落とす）
• やる：従業員教育を年1回でも実施する
  
  
• 後回しでよい：完璧なAI倫理委員会の立ち上げ
• 後回しでよい：詳細なAIリスクアセスメント手法の社内構築

中小企業が必ずやるべきラインは「個人プラン業務利用を許さない」と「最低限のガイドライン1枚」の2つです。
残りは段階的に整えればよく、最初から完璧を目指すと結局AI導入が止まります。

---

AI活用と対策投資の料金感

AIの問題点に対処するには、AIサービス自体の利用料と、ガバナンス・対策ツールの投資コストの両面で予算を組む必要があります。

このセクションでは、2026年6月時点の代表的なAIサービス料金と、対策投資の費用感を整理します。リージョン記載の必要なクラウドインフラ系はAzure（Japan East基準）で記載しています。

エンタープライズ向けAIサービスの料金例

社員に正式ツールとして提供する場合、シャドーAI対策・情報漏えい対策の観点から、ほぼエンタープライズプラン一択になります。

サービス	用途	料金（2026年6月時点）
ChatGPT Enterprise	法人向け汎用生成AI（学習データ無利用保証）	公開価格なし・営業見積もり（年契約・席数連動）
Microsoft 365 Copilot（E3/E5アドオン）	M365連携の業務生成AI（既存のE3/E5プランへのアドオン）	$30/ユーザー/月（年契約・Businessプランはプロモ$18/通常$21の別体系）
Claude for Enterprise	Anthropic公式の法人向けClaude	公開価格なし・営業見積もり（席数連動）
Azure OpenAI Service	エンタープライズ向けAPI（Japan East）	従量課金（モデル別・トークン単位）

個人プランとの本質的な違いは料金より「契約上の学習利用方針・SLA・SOC2/ISO27001等の認証」であり、シャドーAI対策のためにはエンタープライズ契約への切り替えがコア施策になります。

対策ツール・体制構築の費用感

エンタープライズサービス利用料に加えて、ガバナンス側の投資が必要です。代表的な費目を整理します。

• AI利用ガイドライン整備：社内法務 or 外部弁護士に依頼。新規策定で30〜80万円が相場
• SaaS可視化ツール（CASB）：シャドーAI洗い出し用。月10〜30万円規模からエンタープライズ向けは数百万円規模
• AIガバナンス研修：従業員向けの集合研修・eラーニング。1万円/人/年からSaaS型まで
• AI倫理委員会の運営：四半期ごとの運営工数として、月数十時間規模のコミットが必要
• 監査ログ保管基盤：クラウドストレージ＋ログ分析ツール。月数万円〜数十万円規模

これらは「AIサービス利用料の0.5〜2倍程度をガバナンス側に振る」というのが、AI総研で支援している企業の平均的な配分です。

AIをスケールさせるほど、対策側の比率が上がっていく構造です。

---

AIの問題点を踏まえた業務AI導入を体系的に整えるなら

ここまで整理してきた7つの問題点、AIエージェント特有のリスク、規制動向、対策、ケース別の優先アクションは、いずれも「単発で押さえる」よりも「自社の業務AI導入ロードマップに最初から織り込む」方が、後戻りコストを大きく下げられる論点です。

特にシャドーAIの可視化、エンタープライズ契約への切り替え、AI利用ガイドラインの整備、Human-in-the-Loopの粒度設計、AI事業者ガイドライン第1.2版に沿った文書化——これらをPoC段階で考えずに進めると、全社展開のタイミングで法務・情報システム部門から差し戻しが入り、プロジェクトが半年単位で遅延します。

AI総合研究所では、リスク統制を最初から織り込んだ業務AI導入の進め方を、PoC段階から全社展開まで220ページにまとめた「AI業務自動化ガイド」を無料で提供しています。

AIの問題点を体系的に理解した今こそ、リスクを抑えながらAI活用を前進させる設計の第一歩として活用ください。

---

まとめ

本記事では、AIの問題点を7軸とAIエージェント特有のリスクで整理し、2025〜2026年の規制動向と、企業がいま打つべき対策、ケース別の優先アクション、料金感までを解説しました。要点を改めて整理します。

• AI利用リスクはIPA「情報セキュリティ10大脅威2026」で初の3位選出。AI悪用・AIシステムへの攻撃・運用法的リスクの3カテゴリで整理されるようになった
  
  

• 押さえるべき問題点は7軸（ハルシ・情報漏えい・著作権・バイアス・雇用・責任所在・シャドーAI）。特にシャドーAIはシャドーAI利用者のうち課長・部長クラス37.5%が機密入力（一般社員18.8%の約2倍）という調査結果があり、複数リスクの経路として最重要
  
  

• AIエージェント時代の新しい脅威としてプロンプトインジェクション（200回適応で78.6%成功・Anthropic公式評価）と完全自律型エージェントが検討・試験・導入段階でも15%にとどまる現実があり、観測性とキルスイッチの実装が現実的な最低条件
  
  

• 規制は日本AI推進法（罰則なし努力義務）・EU AI Act（高リスク違反最大1,500万ユーロ）・AI事業者ガイドライン第1.2版の三本柱。Bartz v. Anthropic 15億ドル和解など著作権訴訟も活発化
  
  

• 対策は技術・ポリシー・教育の三位一体。エンタープライズ契約・AI利用ガイドライン・従業員教育の3つで複数リスクに同時対処できる
  
  

• ケース別の優先順位は大きく変わる。自社プロダクト企業はIP indemnity、顧客向けはRAGと透明性、社内活用はシャドーAI可視化、中小企業はエンタープライズ契約とガイドライン1枚から始めるのが現実的

AI総合研究所では最新AIの企業導入、開発、研修を支援しています。AI導入の企業の担当者様はお気軽にご相談ください。