AIの利用で情報漏洩が起こる背景
AIの業務利用が広がる一方で、社内の情報管理が追いつかないまま活用が進むケースもあります。生成AIは手軽に文章作成や要約、問い合わせ対応の補助などに使えるため、従業員が自己判断で利用しやすい点に注意が必要です。
しかし、業務で扱うデータの中には、顧客情報や契約情報、社内資料、未公開の事業情報など、外部に出してはいけない情報が含まれます。AIの利用範囲や入力ルールが明確でないと、従業員が悪意なくこうした情報を入力してしまう可能性があります。
また、外部のAIサービスを利用する場合、入力した情報がどのように保存・管理されるのか、サービス提供会社の規約や設定を事前に確認しておくことも大切です。
AIツールの便利さだけを重視して導入すると、入力データの取り扱いやアクセス権限、利用履歴の管理が不十分になり、情報漏洩のリスクが高まります。
AIによる情報漏洩を防ぐには、ツールの選定だけでなく、社内ルールの整備や従業員への教育、入力データの管理体制づくりが欠かせません。
▼AIに強くなる会社作りに必要な知識をまとめたお役立ち資料はこちら
生成AIによる情報漏洩が発生する主な原因
生成AIで情報漏洩が発生する主な原因は、以下の5つです。
|
情報漏洩を引き起こす要因を、詳しく解説します。
個人情報や機密情報の入力
生成AIのプロンプトに個人情報や機密情報を入力すると、情報漏洩につながるおそれがあります。たとえば、問い合わせ対応の文面を作成する際に顧客名や連絡先をそのまま入力したり、議事録の要約時に取引先名や未公開のプロジェクト情報を含めたりするケースが考えられます。
本人に情報漏洩の意図がなくても、業務効率化のために普段の資料やメール文面をそのまま貼り付けてしまうと、外部サービス上に重要な情報が残る可能性があります。
AIサービス事業者の管理体制や設定によっては、入力データが保存されたり、サービス改善のために利用されたりする場合もあるため注意が必要です。
システムの脆弱性・アクセス制御の不備
AIサービスや連携しているシステムに脆弱性があると、情報漏洩につながるおそれがあります。たとえば、システムの不具合によって、本来は表示されないはずの個人情報や利用履歴が、別のユーザーに表示されてしまうケースが考えられます。
また、AIサービスそのものに問題がなくても、社内システムとの連携方法やアクセス権限の設定が不十分だと、情報漏洩のリスクは高まります。
AIに機密情報や顧客情報へ自由にアクセスできる権限を与えていると、必要以上の情報を参照したり、外部に出してはいけない情報が回答に含まれたりすることも少なくありません。
AIを安全に活用するには、利用するサービスのセキュリティ体制を確認するだけでなく、AIがアクセスできる情報の範囲を必要最小限に制限することが重要です。
セキュリティ対策の不足
AIサービスを利用するユーザー側のセキュリティ対策不足により、情報漏洩を招くケースがあります。たとえば、以下のような行為はセキュリティ上のリスクが高く注意が必要です。
|
セキュリティ対策が十分でないと、不正ログインやログの取得などで機密情報が漏洩する可能性があります。
プロンプトインジェクション攻撃
生成AIに対してプロンプトインジェクション攻撃を受けると、情報漏洩のリスクが高まります。プロンプトインジェクション攻撃とは、生成AIに対して外部から不正な入力をして誤動作させるサイバー攻撃の一種です。
具体的には、細工された指示文を入力し、AIに本来意図しない操作や情報を出力させる手法を指します。悪意のあるユーザーによるプロンプトインジェクション攻撃によって、外部公開してはいけない情報を出力してしまうリスクがあるため、入力内容の制御や権限管理などの対策が必要です。
マルウェアや偽AIツールによる情報窃取
マルウェア（ウイルスやスパイウェアなど、端末に害を与える悪意あるソフトウェアの総称）に感染した端末を利用していると、信頼できる生成AIサービスを使っていても情報漏洩が発生するおそれがあります。
マルウェアによってアカウントが乗っ取られると、生成AIに入力した内容や利用履歴などを第三者に見られ、機密情報が窃取される可能性があるためです。
また、偽AIツールを利用した情報漏洩にも注意が必要です。近年は、正規のAIツールを装った不正なソフトウェアや拡張機能が配布されるケースもあります。こうした偽AIツールをダウンロードして実行すると、端末内でマルウェアが動作し、不正アクセスや情報漏洩につながるおそれがあります。
生成AIを安全に利用するには、公式サイトや信頼できる提供元からサービスを利用することが重要です。あわせて、端末のセキュリティソフトを最新の状態に保ち、不審なツールや拡張機能を安易にインストールしないよう社内で周知しましょう。
▼本記事に関連したお役立ち資料もご用意していますので、ぜひ併せてご覧ください。
AIに入力してはいけない情報の例
AIを利用する際は、以下の4つの情報を入力しないよう注意しましょう。
|
なぜ上記の情報をAIに渡してはいけないのか、詳しく見ていきましょう。
個人情報・顧客情報
個人情報・顧客情報は以下のような情報を指します。
|
個人情報や顧客情報が流出すると、企業の社会的信用が大きく低下するおそれがあります。情報管理が不十分な企業だと受け止められれば、既存顧客との取引継続や新規顧客の獲得にも影響が出るでしょう。
また、個人情報保護法では、企業に対して個人情報の適切な管理が求められています。情報漏洩の内容や対応によっては、行政指導や命令の対象となるほか、顧客から損害賠償を請求される可能性もあります。
AIを業務で活用する際は、利便性だけでなく、万が一情報が流出した場合の社会的・法的リスクも踏まえて、個人情報や顧客情報を慎重に取り扱うことが重要です。
社外秘情報・営業情報
社外秘情報・営業情報とは、社外の人に知られてはいけない情報であり、以下のようなものが含まれます。
|
社外秘情報・営業情報が流出して公にされると、競合他社との競争において不利益を被る恐れがあります。企業の成長において大きな悪影響を及ぼすため、社外秘情報・営業情報の取り扱いは慎重に取り扱いましょう。
技術情報・認証情報
技術情報・認証情報とは以下のような情報です。
|
技術情報が流出すれば、競合他社との競争で不利になるだけではなく、企業ブランドや会社の信用が失墜するなど悪影響が大きいです。認証情報が流出すると不正アクセスの原因となり、技術情報や顧客情報などが漏洩するリスクが高まります。
人事・財務・経営情報
人事・財務・経営情報とは以下のような情報です。
|
人事や財務、経営情報は外部に漏らした場合の影響が大きい機密情報であり、取り扱いには十分注意が必要です。
AIによる情報漏洩の実例3つ
AIの利用によって情報漏洩した実例を3つ紹介します。
|
ChatGPTで発生した個人情報漏洩の事例
2023年3月、ChatGPTを利用していたユーザーから、他人のチャット履歴のタイトルが画面に表示されるという報告がありました。
その後、有料プランを利用していた一部ユーザーの氏名、メールアドレス、支払い先住所、クレジットカード番号の下4桁などが、別のユーザーから閲覧できる状態になっていたことが判明しています。
原因は、ChatGPTで使用されていたオープンソースライブラリのバグとされています。システムが意図しない動作をしたことで、本来表示されるべきではない情報が他のユーザーに表示されてしまった事例です。
公式発表では、有料プラン利用者のうち約1.2％に影響があったとされています。この事例は、信頼性の高いAIサービスであっても、システムの不具合によって個人情報が漏洩するリスクがあることを示しています。
企業がAIを業務利用する際は、入力する情報の管理だけでなく、利用するサービスの障害情報やセキュリティ体制にも注意を払うことが大切です。
大手電子製品メーカーで起きたソースコード漏洩の事例
大手電子製品メーカーでは、生成AIの利用によってソースコードが外部に流出した事例があります。
この事例では、エンジニアがソースコードのバグを確認する目的で、生成AIに社内のソースコードを入力したことが原因とされています。ソースコードの中には、製品の設計や構造に関わる社外秘の情報が含まれていました。
また、入力した情報を生成AIの学習に利用しないようにする設定が行われていなかった点も問題視されました。生成AIに入力した情報がどのように保存・利用されるのかを十分に確認しないまま使ってしまうと、社外秘の情報が意図せず外部に渡るリスクがあります。
さらに、このケースでは生成AIの利用がエンジニア個人の判断で行われており、情報管理部門が把握するまでに時間がかかったとされています。便利なツールであっても、社内ルールや承認フローがないまま利用すると、企業全体でリスクを管理しにくくなります。
同社では、この問題を受けて生成AIの利用ルールの見直しや管理体制の強化に取り組んでいます。企業が生成AIを業務に活用する際は、入力してよい情報の範囲を明確にし、従業員の独断利用を防ぐ仕組みを整えることが重要です。
マルウェア感染によってアカウント情報が漏洩した事例
マルウェア感染によって、ChatGPTのアカウント情報10万件以上が流出した事例があります。流出したアカウント情報は、ダークウェブ上で取引されていたとされています。
原因は、インフォスティーラーと呼ばれるマルウェアへの感染です。インフォスティーラーは、感染したPCからログインIDやパスワードなどの個人情報を収集し、攻撃者へ送信するマルウェアです。盗まれたログ情報の中に、ChatGPTのアカウント情報も含まれていました。
この事例では、AIサービスそのものに問題があったわけではありません。しかし、利用者のPCがマルウェアに感染していると、ブラウザに保存されたログイン情報や入力履歴などが盗まれ、結果としてAIサービスのアカウント情報が流出する可能性があります。
AIによる情報漏洩を防ぐには、AIサービスの利用ルールを整えるだけでなく、PCやスマートフォンなどの端末を安全に保つことも重要です。セキュリティソフトの導入、OSやブラウザの定期的な更新、不審なファイルや拡張機能を開かない運用を徹底しましょう。
▼AIを上手に活用するために重要なナレッジ戦略について解説したお役立ち資料はこちら
企業が取るべきAI情報漏洩対策
AI活用による情報漏洩に備えるために、企業が取るべき6つの対策を紹介します。
|
すべてを同時に進めるのが難しい場合は、まず社内ガイドラインの策定と従業員教育から着手し、その後ツールの選定やアクセス制御などの技術的対策へと段階的に取り組むのがおすすめです。
AI利用に関する社内ガイドラインの策定
社内でAIを利用する上で守るべきルールを社内ガイドラインとして明文化しましょう。ガイドラインに含めておきたい項目は以下の通りです。
|
AIの利用を認める対象者や利用するツール、推奨業務・禁止業務などを具体的に決めておきます。AIに渡すデータの制限と入力禁止情報も規定しておきましょう。他にもトラブル時の報告フローや罰則規定も明確にしておくことが大切です。
AI利用の社内ガイドラインでは、各項目について細かく内容を決めておくと情報漏洩防止の効果が高まります。
なお、社内ガイドラインを策定する際は、政府や関係機関が公表している以下の資料も参考にしてください。
-
経済産業省「AI事業者ガイドライン」（2024年4月）：AIの開発・提供・利用にかかわる事業者が取るべき対応をまとめたガイドライン
-
個人情報保護委員会「生成AIサービスの利用に関する注意喚起」：生成AIへの個人情報入力に関するリスクと留意点を解説
-
経済産業省「コンテンツ制作のための生成AI利活用ガイドブック」：著作権・契約上の留意点を整理した実務向け手引き
これらのガイドラインは定期的に改訂されるため、最新版を確認するようにしましょう。
法人向けAIサービスやセキュアな環境を利用する
法人向けのAIサービスやセキュアな環境を活用することで、情報漏洩のリスクを大幅に軽減できる可能性があります。
一般向けの無料AIサービスでは、入力したデータがサービス改善やモデルの学習に利用される可能性があります。
一方、法人向けプランでは、入力データを学習に使用しない設定や、管理者による利用状況の確認、アクセス権限の制御など、企業利用を前提とした機能が用意されているケースがあります。法人向けAIサービスの主な特徴は以下の通りです。
|
また、大手クラウドベンダーが提供する生成AI基盤サービスを利用すれば、自社が管理するクラウド環境内でAIを運用でき、外部へのデータ流出リスクをさらに抑えられます。
特に機密性の高い情報を扱う企業では、プライベートクラウドやオンプレミス環境での構築も選択肢となるでしょう。
データマスキングや匿名化を行う
データマスキングの導入もAI活用の情報漏洩を防ぐのに効果的です。データマスキングとは、元の文字や数字を特定できない形に変換する処理を指します。
データマスキング済みのデータが流出しても個人を特定できないため、被害を最小限に抑えることが可能です。文章から自動的に個人情報を識別してマスキングできるツールもあるため、効率的に対応を進められるでしょう。
アクセス制御・ログ管理を強化する
アクセス制御とログ管理の強化は、AI活用における情報漏洩対策として重要な役割を果たします。アクセス制御では、AIツールや学習データへアクセスできる範囲を業務上必要な従業員のみに限定します。具体的な対策は以下の通りです。
|
また、AIの利用状況を可視化するためにログ管理も欠かせません。誰がいつどのようなプロンプトを入力し、どのような出力を得たかを記録しておけば、不正利用や情報漏洩の兆候を早期に検知できます。
ログを定期的に監査することで、ガイドライン違反の発見やインシデント発生時の原因究明にも役立つでしょう。
従業員へのセキュリティ教育の実施
従業員がAIのリスクを理解しないまま活用すると、情報漏洩につながるおそれがあります。安全にAIを利用していくために従業員に対するセキュリティ教育は欠かせません。
従業員へのセキュリティ教育は、外部サービスやeラーニング教材などを活用した研修を実施するのが一般的です。研修後に確認テストを実施し、合格を必須にすることで、学習内容の定着を図れます。
セキュリティ教育では、インシデント発生時の対応フローやシミュレーションを取り入れることが重要です。緊急時に迅速に適切な判断が取れる能力を養っておけば、情報漏洩の被害を最小限に食い止められるでしょう。
▼あわせて読みたい
FAQや社内ナレッジを整備する
情報漏洩の対策として、FAQや社内ナレッジの整備は効果的です。従業員向けのFAQを整備すれば、AIに関するルールや業務フローを一元管理できます。AIを適切に扱うための情報共有を促進することで、情報漏洩を引き起こすリスクの軽減につながります。
FAQの整備によって社内問い合わせ数を削減できるため、ヘルプデスク業務の負担軽減にも効果的です。AI利用に関して必要な情報を調べる時間を短縮できるため、業務効率化も期待できます。
また、基本的な内容や手順をFAQにまとめておくことで、セキュリティ教育にかかる手間やコストの削減にもつながります。
▼AI活用のための社内ナレッジ整理のコツをまとめたお役立ち資料はこちら
情報漏洩が発生した際の対応フロー
AIの利用においては、情報漏洩を防ぐ対策だけでなく、万が一発生した場合の対応フローを事前に決めておくことも重要です。対応が遅れると、被害範囲の拡大や顧客・取引先からの信頼低下につながるおそれがあるためです。
| 対応 | 詳細 | |
| 1 | 初動対応 | 漏洩の事実を確認し、対象となる情報や影響範囲、原因の特定を進める |
| 2 | 封じ込め | 該当するAIツールの利用停止、権限の見直し、外部共有リンクの削除などを行い、被害の拡大を防ぐ |
| 3 | 社内報告 | 経営層・情報管理部門・法務部門へ速やかに報告し、対応方針を決定する |
| 4 | 関係者への通知 | 顧客や取引先に影響が及ぶ場合は、状況や今後の対応を整理したうえで連絡する |
| 5 | 監督官庁への報告 | 個人データが含まれる場合は、個人情報保護委員会への報告や本人通知が必要となるケースがある |
| 6 | 再発防止策の策定 | 原因を分析し、AI利用ルールの見直しや従業員教育、ログ監視体制の強化などを行う |
情報漏洩時の対応は発生後に考えるのではなく、あらかじめ手順を決めてしておきましょう。
AI活用で情報漏洩を防止するにはFAQや社内ナレッジの整備から
生成AIを社内で活用するには、情報漏洩を防ぐための運用ルールの整備が必要です。さらに、FAQや社内ナレッジを整備しておくと、従業員がAI活用のルールや業務フローを確認できるため、安全にAIを運用できる環境が整います。
FAQや社内ナレッジの整備には、最新AI技術を搭載したナレッジ管理ツール「Helpfeel」の活用が有効です。業務に関するマニュアルやよく寄せられる質問を集約し、検索システムで誰でも簡単に必要な情報へアクセスできます。不要な社内問い合わせの削減や業務効率化などにつながるでしょう。
AI導入のために社内ナレッジの整備ができるシステムを探している方は、ぜひHelpfeelの導入をご検討ください。
まとめ
AIの活用で顧客情報や技術情報などが漏洩すると、企業イメージの低下や損害賠償請求などにつながります。AI利用での情報漏洩を防ぐには、社内ガイドラインの策定やセキュリティ教育の実施などが効果的です。
さらに、社内FAQを設置して社内ナレッジを整備しておくことで、AIの適切な利用を促せます。
本記事を参考に、まずは自社の現状に合わせて取り組みやすい対策から着手し、段階的に情報漏洩対策の体制を整えていきましょう。
