AI活用のセキュリティ【リスクと対策ガイド】
AIを安全に活用するには、適切なセキュリティ対策が必要です。
この記事では、AI活用におけるセキュリティリスクと対策を解説します。
1. AI活用のリスク
主なリスク
| リスク | 内容 | 影響度 |
|---|---|---|
| データ漏洩 | 機密情報が外部に送信される | 高 |
| 誤情報 | AIの回答を鵜呑みにする | 中 |
| 著作権侵害 | 生成物の権利問題 | 中 |
| 悪用 | 不正目的での利用 | 高 |
| 依存 | AI頼りになり判断力低下 | 低 |
クラウドAIのリスク
データ送信リスク
- 入力データがサーバーに送信される
- 学習データとして使用される可能性
- サービス提供者がアクセス可能
【考慮すべきデータ】 × 個人情報 × 顧客情報 × 財務情報 × 技術機密 × 契約内容 × 社内人事情報
ローカルLLMのリスク
【主なリスク】 ・不正アクセス（ネットワーク経由） ・内部不正利用 ・設定ミスによる情報漏洩 ・マルウェア感染 【メリット】 ・データが外部に出ない ・オフライン運用可能 ・アクセス制御が容易
2. データ漏洩の防止
クラウドAI利用時
基本ルール
- 機密情報を入力しない
- 個人情報を匿名化してから入力
- 利用規約を確認
- データ利用設定を確認
具体的な対策
匿名化・一般化の例
【匿名化の例】
× 「田中太郎さんの給与は50万円です」
○ 「従業員Aの給与は50万円です」
【一般化の例】
× 「A社との契約金額は1000万円」
○ 「取引先との契約金額について相談」
【抽象化の例】
× 「当社の売上は10億円で...」
○ 「中規模企業の売上について...」入力してはいけないデータ
絶対NG
- 個人情報（氏名、住所、電話番号）
- マイナンバー
- パスワード、認証情報
- クレジットカード情報
- 医療情報
- 犯罪歴
【要注意】 △ 社内機密情報 △ 顧客情報 △ 契約内容 △ 財務データ △ 技術情報
3. ローカルLLMのセキュリティ
ネットワーク対策
【基本設定】 ・ファイアウォールで外部アクセスを遮断 ・VPN経由でのみアクセス許可 ・不要なポートを閉じる
Ollamaの設定例
# ローカルホストのみ許可（デフォルト）
OLLAMA_HOST=127.0.0.1:11434
# 社内ネットワークのみ許可
OLLAMA_HOST=192.168.1.100:11434
# + ファイアウォールで制限アクセス制御
【ユーザー管理】 ・利用者を限定 ・利用ログを記録 ・定期的な棚卸し 【物理セキュリティ】 ・サーバー室への入室制限 ・デバイスの施錠管理 ・持ち出し禁止
オフライン運用
完全オフライン
- ネットワーク未接続で運用
- USBでのモデル更新
- 最も安全な方式
【メリット】 ・外部からの攻撃リスクなし ・データ漏洩リスクなし 【デメリット】 ・更新作業が手間 ・リモート利用不可
4. クラウドAI利用時の注意点
サービス選定
【確認事項】 □ データの取り扱いポリシー □ 学習データへの利用有無 □ データ保存期間 □ セキュリティ認証（ISO27001等） □ データセンターの所在地
主要サービスの設定
各サービスの設定箇所
【ChatGPT】
設定 → Data controls → Chat history & training
→ オフにすると学習に使われない
【Claude】
設定 → Privacy
→ 学習利用の設定を確認
【Gemini】
アカウント設定 → データとプライバシー
→ アクティビティ管理を確認企業向けプラン
メリット
- データが学習に使われない
- SLA（サービス品質保証）
- 管理機能
- コンプライアンス対応
【例】 ・ChatGPT Enterprise ・Claude for Business ・Gemini for Workspace
5. 社内ルールの整備
AI利用ポリシー
【必須項目】 1. 利用目的の定義 2. 利用可能なサービス 3. 入力禁止情報の明確化 4. 出力の取り扱い 5. インシデント報告手順
ポリシー例
AI利用ポリシー（例）
# AI利用ポリシー
## 1. 目的
業務効率化のためのAI活用ルールを定める
## 2. 利用可能サービス
- 社内ローカルLLM（推奨）
- ChatGPT Plus（機密情報不可）
## 3. 入力禁止情報
- 個人情報
- 顧客情報
- 財務情報（詳細）
- 技術機密
## 4. 出力の取り扱い
- 事実確認は必ず行う
- そのまま外部公開しない
- 著作権に注意
## 5. インシデント報告
- 情報漏洩の疑い → 即座にIT部門へ教育・周知
実施事項
- 定期的な研修
- 利用ガイドの配布
- 事例の共有
- Q&Aの整備
6. インシデント対応
想定されるインシデント
| インシデント | 対応 |
|---|---|
| 機密情報の誤入力 | 即座にIT部門に報告 |
| 不正アクセス | ネットワーク遮断、調査 |
| 出力の誤使用 | 訂正、影響範囲確認 |
| サービス障害 | 代替手段の確保 |
対応フロー
【機密情報誤入力時】 1. 利用を停止 2. IT部門に報告 3. 入力内容を記録 4. サービス提供者に削除依頼 5. 影響範囲の確認 6. 再発防止策の検討
報告テンプレート
インシデント報告書
【インシデント報告書】
発生日時：
発見者：
概要：
入力した情報：
利用サービス：
影響範囲：
対応状況：
再発防止策：
7. チェックリスト
導入前チェック
□ 利用目的が明確 □ 利用サービスを選定 □ セキュリティポリシーを確認 □ 社内ルールを整備 □ 教育計画を策定
日常チェック
□ 機密情報を入力していないか □ 出力の事実確認をしたか □ 著作権に問題ないか □ 利用ログを確認
定期チェック（月次）
□ 利用状況の確認 □ インシデントの有無 □ ルールの遵守状況 □ 新たなリスクの確認 □ ポリシーの見直し
8. ローカルLLMの推奨理由
セキュリティ面のメリット
4つのメリット
- データが外部に出ない：入力データは自社内で処理、学習データとして使われない
- オフライン運用可能：ネットワーク攻撃のリスクなし、セキュアエリアでも利用可
- アクセス制御が容易：自社でコントロール可能、利用者を限定できる
- コンプライアンス対応：データの所在が明確、監査対応がしやすい
導入の判断基準
ローカルLLM推奨ケース
- 機密情報を扱う
- 金融・医療・法務分野
- 大量利用
- オフライン環境が必要
クラウドAI許容ケース
- 公開情報の処理
- 試験的な利用
- 少量利用
- 最新機能が必要
9. まとめ
セキュリティ対策の基本
1. 機密情報はクラウドAIに入力しない 2. ローカルLLMを積極的に検討 3. 社内ルールを整備 4. 定期的に見直し
重要ポイント
押さえるべきポイント
- データの取り扱いを明確に
- 教育と周知を徹底
- インシデント対応を準備
- 継続的な見直し
安全なAI活用のために
・リスクを理解した上で活用 ・適切なツール選択 ・ルールの遵守 ・継続的な改善
関連記事