OpenAI公式ガイドから考える「企業のChatGPT導入とAIセキュリティ」
生成AIの企業利用が急速に広がっています。
ChatGPTを全社員へ展開したり、自社サービスへOpenAI APIを組み込んだりする企業も増えてきました。
一方で、DX担当者が注意したいのは、「ChatGPTを使えるようにすること」と「安全に使える環境を作ること」は別の仕事だという点です。
OpenAI自身も、企業向けChatGPTの導入にあたり、ID管理、アクセス権限、データ保持、外部アプリ、APIキー、監視などを事前に設計することを推奨しています。
本記事では、OpenAIが公開している公式ガイドをもとに、ChatGPT導入前に企業のDX担当者が確認すべき10のセキュリティ項目を整理します。
1．ChatGPT Business・Enterpriseでは企業データが学習に使われるのか？
企業がChatGPTを導入するとき、最初に出てくる不安の一つが、
「入力した会社の情報がAIの学習に利用されるのではないか」
という問題です。
OpenAIは、ChatGPT Enterprise、ChatGPT Business、ChatGPT Edu、API Platformなどのビジネス向けサービスについて、組織の入力・出力データをデフォルトではモデルの学習や改善に使用しないと説明しています。
また、ビジネスデータについて、保存時にはAES-256、通信時にはTLS 1.2以上による暗号化を採用しています。
ただし、「学習に使われない」ことと、「どんな機密情報でも自由に入力してよい」ことは同じではありません。
企業側で独自に、入力可能な情報と禁止する情報を決める必要があります。
参考： OpenAI「ビジネスデータのプライバシー、セキュリティ、コンプライアンス」
2．ChatGPT導入前にSSO・SCIMを設定し、AIアカウントを個人任せにしない
OpenAIのEnterprise管理者向けガイドでは、大規模にユーザーを追加する前に、SSOとSCIMなどのID管理を設定することが推奨されています。
SSOを利用すれば、従業員は会社のIDプロバイダーを経由してChatGPTへログインできます。
SCIMを利用すれば、入社、異動、退職などに合わせてユーザーやグループを同期しやすくなります。
社員がそれぞれ個人アカウントを作成し、会社が誰がChatGPTを利用しているのか把握できない状態は避けるべきです。
特に退職者のアカウントが残ったままになれば、企業データへのアクセス権も残る可能性があります。
参考： OpenAI「ChatGPT Enterprise 管理者クイックスタート」
3．ChatGPTのRBACで「誰が何を使えるのか」を最小権限で設計する
全社員へ同じ機能と権限を与える必要はありません。
ChatGPT Enterpriseでは、グループやRBAC（ロールベースアクセス制御）を利用し、役割ごとにアクセス可能な機能を管理できます。
例えば、
- 一般社員
- DX担当者
- 開発者
- 管理者
- 外部委託先
では、必要な権限は異なります。
「利用できるから全員に開放する」のではなく、業務上必要な人だけに必要な機能を与えるという最小権限の考え方が重要です。
4．ChatGPTのMFAだけで安心せず、セッション乗っ取りにも備える
OpenAIではMFA（多要素認証）を利用できます。
しかし、企業のAIセキュリティを考える場合、MFAを有効にしただけで終わりにしてはいけません。
マルウェアによってブラウザ内のセッショントークンが盗まれると、ログイン済み状態が悪用される可能性があります。
そのため、
- 会社PCのEDR導入
- OS・ブラウザの更新
- 不審な拡張機能の制限
- 私物端末からの利用ルール
- 異常ログインの監視
など、端末側のセキュリティも必要です。
またOpenAIでは、不審な利用が疑われる場合に全デバイスのセッションをログアウトさせる機能も提供しています。
5．ChatGPTへ入力できる個人情報・機密情報を企業側で定義する
企業のAI導入で最も重要なルールの一つが、「何を入力してよいのか」です。
例えば、
- 顧客の氏名・住所・電話番号
- 従業員の個人情報
- 契約書
- 未公開決算情報
- 製品開発情報
- ソースコード
- 取引先情報
などについて、「入力可能」「匿名化すれば可能」「入力禁止」を決めておく必要があります。
AI利用規程を作らず、社員一人ひとりの判断に任せることが最も危険です。
AI導入前の業務整理については、以下の記事でも解説しています。
6．ChatGPTのデータ保持期間を決め、必要以上に情報を残さない
企業では、「データを安全に保存すること」だけでなく、「いつまで保存するのか」も重要です。
OpenAIでは、対象となる企業向けサービスでデータ保持に関する管理機能を提供しています。
そのためDX担当者は、
- 会話履歴を何日残すのか
- 法務・監査上必要な期間はどれくらいか
- 退職者のデータをどう扱うのか
- 不要な会話やファイルをいつ削除するのか
を事前に決めておくべきです。
「保存できるから残しておく」のではなく、「必要な期間だけ保持する」というデータ最小化の考え方が重要になります。
7．ChatGPTのアプリ・コネクタ・GPT連携を無制限に許可しない
現在のChatGPTは単体で文章を生成するだけのサービスではありません。
さまざまなアプリや外部データと接続し、情報を読み取ったり、条件によっては操作を行ったりできます。
便利になる一方で、接続先が増えるほど情報の移動範囲も広がります。
OpenAIの管理者向けガイドでも、
- どのアプリを利用できるか
- どのユーザーがアクセスできるか
- 読み取りだけを許可するか
- 書き込み操作まで許可するか
- 第三者サービスとの接続を許可するか
などを管理者が確認する仕組みが提供されています。
AIエージェント時代では、「AIが何を読めるか」だけではなく、「AIが何を変更できるか」まで管理する必要があります。
参考： OpenAI「プラグインとアプリ向けの管理機能、セキュリティ、コンプライアンス」
8．OpenAI APIキーをソースコードやブラウザへ埋め込まない
自社サービスへOpenAI APIを組み込む企業では、APIキー管理が非常に重要です。
OpenAIは公式ガイドで、
- APIキーを共有しない
- メンバーごとに固有キーを利用する
- ブラウザやモバイルアプリへキーを埋め込まない
- GitHubなどのリポジトリへコミットしない
- 安全な環境変数や秘密情報管理を利用する
- キーを定期的にローテーションする
- 利用状況を監視する
ことなどを推奨しています。
APIキーが漏えいすると、第三者が企業の契約を使ってAIを利用し、予期しない高額請求につながる可能性があります。
参考： OpenAI「APIキーの安全性に関するベストプラクティス」
9．ChatGPTの利用ログ・異常なAPI利用・コストを継続監視する
セキュリティ対策は、設定して終わりではありません。
OpenAIではEnterprise向けの利用分析や、API PlatformのUsage Dashboard、Audit Logs APIなど、利用状況を確認するための機能を提供しています。
例えば、
- 普段利用しない時間帯のアクセス
- 急激なAPI利用量の増加
- 異常なコスト増加
- 不要なアプリ連携
- 特定ユーザーによる大量利用
などは確認すべきポイントです。
「AI利用量の急増」はコスト問題だけではなく、アカウントやAPIキーの不正利用を示す兆候である可能性もあります。
10．ChatGPTのインシデント対応手順を導入前に決める
どれだけ対策を行っても、アカウント乗っ取りや情報漏えいのリスクをゼロにすることはできません。
そこで企業には、
- 不審なアクセスを誰が判断するのか
- 誰がアカウントを停止するのか
- 誰が全セッションを無効化するのか
- APIキーを誰が再発行するのか
- 影響範囲をどう調査するのか
- 法務・経営層へいつ報告するのか
- 顧客情報が含まれていた場合にどう対応するのか
といった手順を事前に決めておく必要があります。
「事故が起きてから対応方法を考える」のではなく、AI導入時点でインシデント対応まで設計しておくことが重要です。
企業のChatGPT導入でセキュリティコンサルに何を依頼すべきか
ChatGPT導入時にセキュリティコンサルへ相談する場合、単に「安全かどうか確認してください」と依頼するだけでは不十分です。
少なくとも、
- ChatGPT・生成AI利用状況の棚卸し
- SSO・SCIM・RBAC設計
- AIへ入力可能な情報の分類
- 個人情報・機密情報の管理ルール
- アプリ・コネクタの利用範囲
- APIキー管理
- 端末セキュリティ
- ログ・異常利用の監視
- 退職・異動時のアカウント管理
- インシデント対応訓練
まで確認してもらうことが重要です。
特に、セキュリティ製品の導入だけを提案する会社ではなく、AIを利用する実際の業務まで理解し、DX部門・情報システム・法務・現場を横断して設計できる支援先を選ぶことが重要になります。
まとめ｜OpenAI公式ガイドが示す「ChatGPTを配る前に設計すべきこと」
企業のChatGPT導入というと、どのプランを契約するか、何人に利用させるか、どの業務へ活用するかに注目が集まりがちです。
しかしOpenAIの公式ガイドを見ると、企業導入前に、
- ID
- SSO・SCIM
- 権限
- データ保持
- 外部アプリ
- APIキー
- 監視
- インシデント対応
まで設計することの重要性が分かります。
企業のAI導入は「ChatGPTを利用可能にした日」がゴールではありません。
誰が、どのデータへ、どの権限でアクセスし、事故が起きたときにどう止めるのかまで設計して、初めて企業のAI導入が完成すると考えるべきでしょう。