ChatGPTの何が問題？なぜ危険？禁止になる理由は？気になる情報漏洩のリスク
【この記事にはPRを含む場合があります】
ChatGPT（チャットGPT）がとても便利なツールであることは、”わずか2ヶ月で利用者数が1億人を超えた” ことからも推測できます。とくに “仕事の効率化” において、Chat GPTはとても有能なAIツールになると言えるでしょう。
しかし一方で、利用者からは疑問の声も上がり始めています。その理由は、ChatGPTの情報の正確さに疑問を持つケースがあるからです。
ChatGPTが示した情報を、そのまま鵜呑みにしてしまうことは大きなリスクを招きかねません。さらに、ChatGPTの利用に制限を設けている国や企業もあります。
ChatGPTの何が問題なのでしょうか。
そこで今回は、ChatGPTを利用するにあたって知っておかなければならないことや、注意したいリスクについて解説します。
ChatGPTの抱えるリスク・危険性
（出典：OpenAI社 ChatGPT公式サイト）
ChatGPT（チャットGPT）は、とても便利なAIツールです。一度利用したことがある人なら理解できるでしょう。
しかし使い方や、リスクを把握していないととんでもない事態に巻き込まれてしまうケースがあります。
なぜChatGPTの使用が禁じられる？
ChatGPTが収集したデータは、他のユーザーがチャットで質問した時の回答として用いられることがあります。
たとえば、とある会社で新しいプログラムコードを作成。Chat GPTに依頼を行い、デバッグなどについて指摘や修正をおこなったとします。
その結果、新しいプログラムコードがOpenAIのデータベースに記録され、ユーザーが意図せずに新しいプログラムコードを流出させてしまったという事態が発生してしまうのです。
ChatGPTは、”ユーザーが入力したチャットの内容を学習” していきます。
そのため、利用者が増えるほど、ユーザーが入力したチャット情報を元に、より最適な回答をできるようになっていくというメリットがある一方で、色々な内容を記録し活用していくことで、情報の流出などのデメリットも生じているのです。
“ChatGPTのデータ収集を懸念した動き” も出始めています。
たとえば、イタリアではChatGPTが個人データの収集やプライバシーの侵害をしているとし、2023年3月に利用の一時禁止の措置をとるというトラブルもありました。 (※ 同年5月より、ChatGPTの開発元であるOpenAI社が、個人データの収集やプライバシーの侵害について対策を講じたこともあり、利用一時禁止の措置は解除されています。)
日本のように、ChatGPTを歓迎する動きが多い国があるい方で、ChatGPTの利用を禁止としている国（中国やイラン、ロシアなど）もあり、ChatGPTの抱えるリスクとどう付き合うか、検討が求められています。
企業での情報漏れリスク
先述とおり、ChatGPTの回答学習機能によって、企業の機密情報が流出する事例も発生しました。
Amazonでは、実際に、社内の機密プログラムが回答データとして用いられるという事件がありました。
ChatGPTを使う上で気をつけたいのは、Amazonのケースのように、ChatGPTに入力したことが、利用者の意図しないところで流出してしまうリスクがあります。
もちろん現時点でも可能な対策はあります。次の章「ChatGPTを使う前に知っておきたいこと」の中でお伝えしますね。
10万件のChatGPTアカウントが盗まれてダークウェブで取引 ※ 6/30追記 ※
シンガポール拠点のサイバーセキュリティ企業 Group-IB社が、「10万件を超えるChatGPTのアカウントがマルウェアによって盗まれ、ダークウェブで取引されている」と報告しました。
ChatGPTは、AIの応答履歴を保存しているので、アカウントへの不正アクセスによる “機密情報・個人情報の漏えい” につながる可能性があり、注意を促しています。
ChatGPT側のトラブルによる流出ではないですが、マルウェアなどによりChatGPTアカウントの情報を流出してしまうことで、意図せぬ情報の流出につながる可能性があるので、”パスワードを定期的に更新し、アカウントに2要素認証を使用すること” を徹底するとよいでしょう。
ChatGPTを使う前に知っておきたいこと
つぎに、ChatGPTを使っていく上で必要となる知識をお伝えします。
１. ChatGPTについてよくある誤解
ChatGPT（チャットGPT）を利用する際の注意点として、“Chat GPTが生成した情報はすべて正しいとは限らない” という点は押さえておきましょう。
ChatGPTは、開発元のOpenAIが蓄積しているデータを元にユーザーに回答します。Googleなどの検索サイトから情報サーチをしているわけではありません。
またユーザーがチャットに誤った情報を入力した場合も、間違った情報のまま記録されます（ChatGPTは情報が正しいのか、間違っているのかを判断することはできません）。そのため誤った情報が回答として利用されることもあります。
たとえば、これは極端な例ですが、「あるユーザーが日本の総理大臣の名前を誤って入力」したら、「誤った名前のままOpenAIのデータベースに記録されてしまう」ということが起こり得ます。
ChatGPTの回答精度は、この半年の間でもどんどん上がっていますが、「必ずしも回答のすべてが正しいとは限らない」ということは、意識しておきましょう。
２. 自分や会社情報を守るためのルール
ChatGPTを利用する上での注意点・ルールを決めておくことも大切です。
＜ChatGPTでの情報流出を防ぐためのルール＞
- チャット上に “個人情報” は入力しない。
- チャット上に “会社の機密情報” を入力しない。
※ 文書チェックに利用することも危険なので、情報システム部のルールなどを確認した上で、Chat GPTを利用するようにしましょう。 - 生成された内容には間違いが含まれている可能性があると考え、必ず事実確認をする。
上記は一例ですが、情報流出や情報誤認を防ぐために、あらかじめルールを決めて利用すると良いでしょう。
情報が漏れるリスクを減らすにはどうすればいい？
ChatGPTは危険だから利用するのはやめようというのも一つの決断です。しかし、現時点でもできる対策があります。
＜ChatGPTでの情報漏洩リスクを減らすための対策＞
- チャットデータのやりとりをOpenAIのデータベースに残さない設定を行う。
- OpenAIの公式サイトの情報を日々追うようにする。
ChatGPTとのやりとりを、記録させないようにするために、データ履歴の設定方法を変更するといった方法もあります。
データコントロール設定とは何ですか?
データコントロールを使用すると、チャット履歴をオフにして、会話をモデルのトレーニングに使用するかどうかを簡単に選択できます。また、ChatGPT データをエクスポートしてアカウントを完全に削除するオプションも提供されます。
チャット履歴とモデルのトレーニングをオフにするにはどうすればよいですか?
チャット履歴とモデルのトレーニングを無効にするには、ChatGPT > データ コントロールに移動します。履歴が無効になっている間、新しい会話はモデルのトレーニングや改善に使用されず、履歴サイドバーに表示されません。悪用を監視するため、すべての会話は完全に削除されるまで 30 日間保存されます。
OpenAI は私の個人データをどのように使用しますか?
私たちの大規模な言語モデルは、公開されているコンテンツ、ライセンスされたコンテンツ、人間のレビュー担当者によって生成されたコンテンツを含む広範なテキストのコーパスでトレーニングされています。当社は、サービスの販売、広告、人々のプロフィールの構築にデータを使用しません。データは、人々にとってより役立つモデルを作成するために使用されます。たとえば、ChatGPT は、トレーニングを無効にすることを選択しない限り、人々がそれを使用して行う会話をさらにトレーニングすることで改善されます。
OpenAI社公式サイト上にいろんな情報が更新されているので、心配な人は、適宜チェックしながら利用すると安心でしょう。
＞ OpenAI社公式サイトはこちら （※ 英語なので、自動翻訳などを使ってチェックすると良いかもしれません。）
ChatGPTが攻撃に利用される可能性も
なお、チャットデータが悪用されるケースもあります。
ChatGPTとのチャットの中で、無数の誤った情報のやりとりが記録されると、ChatGPTの情報の精度は低下していきます。
いちばんのリスクは、ChatGPTによるマルウェアの生成やハッキングです。コーディングスキルのない人でもChatGPTによるマルウェアの作成が可能となり、脅威になるという懸念があります。
AI がマルウェア作成に使用、WithSecure が観測
サイバーセキュリティの世界では、脅威アクターの手に渡った AI による潜在的な脅威に関して警鐘が鳴り続けています。特に、ChatGPT を通じて作成されるマルウェアは現実のものとなっているようです。
カテゴリ: トレンド、レポート、分析…— Global Security News｜海外セキュリティ記事を自動翻訳 (@CyberSTranslate) May 29, 2023
有能なツールゆえに、悪い意図で悪用されてしまうと、脅威も大きくなります。今後、ChatGPTを悪用しようとする人に対する対策も、必要になってくるんですね。
ChatGPTの安全性の向上に期待
やはり、もっと安全にChatGPTを利用できるようになるとベストです。
Chat GPTの開発元であるOpenAI社では、「ChatGPTの安全性対策の提案」の募集をはじめました。提案が採用された場合、賞金として1400万円が提供されるそうで、採用予定の提案数は10件とのこと。
日々進化を遂げる中で、今後、より安全に有効的にChatGPTを使える未来が期待されます。
ChatGPTを安全に活用できる環境を作ろう！
ChatGPTは、特性やリスクをきちんと把握した上で使えば、非常に頼りになるツールです。
自分や社内で利用のルールを決めたり、情報漏洩対策を行なったりして、適切に活用できる環境を整えてみましょう。
