製品活用ヒント集
ChatGPTが抱えるリスク
前回は日本国内の生成AIの開発や、活用例を取り上げました。今回は生成AIシリーズの最終回として、ChatGPT利用時のリスクを紹介します。
■生成AIシリーズ
・ChatGPTなど今年話題の生成AIを探る
・ChatGPTで別れる諸外国の対応
・ChatGPTをめぐる最近の動向を紹介
ハルシネーション（幻覚）
一見正しく見えるものの、事実ではない情報を生成することです。生成AIは基本的に情報の真偽を判定する機能がないため、もっともらしく見えても偽の情報が含まれることがあります。
実際に、存在しない商品や作品、人物の経歴を出力する例が報告されています。ChatGPTはインターネット上のデータを大量に学習していますが、Web上にあまり情報がない分野はこうした現象が起きやすいようです。
将来的には生成AIの学習データの多くを、それ以前の生成AIの出力データが占めるかもしれません。これを繰り返すとデータが劣化し、最終的にモデルの崩壊が起きるという問題が「再帰の呪い」論文で指摘されています。
情報漏えい
サービスによっては入力した情報をAIの学習に使うことがあるので、公開前の情報や個人情報の入力は避けたほうがよいでしょう。
サムスン電子社では、社員が機密にあたるソースコードや会議を文字起こししたデータをChatGPTに入力したことが分かりました。発覚後は情報流出につながる恐れがあるとして、生成AIサービスの社内利用を禁止しています。
支援サービスの紹介
ここまで4回にわたって生成AIの仕組みや国内外の動向、そのリスクを見てきました。ChatGPTが公開されて以来、AIの脅威や利便性が大きく取り上げられてきましたが、AIはあくまでもツールであり、ツールを使うことよりもそれで何をするかという戦略の策定が重要です。
自社での取り組みが難しい場合、第三者の手を借りることもご検討ください。弊社はコンサルティングから開発支援、教育、製品サポートまでワンストップで対応できます。
参考資料
・日本経済新聞「生成AIのリスクとは 誤情報拡散や情報漏洩が課題」
・日経クロステック（xTECH）「生成AIのデータがインターネットを汚染、基盤モデルを崩壊させる「再帰の呪い」」
・PC Watch「Samsung、ChatGPTの社内利用で3件の機密漏洩」
・Forbes JAPAN「サムスン、ChatGPTの社内使用禁止 機密コードの流出受け」
