隣の席の同僚が、取引先とのやり取りをそのままChatGPTに貼り付けて「この返信を丁寧にして」と頼もうとしていた場面に、たまたま居合わせたことがある。
悪気はまったくなく、便利さのあまり「貼り付けて頼む」ことに慣れすぎていたのだと思う。
声をかけて事なきを得たが、この出来事がきっかけで、AIを仕事で使う前に最低限押さえておきたい注意点を自分なりに整理し直した。
「便利だから」が一番の落とし穴
生成AIは、貼り付けた内容をそのまま理解して答えてくれる。
この便利さこそが、個人情報や取引先の情報をうっかり入力してしまう一番の原因になる。
入力した内容がサービス改善に利用される場合があることを踏まえ、氏名・住所・未公開の企画内容・顧客情報などは、貼り付ける前に一呼吸置く癖をつけたい。
「もっともらしい嘘」への耐性をつける
もう一つ怖いのは、AIが事実と異なる内容を自信満々に答えてしまう場合があることだ。
日付・数字・固有名詞など、間違っていたら困る情報は、必ず別の情報源で裏を取る習慣をセットにしておく。
「AIがそう言っていたから」を、対外的な資料の最終的な根拠にしてはいけない。
公開前の「著作権チェック」を忘れない
AIが作った文章や画像をブログやSNSで公開する際は、利用しているツールの規約で商用利用の可否を確認しておく必要がある。
他人の著作物に似た内容が偶然生成される可能性もゼロではないため、公開前に一度自分の目で確認する一手間を惜しまないようにしている。
アカウントの管理は「いつもの基準」で十分
特別なことをする必要はなく、他のサービスと同じパスワードを使い回さない、二段階認証を設定するといった、普段のネットサービス利用と同じ基準を守ればよい。
ただしプログラムを実行できるタイプのツールは、乗っ取られたときの被害が大きくなりやすいため、少し慎重に扱っている。
「頼りすぎ」への自戒
あの日の同僚を見て、自分自身も知らず知らずのうちに「貼り付けて頼む」ことに慣れすぎていないかを振り返るようになった。AIはあくまで相談相手であって、最終的な判断は自分で行うという線引きを、時々思い出すようにしている。
その後、部署内で決めた「たった1つのルール」
あの出来事をきっかけに、部署内で「固有名詞と数字は必ず匿名化してから貼り付ける」という、たった1つだけのルールを共有することにした。
細かい規定をいくつも並べるより、この1行を徹底するほうが実際に守られやすいと感じている。
同僚のその後
声をかけた同僚は、その後もAIを使い続けているが、貼り付ける前に一度読み返す癖がついたと話していた。
使うこと自体を禁止するのではなく、使い方を少し変えるだけで十分に安心して付き合えることを、身をもって示してくれた出来事だった。
まとめ
大きなトラブルの多くは、悪意ではなく「慣れすぎた便利さ」から生まれる。
貼り付ける前の1秒、公開する前の1回の確認——この小さな習慣が、AIと安心して付き合う一番の防御策になる。
コメント