こんにちは、岩﨑将史(まさふみ)です。
AI奮闘記の2回目です。
今回は、AIが作った手順の間違いを、大学生の長男が止めてくれた話です。
10月の後半、Java と Node.js に脆弱性が見つかったというニュースが続きました。
会社のMacはもちろん、家族が使っているMacも、AIと一緒に点検しました。
その途中で、AIの手順が、Mac のシリアル番号を社内の課題管理ツールに貼らせる形になっていたのです。
気づいたのは私ではなく、長男でした。
最終的には、こうです。
シリアル番号は、それだけで何かをされるものではありません。
ただ、ほかの情報と組み合わさると、悪用できてしまう。
だから、チャットやAI、課題管理ツールには貼らない。
家族のMacの点検を、AIに手伝ってもらった
点検のやり方は、こうでした。
- AIが、Java と Node.js のバージョンを調べる確認コマンドを作る
- 家族がそれをターミナルに貼って実行する
- 結果を社内の課題管理ツール（Backlog）のコメントに貼る
- AIが結果を読んで、更新が要るかを判断する
家族の Mac は、私が直接触らなくても点検できます。
手順も、AIが一瞬で作ってくれます。
便利な仕組みです。
ところが、このコマンドには余計なものが入っていました。
Macの機種名を出す命令が、シリアル番号まで一緒に出力していたのです。
つまり手順どおりにやると、シリアル番号が課題管理ツールに残る。
私はこの手順を見ても、何も気にしていませんでした。
長男の一言「すぐには問題にならない。でも…」
長男は、最初の結果を貼るときから、シリアル番号の行を自分で消していました。
そして、何回かやり取りしたあと、こう書いてきました。
macのシリアルナンバーをそのまま貼り付けさせるような運用は考えたほうが良いと思います。
理由を聞くと、要点は2つでした。
- 漏れても、すぐに問題になることはない
- ただし、ほかの情報と組み合わせると、かなり悪用できてしまう
正直に言うと、私にはそこまでの認識がありませんでした。
シリアル番号は、修理やサポートのときに伝える番号。
その程度の感覚です。
指摘を読んで、思わず出た言葉は「よう知っちゅうなぁ〜」。
シリアル番号が、ほかの情報と組み合わさると
まず、安心材料から。
シリアル番号だけで、Macに侵入されたり、遠隔で操作されたりすることはありません。
パスワードやクレジットカードの番号とは、性質が違います。
怖いのは「組み合わせ」です。
名前、メールアドレス、勤め先、持っている機種。
こうした情報と一緒になると、次のような悪用が考えられます。
本物そっくりの詐欺メール
「お使いのMac（シリアル番号 XXXXXXXXXX）の保証が、まもなく切れます」
こんなメールが届いたらどうでしょう。
自分の機器の本物の番号が書いてあれば、つい信じてしまいます。
本物の情報が1つ混ざるだけで、詐欺メールの説得力は一気に上がります。
サポート窓口へのなりすまし
メーカーのサポート窓口では、シリアル番号が機器を特定する手がかりになります。
名前やメールアドレスと揃えば、持ち主のふりをして問い合わせやすくなります。
保証・修理の不正利用
保証期間中の機器のシリアル番号が、部品の注文や保証の請求に悪用されるおそれがあります。
これは、海外のPCメーカーの担当者も注意を呼びかけています。
盗品・中古の転売の偽装
盗まれた機器や、出どころの怪しい中古品。
これを、別の正規品の番号を使って「ちゃんとした品」に見せかける手口も考えられます。
フリマやオークションで、出品者にシリアル番号を聞き出そうとする買い手には注意が必要です。
どれも、シリアル番号1つで完結する手口ではありません。
長男の言う「組み合わせると悪用できる」は、まさにこういうことでした。
うちで変えたこと
指摘を受けて、その日のうちに次の3つを変えました。
- 課題管理ツールのコメントから、シリアル番号を消した
- シリアル番号の記録は、会社の機材台帳（Notion）の1か所だけにした
- AIの確認コマンドから、シリアル番号を出す部分を外した
機材台帳には、保証や修理のためにシリアル番号が要ります。
なので、記録をやめるのではなく、置き場所を1か所に絞りました。
あちこちに散らばっていると、どこから漏れたかも分からなくなります。
シリアル番号が写り込みやすい場所
自分でも気をつけたいので、写り込みやすい場所をまとめておきます。
- 「このMacについて」の画面のスクリーンショット
- 「システム情報」の画面や、そこからコピーした文字
- 箱、保証書、本体の底面を撮った写真
- フリマやオークションの出品写真
- AIやチャットに貼る、コマンドの実行結果
シリアル番号を伝える必要があるのは、基本的にメーカーの公式サポートや、正規の修理店だけです。
SNSやブログにスクリーンショットを載せるときは、番号の部分を隠してから載せるようにしています。
もう1つ：AIは古い Node.js だけを見ていた
同じ点検で、長男にはもう1つ直されています。
長男のMacには、Node.js が2つ入っていました。
古いものと、新しく入れ直したもの。
AIの確認コマンドは、先に見つかる古い方だけを見ていました。
なので、新しい版はちゃんと入っているのに、AIは「まだ古いままです」と判断していたのです。
長男は、確認コマンドで新しい方が呼び出されるように直してくれました。
その結果を見て、AIもやっと「更新は完了です」と判断しました。
ちなみに同じやり取りの中で、AIは Java の最新版の番号も、1つ古いものを案内していました。
AIが見ていた一覧が古かったためです。
AIも間違える。人間も理解と成長が必要
指摘を受けたAIは、こう返してきました。
Backlog に貼らせる手順にしたのは、こちらの不注意でした。
今回、AIは3つ間違えました。
- シリアル番号を貼らせる手順を作った
- 2つある Node.js のうち、古い方だけを見ていた
- Java の最新版を、1つ古く案内した
AIは、手順を一瞬で作ってくれます。
でも、その手順が「何を出力させているか」まで、いつも気を配ってくれるわけではありません。
AIも間違えます。
そして、もう1つ大事なこと。
間違いに気づけるかどうかは、使う側の人間の理解にかかっています。
今回、私はシリアル番号の怖さを分かっていませんでした。
長男がいなければ、そのまま流していたと思います。
AIに任せる範囲が広がるほど、人間の側も理解して、成長していかないといけない。
そう感じた出来事でした。
長男は、AIやセキュリティを専門に学んでくれています。
身近にそういう存在がいるのは、本当に心強いです。
今回はこの辺で。
ではまた。
コメント