AI LIFE

中小企業の経営者のための、AI活用誌。

毎朝6時に新しい号が出ます。

No.036 5本のトピック読了目安3分文 

社員が勝手にAIを使っていたら?エージェントの危険と止め方、経営者の質問④

経営者からよく出る3つの疑問に答えます。社員の無断利用は「いる前提」で把握し代替を用意する。エージェントの危険は名称より権限で見る。失敗したときの止め方は、止める人・対象・連絡・再開条件を事前に書く。IPAの手引書と情報セキュリティ10大脅威2026が根拠です。

今日の3行

  1. 社員の無断利用いる前提で把握し、禁止だけでなく代わりを用意する
  2. エージェントの危険ラベルより、権限と人の承認で見る
  3. 止め方止める人・対象・連絡・再開を事前のメモに

今日決めること

AIで失敗が起きたときに止める人・止める対象・連絡先・再開の条件を、名前入りで1枚に書く。

今号のテーマ

第3週の締めはQ&Aの④です。経営者からよく出る次の3つの疑問——「社員が勝手に使ってる?」「エージェントは危険?」「失敗したらどう止める?」——を整理します。実在の人の発言としては書きません。

根拠は、IPAの手引書(シャドーAI・権限外操作・サービス停止)と、IPA「情報セキュリティ10大脅威 2026」(2026年1月29日公開)の組織向け3位「AIの利用をめぐるサイバーリスク」(初選出)です。

今日いちばん大事な話1. 社員が会社に無断でAIを使っていたらどうする?

何が起きた

いる前提で把握し、会社が認めた代わりを用意します。IPA手引書は、組織が許可していないAIの利用(シャドーAI)の実態把握を、全社ガバナンスの基本に置いています。禁止だけを強くすると、使い方が隠れるだけになりがちです。

要点

10大脅威の解説書も、職場で許可なくAIを業務利用し、業務データの入力で情報漏えいにつながる可能性に触れています。

  • 禁止だけを先に強くしない(会社が認めたAIがないと、隠れ方が巧くなる)
  • 棚卸しで実態を見る(11/3号)
  • 認めたAIの一覧と、入力禁止を1ページにする

「勝手に使っているか」のYes/Noより、「把握しているか」「代わりを用意しているか」が経営の問いです。

この話の要点

シャドーAIは、いる前提で把握し、代わりとセットで線を引く。

自社でやること

会社が認めたAIの一覧と入力禁止を1ページにまとめ、全員に配ります。

トピック2. AIエージェントは中小企業には危険すぎる?

何が起きた

危険かどうかは、名称ではなく権限で決まります。IPA手引書は、自律性が高まるほど人間の介入なしに外部操作やデータアクセスができ、影響範囲が広がると整理しています。外向きの権限と、人の承認の有無で見ます。

要点

  • 会話だけ:危険の中心は誤情報と入力
  • 社内参照:渡したナレッジの範囲が中心
  • 自動実行:誤送信・権限外・止めにくさが加わる

付与権限外の操作も、手引書の発生被害の類型に入っています。「エージェント=常に危険」「チャット=常に安全」ではありません(11/17号)。

この話の要点

危険視すべきは製品ラベルより、承認なしで外に出る権限があるかどうか。

自社でやること

自動実行をしているAIがあれば、人の承認なしに外へ出る操作がないか確かめます。

トピック3. AIで失敗したときはどう止める?

何が起きた

止める手順を、事故の前に書いておきます。IPA手引書は、深刻な脅威が確認された場合の一時停止や、インシデント時の連絡先・初動をガイドライン例に含めています。誰が・何を止め、誰に連絡し、どうなったら再開するかの4つを、名前入りで決めます。

要点

  • 誰が止めるか(推進役/情シス/社長)
  • 何を止めるか(特定業務、特定ツール、外部連携)
  • 誰に連絡するか(社内、必要なら顧客・委託先)
  • 再開の条件(原因の切り分け、確認者の再設定)

失敗をゼロにすることは約束できません。早く止められる設計が、被害の上限を下げます。

この話の要点

止め方は、事故対応の手順の一部。名前・対象・連絡・再開条件を先に書く。

自社でやること

4項目の停止メモを作り、止める人の名前と代理の名前を書きます。

まとめ

  1. 社員の無断利用:いる前提で把握し、禁止だけでなく代わりを用意する
  2. エージェントの危険:ラベルより、権限と人の承認で見る
  3. 止め方:止める人・対象・連絡・再開を事前のメモに

第3週の道具の話は、選び方だけでなく、止め方まで含めて完了です。

自社の停止メモに、名前は埋まっているか。一緒に確認します。

関連する号

  1. No.035  トピック5本AIツールを乗り換えたくなったら?ベンダーロックインを避けるため契約前に見る3点
  2. No.033  トピック5本AIエージェントは中小企業でも使える?チャット止まりか自動実行かの見極め方
  3. No.022  トピック5本AI推進は誰に任せ、何から始め、いつ止める?経営者からよく出るAIの質問③

お相手するのは、編集長の小畑です

自社でAIをどう使うか、一緒に考えませんか。

現状の業務を伺い、AIで何から始めるかを一緒に整理します。オンラインで20分、大阪市内は対面もできます。

作戦会議を申し込む(無料)

毎朝メールで受け取る

新しい号を、Substackから毎朝メールでお届けします。

メールで購読する