AIとセキュリティ 制御システム(その8)

更新日

投稿日

 


情報マネジメント

 

【制御システム 連載目次】

 

 AIは故障予知、自動車の自動運転などの領域で盛んに技術開発が進んでいますが、セキュリティとの関係はどうなっているのでしょう。

 神戸大学の小澤教授の「セキュリティ分野におけるAI活用の現状と期待」と題する講演を拝聴したことがあるのですが、興味深い内容でした。 講演内容によりますと、サイバー攻撃・防御におけるAI適用という話と、AIの仕組みがサイバー攻撃を受けるという側面があるとのことでした。

 MiraiというDoS攻撃型の兆候を観測していたところ、ダークネットのアクセスには特徴があり、観測期間中にも変化していました。主にWebシステムでの攻撃手口が高度化、多様化してきており、今後も増大すると見込まれています。

 こうした状況下において、攻撃にAIが使われる、また その反対に攻撃の検知といった防御にAIが活用されるということです。

 防御ということでは、アノマリー検知が知られています。通常の正常状態のネットワークトラフィックを学習しておき、正常と異なるアクセストラフィックを検知して異常状態の可能性を通知するというものです。

 次にAIが攻撃を受けるということですが、最近のクラウドサービスでは機械学習の環境セットが有償で利用できるようになっているので、その機械学習を用いた公開サービスが狙われるわけです。

 これは可能性としてはありそうなことで、公開した後も動的に学習し続けるような仕組み になっていると、おかしな画像データなどをわざと学ばせておかしくさせる...

 


情報マネジメント

 

【制御システム 連載目次】

 

 AIは故障予知、自動車の自動運転などの領域で盛んに技術開発が進んでいますが、セキュリティとの関係はどうなっているのでしょう。

 神戸大学の小澤教授の「セキュリティ分野におけるAI活用の現状と期待」と題する講演を拝聴したことがあるのですが、興味深い内容でした。 講演内容によりますと、サイバー攻撃・防御におけるAI適用という話と、AIの仕組みがサイバー攻撃を受けるという側面があるとのことでした。

 MiraiというDoS攻撃型の兆候を観測していたところ、ダークネットのアクセスには特徴があり、観測期間中にも変化していました。主にWebシステムでの攻撃手口が高度化、多様化してきており、今後も増大すると見込まれています。

 こうした状況下において、攻撃にAIが使われる、また その反対に攻撃の検知といった防御にAIが活用されるということです。

 防御ということでは、アノマリー検知が知られています。通常の正常状態のネットワークトラフィックを学習しておき、正常と異なるアクセストラフィックを検知して異常状態の可能性を通知するというものです。

 次にAIが攻撃を受けるということですが、最近のクラウドサービスでは機械学習の環境セットが有償で利用できるようになっているので、その機械学習を用いた公開サービスが狙われるわけです。

 これは可能性としてはありそうなことで、公開した後も動的に学習し続けるような仕組み になっていると、おかしな画像データなどをわざと学ばせておかしくさせることができそうです。

 敵対的生成ネットワーク(GAN: Generative Adversarial Networks)というAIの識別能力を高める、鍛えるための仕組みがありますが、これを悪用するとできそうです。GANは内的にはディープニューラルネットワークで構成されているので、フェイク画像をたくさん読み込ませる ことで、学習勾配を変化させ、誤認識率を上げるなど混乱させることができるというわけです。

   続きを読むには・・・


この記事の著者

石田 茂

ものづくりの基本は人づくりをモットーに、技術者の持つ力を会社の組織力につなげるための仕組みづくりの伴奏支援を行います。

ものづくりの基本は人づくりをモットーに、技術者の持つ力を会社の組織力につなげるための仕組みづくりの伴奏支援を行います。


「情報マネジメント一般」の他のキーワード解説記事

もっと見る
完璧にデータを集めなければならないのか データ分析講座(その220)

  【この連載の前回:データ分析講座(その219)現場感とデータ分析へのリンク】 データ分析・活用を始めようと考えたとき、データ収集から...

  【この連載の前回:データ分析講座(その219)現場感とデータ分析へのリンク】 データ分析・活用を始めようと考えたとき、データ収集から...


高精度な予測モデルが「使えるモデル」とは限らない、データ分析講座(その306)

  高精度な予測モデルが使えるモデルとは限りません。「使えるモデル」とは、ビジネスの現場で使えて、成果をだすモデルです。ビジネスの現場で予...

  高精度な予測モデルが使えるモデルとは限りません。「使えるモデル」とは、ビジネスの現場で使えて、成果をだすモデルです。ビジネスの現場で予...


データサイエンスの基礎体力づくりとは データ分析講座(その278)

  ビジネスの現場でデータ活用するには、現場の事情を知る必要もありますし、現場に寄り添わなければなりません。ただし、データサイエンスの基礎...

  ビジネスの現場でデータ活用するには、現場の事情を知る必要もありますし、現場に寄り添わなければなりません。ただし、データサイエンスの基礎...


「情報マネジメント一般」の活用事例

もっと見る
‐情報収集で配慮すべき事項(第3回)‐  製品・技術開発力強化策の事例(その11)

 前回の事例その10に続いて解説します。ある目的で情報収集を開始する時には、始めに開発方針を明らかにして、目的意識を持って行動する必要があります。目的を明...

 前回の事例その10に続いて解説します。ある目的で情報収集を開始する時には、始めに開発方針を明らかにして、目的意識を持って行動する必要があります。目的を明...


ソフトウェア特許とは(その2)

4.ソフトウェア特許のとり方    前回のその1に続いて解説します。    ソフトウェア特許の取得方法にはノウハウがあります。特許のことを知らない...

4.ソフトウェア特許のとり方    前回のその1に続いて解説します。    ソフトウェア特許の取得方法にはノウハウがあります。特許のことを知らない...


現場のExcel依存に注意しよう

 マイクロソフトの「Excel」は企業の業務遂行にとって欠かせないツールになりました。数字の集計、グラフの作成にとどまらず、作業伝票の発行、作業の管理、資...

 マイクロソフトの「Excel」は企業の業務遂行にとって欠かせないツールになりました。数字の集計、グラフの作成にとどまらず、作業伝票の発行、作業の管理、資...