制御システム(その8) AIとセキュリティ

 


情報マネジメント

 AIは故障予知、自動車の自動運転などの領域で盛んに技術開発が進んでいますが、セキュリティとの関係はどうなっているのでしょう。

 神戸大学の小澤教授の「セキュリティ分野におけるAI活用の現状と期待」と題する講演を拝聴したことがあるのですが、興味深い内容でした。 講演内容によりますと、サイバー攻撃・防御におけるAI適用という話と、AIの仕組みがサイバー攻撃を受けるという側面があるとのことでした。

 MiraiというDoS攻撃型の兆候を観測していたところ、ダークネットのアクセスには特徴があり、観測期間中にも変化していました。主にWebシステムでの攻撃手口が高度化、多様化してきており、今後も増大すると見込まれています。

 こうした状況下において、攻撃にAIが使われる、また その反対に攻撃の検知といった防御にAIが活用されるということです。

 防御ということでは、アノマリー検知が知られています。通常の正常状態のネットワークトラフィックを学習しておき、正常と異なるアクセストラフィックを検知して異常状態の可能性を通知するというものです。

 次にAIが攻撃を受けるということですが、最近のクラウドサービスでは機械学習の環境セットが有償で利用できるようになっているので、その機械学習を用いた公開サービスが狙われるわけです。

 これは可能性としてはありそうなことで、公開した後も動的に学習し続けるような仕組み になっていると、おかしな画像データなどをわざと学ばせておかしくさせることができそうです。

 敵対的生成ネットワーク(GAN: Gen...

 


情報マネジメント

 AIは故障予知、自動車の自動運転などの領域で盛んに技術開発が進んでいますが、セキュリティとの関係はどうなっているのでしょう。

 神戸大学の小澤教授の「セキュリティ分野におけるAI活用の現状と期待」と題する講演を拝聴したことがあるのですが、興味深い内容でした。 講演内容によりますと、サイバー攻撃・防御におけるAI適用という話と、AIの仕組みがサイバー攻撃を受けるという側面があるとのことでした。

 MiraiというDoS攻撃型の兆候を観測していたところ、ダークネットのアクセスには特徴があり、観測期間中にも変化していました。主にWebシステムでの攻撃手口が高度化、多様化してきており、今後も増大すると見込まれています。

 こうした状況下において、攻撃にAIが使われる、また その反対に攻撃の検知といった防御にAIが活用されるということです。

 防御ということでは、アノマリー検知が知られています。通常の正常状態のネットワークトラフィックを学習しておき、正常と異なるアクセストラフィックを検知して異常状態の可能性を通知するというものです。

 次にAIが攻撃を受けるということですが、最近のクラウドサービスでは機械学習の環境セットが有償で利用できるようになっているので、その機械学習を用いた公開サービスが狙われるわけです。

 これは可能性としてはありそうなことで、公開した後も動的に学習し続けるような仕組み になっていると、おかしな画像データなどをわざと学ばせておかしくさせることができそうです。

 敵対的生成ネットワーク(GAN: Generative Adversarial Networks)というAIの識別能力を高める、鍛えるための仕組みがありますが、これを悪用するとできそうです。GANは内的にはディープニューラルネットワークで構成されているので、フェイク画像をたくさん読み込ませる ことで、学習勾配を変化させ、誤認識率を上げるなど混乱させることができるというわけです。

  残り20% 続きを読むには・・・


この記事の著者

石田 茂

ものづくりの基本は人づくりをモットーに、技術者の持つ力を会社の組織力につなげるための仕組みづくりの伴奏支援を行います。

ものづくりの基本は人づくりをモットーに、技術者の持つ力を会社の組織力につなげるための仕組みづくりの伴奏支援を行います。


「情報マネジメント」の他のキーワード解説記事

もっと見る
データ分析講座(その156)グラフを眺めただけの判断は要注意

  ◆ 超簡略版「統計的仮説検定」  ある小売チェーンの例です。例えば、次のような状況はよくあります。 対前年比で売り上げはどうだ...

  ◆ 超簡略版「統計的仮説検定」  ある小売チェーンの例です。例えば、次のような状況はよくあります。 対前年比で売り上げはどうだ...


データ分析講座(その23) 指標から知りたい2つのこと

  ◆ データ分析の事始めは、モニタリング指標(KPIなど)の異常検知  「いつも見ているこの数字、このままで大丈夫なのか、簡単にわから...

  ◆ データ分析の事始めは、モニタリング指標(KPIなど)の異常検知  「いつも見ているこの数字、このままで大丈夫なのか、簡単にわから...


データ分析講座(その212) DXとは

  【この連載の前回へのリンク】 ここ数年「攻めのIT」ということが盛んに言われています。そこに2004年にスウェーデンのウメオ大学のエ...

  【この連載の前回へのリンク】 ここ数年「攻めのIT」ということが盛んに言われています。そこに2004年にスウェーデンのウメオ大学のエ...


「情報マネジメント」の活用事例

もっと見る
情報システム導入企業の悩みとは

        今回は、次の事例から、自社の生産システムにあった生産管理ソフトの選択をどうすべきかを解説します。   1. 想定事例  電...

        今回は、次の事例から、自社の生産システムにあった生産管理ソフトの選択をどうすべきかを解説します。   1. 想定事例  電...


個票データの共用化でコストダウン

 データ解析の効率は、生データとその整理の仕方で大きく異なると言えます。 例えば、アンケート結果は単なる生データであり、そのままでは解析出来ません。解析の...

 データ解析の効率は、生データとその整理の仕方で大きく異なると言えます。 例えば、アンケート結果は単なる生データであり、そのままでは解析出来ません。解析の...


情報、常識の検証を考える

1、勝ち組と負け組を支配する情報  皆さんがご存じの大手予備校有名講師である林先生が、かつてテレビで「情報」に関して興味深いことをおっしゃっており、...

1、勝ち組と負け組を支配する情報  皆さんがご存じの大手予備校有名講師である林先生が、かつてテレビで「情報」に関して興味深いことをおっしゃっており、...