AIとセキュリティ 制御システム(その8)

更新日

投稿日

 


情報マネジメント

 

【制御システム 連載目次】

 

 AIは故障予知、自動車の自動運転などの領域で盛んに技術開発が進んでいますが、セキュリティとの関係はどうなっているのでしょう。

 神戸大学の小澤教授の「セキュリティ分野におけるAI活用の現状と期待」と題する講演を拝聴したことがあるのですが、興味深い内容でした。 講演内容によりますと、サイバー攻撃・防御におけるAI適用という話と、AIの仕組みがサイバー攻撃を受けるという側面があるとのことでした。

 MiraiというDoS攻撃型の兆候を観測していたところ、ダークネットのアクセスには特徴があり、観測期間中にも変化していました。主にWebシステムでの攻撃手口が高度化、多様化してきており、今後も増大すると見込まれています。

 こうした状況下において、攻撃にAIが使われる、また その反対に攻撃の検知といった防御にAIが活用されるということです。

 防御ということでは、アノマリー検知が知られています。通常の正常状態のネットワークトラフィックを学習しておき、正常と異なるアクセストラフィックを検知して異常状態の可能性を通知するというものです。

 次にAIが攻撃を受けるということですが、最近のクラウドサービスでは機械学習の環境セットが有償で利用できるようになっているので、その機械学習を用いた公開サービスが狙われるわけです。

 これは可能性としてはありそうなことで、公開した後も動的に学習し続けるような仕組み になっていると、おかしな画像データなどをわざと学ばせておかしくさせる...

 


情報マネジメント

 

【制御システム 連載目次】

 

 AIは故障予知、自動車の自動運転などの領域で盛んに技術開発が進んでいますが、セキュリティとの関係はどうなっているのでしょう。

 神戸大学の小澤教授の「セキュリティ分野におけるAI活用の現状と期待」と題する講演を拝聴したことがあるのですが、興味深い内容でした。 講演内容によりますと、サイバー攻撃・防御におけるAI適用という話と、AIの仕組みがサイバー攻撃を受けるという側面があるとのことでした。

 MiraiというDoS攻撃型の兆候を観測していたところ、ダークネットのアクセスには特徴があり、観測期間中にも変化していました。主にWebシステムでの攻撃手口が高度化、多様化してきており、今後も増大すると見込まれています。

 こうした状況下において、攻撃にAIが使われる、また その反対に攻撃の検知といった防御にAIが活用されるということです。

 防御ということでは、アノマリー検知が知られています。通常の正常状態のネットワークトラフィックを学習しておき、正常と異なるアクセストラフィックを検知して異常状態の可能性を通知するというものです。

 次にAIが攻撃を受けるということですが、最近のクラウドサービスでは機械学習の環境セットが有償で利用できるようになっているので、その機械学習を用いた公開サービスが狙われるわけです。

 これは可能性としてはありそうなことで、公開した後も動的に学習し続けるような仕組み になっていると、おかしな画像データなどをわざと学ばせておかしくさせることができそうです。

 敵対的生成ネットワーク(GAN: Generative Adversarial Networks)というAIの識別能力を高める、鍛えるための仕組みがありますが、これを悪用するとできそうです。GANは内的にはディープニューラルネットワークで構成されているので、フェイク画像をたくさん読み込ませる ことで、学習勾配を変化させ、誤認識率を上げるなど混乱させることができるというわけです。

   続きを読むには・・・


この記事の著者

石田 茂

ものづくりの基本は人づくりをモットーに、技術者の持つ力を会社の組織力につなげるための仕組みづくりの伴奏支援を行います。

ものづくりの基本は人づくりをモットーに、技術者の持つ力を会社の組織力につなげるための仕組みづくりの伴奏支援を行います。


「情報マネジメント一般」の他のキーワード解説記事

もっと見る
データサイエンスに求められるプレゼンテーションスキルとは:データ分析講座(その319)

  伝わらなければ意味はない。なぜなら、伝わらなければ、理解されないし、信用もされないし、一緒に何かをやろうともならないからです。ビジネス...

  伝わらなければ意味はない。なぜなら、伝わらなければ、理解されないし、信用もされないし、一緒に何かをやろうともならないからです。ビジネス...


筋のいいテーマを選んでいないとは データ分析講座(その134)

◆ データ分析:PoC(実証実験)貧乏  日本ではいまだ大企業神話が根強いようですが、AI(人工知能)/データサイエンスの世界も同様です。一方で、人...

◆ データ分析:PoC(実証実験)貧乏  日本ではいまだ大企業神話が根強いようですが、AI(人工知能)/データサイエンスの世界も同様です。一方で、人...


データ分析と収穫逓減の法則と果汁理論 データ分析講座(その267)

  収穫逓減とは、例えば「農業において、一定面積からの一人当たりの収穫が、労働力の追加的投下によってしだいに減少する」という現象を表現した...

  収穫逓減とは、例えば「農業において、一定面積からの一人当たりの収穫が、労働力の追加的投下によってしだいに減少する」という現象を表現した...


「情報マネジメント一般」の活用事例

もっと見る
ソーシャルメディアデータの解析事例:異分野研究から得られる共通した目的とは

 2020年、コロナウィルス感染の問題が大きくなり始めた頃、少人数の開催ということで、ソーシャルメディアデータ解析を専門にされている先生の講演会を聞く...

 2020年、コロナウィルス感染の問題が大きくなり始めた頃、少人数の開催ということで、ソーシャルメディアデータ解析を専門にされている先生の講演会を聞く...


中小企業のセキュリティ対策を考える

◆ 企業の情報セキュリティと新型コロナウィルス対策の今  先日、駅のプラットフォ-ムで並んでいる時に、控えめに咳をしたら、前に並んでいた人にすかさず...

◆ 企業の情報セキュリティと新型コロナウィルス対策の今  先日、駅のプラットフォ-ムで並んでいる時に、控えめに咳をしたら、前に並んでいた人にすかさず...


‐時代の流れを意識した開発テ-マの設定‐  製品・技術開発力強化策の事例(その5)

 前回の事例その4に続いて解説します。時代の流れに沿う開発テ-マとして、最近では、高齢者介護機器、環境関連機器、省エネ機器、情報技術(IT)等に関心が注が...

 前回の事例その4に続いて解説します。時代の流れに沿う開発テ-マとして、最近では、高齢者介護機器、環境関連機器、省エネ機器、情報技術(IT)等に関心が注が...