AIとセキュリティ 制御システム（その8）

更新日 2023-03-01

投稿日 2019-09-26

 


情報マネジメント

 

【制御システム　連載目次】

 

　AIは故障予知、自動車の自動運転などの領域で盛んに技術開発が進んでいますが、セキュリティとの関係はどうなっているのでしょう。

　神戸大学の小澤教授の「セキュリティ分野におけるＡＩ活用の現状と期待」と題する講演を拝聴したことがあるのですが、興味深い内容でした。 講演内容によりますと、サイバー攻撃・防御におけるAI適用という話と、AIの仕組みがサイバー攻撃を受けるという側面があるとのことでした。

　MiraiというDoS攻撃型の兆候を観測していたところ、ダークネットのアクセスには特徴があり、観測期間中にも変化していました。主にＷｅｂシステムでの攻撃手口が高度化、多様化してきており、今後も増大すると見込まれています。

　こうした状況下において、攻撃にAIが使われる、また その反対に攻撃の検知といった防御にAIが活用されるということです。

　防御ということでは、アノマリー検知が知られています。通常の正常状態のネットワークトラフィックを学習しておき、正常と異なるアクセストラフィックを検知して異常状態の可能性を通知するというものです。

　次にAIが攻撃を受けるということですが、最近のクラウドサービスでは機械学習の環境セットが有償で利用できるようになっているので、その機械学習を用いた公開サービスが狙われるわけです。

　これは可能性としてはありそうなことで、公開した後も動的に学習し続けるような仕組み になっていると、おかしな画像データなどをわざと学ばせておかしくさせる...

 


情報マネジメント

 

【制御システム　連載目次】

 

　AIは故障予知、自動車の自動運転などの領域で盛んに技術開発が進んでいますが、セキュリティとの関係はどうなっているのでしょう。

　神戸大学の小澤教授の「セキュリティ分野におけるＡＩ活用の現状と期待」と題する講演を拝聴したことがあるのですが、興味深い内容でした。 講演内容によりますと、サイバー攻撃・防御におけるAI適用という話と、AIの仕組みがサイバー攻撃を受けるという側面があるとのことでした。

　MiraiというDoS攻撃型の兆候を観測していたところ、ダークネットのアクセスには特徴があり、観測期間中にも変化していました。主にＷｅｂシステムでの攻撃手口が高度化、多様化してきており、今後も増大すると見込まれています。

　こうした状況下において、攻撃にAIが使われる、また その反対に攻撃の検知といった防御にAIが活用されるということです。

　防御ということでは、アノマリー検知が知られています。通常の正常状態のネットワークトラフィックを学習しておき、正常と異なるアクセストラフィックを検知して異常状態の可能性を通知するというものです。

　次にAIが攻撃を受けるということですが、最近のクラウドサービスでは機械学習の環境セットが有償で利用できるようになっているので、その機械学習を用いた公開サービスが狙われるわけです。

　これは可能性としてはありそうなことで、公開した後も動的に学習し続けるような仕組み になっていると、おかしな画像データなどをわざと学ばせておかしくさせることができそうです。

　敵対的生成ネットワーク（GAN: Generative Adversarial Networks）というAIの識別能力を高める、鍛えるための仕組みがありますが、これを悪用するとできそうです。GANは内的にはディープニューラルネットワークで構成されているので、フェイク画像をたくさん読み込ませる ことで、学習勾配を変化させ、誤認識率を上げるなど混乱させることができるというわけです。

  　続きを読むには・・・

新規会員登録

この記事の著者

石田 茂

ものづくりの基本は人づくりをモットーに、技術者の持つ力を会社の組織力につなげるための仕組みづくりの伴奏支援を行います。

ものづくりの基本は人づくりをモットーに、技術者の持つ力を会社の組織力につなげるための仕組みづくりの伴奏支援を行います。

「情報マネジメント一般」の他のキーワード解説記事

もっと見る
小売の売上分析 データ分析講座（その87）
小売の売上分析 データ分析講座（その87）

  ◆ 小売の売上分析、2つの指標だけで考える小売業の「データ分析的な戦略」 　実践的なデータ分析・活用の話題です。小売店対象のお話で1店舗...

  ◆ 小売の売上分析、2つの指標だけで考える小売業の「データ分析的な戦略」 　実践的なデータ分析・活用の話題です。小売店対象のお話で1店舗...

ビジネス効率化の鍵、コスト感応学習: リスクとリターンを見極める(その1)：データ分析講座（その361）
ビジネス効率化の鍵、コスト感応学習: リスクとリターンを見極める(その1)：データ分析講座（その361）

【目次】  ▼さらに深く学ぶなら！「データ分析」に関するセミナーはこちら！ ▼さらに幅広く学ぶなら！「分野別のカリキュラ...

【目次】  ▼さらに深く学ぶなら！「データ分析」に関するセミナーはこちら！ ▼さらに幅広く学ぶなら！「分野別のカリキュラ...

データに基づくポリティクスと意思決定 データ分析講座（その171）
データに基づくポリティクスと意思決定 データ分析講座（その171）

  ◆ データに基づくポリティクスと意思決定 　前回もお話しましたが、変化が激しく先々の状況が読めないときほど情報を集め、適切な状況判断...

  ◆ データに基づくポリティクスと意思決定 　前回もお話しましたが、変化が激しく先々の状況が読めないときほど情報を集め、適切な状況判断...

「情報マネジメント一般」の活用事例

もっと見る
‐時代の流れを意識した開発テ－マの設定‐ 製品・技術開発力強化策の事例（その5）
‐時代の流れを意識した開発テ－マの設定‐ 製品・技術開発力強化策の事例（その5）

　前回の事例その4に続いて解説します。時代の流れに沿う開発テ－マとして、最近では、高齢者介護機器、環境関連機器、省エネ機器、情報技術（IT）等に関心が注が...

　前回の事例その4に続いて解説します。時代の流れに沿う開発テ－マとして、最近では、高齢者介護機器、環境関連機器、省エネ機器、情報技術（IT）等に関心が注が...

‐情報収集で配慮すべき事項（第3回）‐ 製品・技術開発力強化策の事例（その11）
‐情報収集で配慮すべき事項（第3回）‐ 製品・技術開発力強化策の事例（その11）

　前回の事例その10に続いて解説します。ある目的で情報収集を開始する時には、始めに開発方針を明らかにして、目的意識を持って行動する必要があります。目的を明...

　前回の事例その10に続いて解説します。ある目的で情報収集を開始する時には、始めに開発方針を明らかにして、目的意識を持って行動する必要があります。目的を明...

既存コア技術強化のためのオープン・イノベーション:富士フイルムの例
既存コア技術強化のためのオープン・イノベーション:富士フイルムの例

　2015年7月20日号の日経ビジネスに、富士フイルムの特集が掲載されました。富士フイルムは、既存コア技術強化のためにオープン・イノベーションを果敢に...

　2015年7月20日号の日経ビジネスに、富士フイルムの特集が掲載されました。富士フイルムは、既存コア技術強化のためにオープン・イノベーションを果敢に...