高江洲勲 / 三井物産セキュアディレクション
■ セッション概要
近年、ディープラーニングをはじめとする様々な機械学習を活用したAIの発展に伴い、日本国内においても顔認証システムや防犯システム、自動運転技術など、様々な分野でAIの社会実装が進んでいます。その一方で、AIに対する攻撃手法も数多く生まれています。例えば、AIへの入力データに微小な変化を加えることでAIの誤認識を誘発するAdversarial Examplesや、AIの学習データを細工することで、AIにバックドアを設置するデータ汚染、そして、AI開発に使用するフレームワークの機能を悪用することで、AIが稼働するシステムを乗っ取る攻撃など、様々な脅威が存在します。このため、AIを防御する技術の確立が急務となりますが、AIに対する攻撃手法は既存システムに対する攻撃手法とは根本的に原理が異なるものが多く、従来のセキュリティ技術のみで対策することは困難であり、AI特有の防御技術の理解が必要です。そこで本セッションでは、「AIセキュリティ超入門」と題し、AIに対する攻撃手法のメカニズムと、AIを攻撃から守る技術を幅広く・分かり易く解説します。
■ 公式サイト #linedevday
https://linedevday.linecorp.com/2020/ja/sessions/2389
■ Category
Security
Comments