資源簡介

(共22張PPT)
人工智能安全
浙教版九年級上冊
第8課 人工智能安全
學習目標
通過分析人工智能與安全的辯證關系，能理解人工智能既能賦能安 全，又會伴生安全問題；通過學習人工智能內生安全的內容，認識到人 工智能系統的設計、制造和使用等環節須在法律法規、國家政策、倫理 道德、標準規范的約束下進行。
探究
1. -我們熟悉的語音識別或圖像識別在應用中存在哪些安全隱患？
2.人工智能會不會是隱私的泄密者？為什么？
建構
人工智能技術具有安全賦能和安全伴生兩大效應。所謂安全賦能是指人 工智能為保障網絡空間安全、提升經濟社會風險防控能力等方面提供了新手 段和新途徑。
所謂安全伴生是指當人工智能發展到一定階段后，在不斷的應用中發現新的安全問題伴生而來，其安全性將受到更嚴峻的挑戰。
一、人工智能助力安全
在公共安全領域，人工智能依托其強大的數據分析和自主學習能力，可以充分挖掘數據價值，預測預警經濟社會運行中可能存在的潛在風險，在智 能安防監控、惡意代碼檢測、垃圾郵件檢測、用戶實體行為分析等方面發揮 助力安全的作用。
一、人工智能助力安全
1.智能安防監控
安防監控涉及的人工智能技術有智能視頻監控、體態識別與行為預測和能安防機器人等技術。
智能視頻監控能夠將人的各種屬性進行關聯分析與數據挖掘,實現安防監管的實時響應與預警。
一、人工智能助力安全
以往的監控攝像頭把圖像、視頻數據傳輸到服務端后再由服務端進行特定處理，近年來安防行業越來越多的數據和計算從云中 心遷移到攝像頭、傳感器等“邊緣”位置，用以節省帶寬、提升服務響應速度與可靠性。
基于邊緣計算的人臉識別攝像頭能夠直接在本地設備上完成識 別得到相關數據。在深山、礦井、遠海航船等網絡難以覆蓋的地方，搭載邊緣計算的視頻監控系統能夠實時處理數據，及時做出響應，確保安全。
一、人工智能助力安全
2.垃圾郵件檢測
人工智能技術發展的初期，使用規則對垃圾郵件進行檢測。在垃圾郵件的檢測中，當郵件中出現事先指定的一些可能屬于垃圾郵件的詞語時，這封郵件很可能就是垃圾郵件，當郵件里出現網址時，也可能是垃圾郵件。
但隨著規則越來越多，這樣的檢測系統也變得越來越復雜。機器學習算法可以自動地從數據的某些特征中學習它們之間的關系，并且通過對數據的不斷學 習，提升垃圾郵件檢測的能力和性能。
親身體驗
體驗使用貝葉斯分類器算法進行垃圾郵件判定。
二、人工智能內生安全
人工智能可以助力安全，但人工智能系統涉及數據、框架、算法、模 型、運行等多個復雜環節，這些環節都可能導致人工智能系統內在的安全問題。
二、人工智能內生安全
1.數據安全
數據是人工智能的重要基礎。數據集的質量會直接影響人工智能算法的 執行效果。使用不同質量的數據集會在訓練之后得到不同的模型參數，產生 不同的執行效果，進而影響人工智能算法的安全性。
二、人工智能內生安全
數據集的質量取決于數據集的規模、均衡性、準確性等。人為地對數據進行修改在很大程度上能改變人工智能算法的執行效果。即便是已經用高質量數據集訓練完畢的人工智能算法模型，只要對輸入的數據進行一些人 眼無法感知的微小擾動，即可讓算法的輸出產生巨大的變化，這些經過微小擾動的輸入數據就是對抗樣本。
下圖顯示了對抗樣本及其錯誤辨識的結果。
親身體驗
體驗“對抗樣本”對人工智能模型可靠性的影響。實踐內容如下：
1. 準備原始圖片數據和添加噪聲后的圖片數據。
2. 在Keras上使用RexNet分類模型。
3. 查看實驗結果并分析。
二、人工智能內生安全
2.算法安全
如果想保證算法的完全正確，需要從理論上對算法進行證明，證明算法 在任何情況下都能產生正確的結果。
二、人工智能內生安全
3.模型安全
人工智能算法往往需要訓練大量的模型參數，經過訓練之后生成的模型一般以實體文件的形式保存在服務器。如果攻擊者攻擊了云端服務器，利用服務器漏洞獲取模型參數，可能造成嚴重后果。
三、人工智能安全發展
在人工智能涉及的網絡安全、數據安全、隱私保護方面，相關法律法規 條款部分已在現有法律體系中體現。我國目前正在多層面推進數據安全和個人信息保護法律法規的制定，加速完善相關保護和監管準則，對人工智能相 關應用進一步明確監管要求。
隨堂練習
1. 個性化智能推薦已深度應用于新聞信息行業，也廣泛應用于旅游 出行、電子商務、金融服務等行業。智能推薦系統在給人們生活帶來便 利的同時，在實際應用中也暴露出一些安全風險。請結合生活中的應用 體驗，分析智能推薦的風險挑戰，并提出相應的安全監管措施建議。
2. 搜索并學習我國有關人點智能安全方面的政策文件。
謝謝聆聽！
INTERNET OF THINGS
謝謝
21世紀教育網（www.21cnjy.com)
中小學教育資源網站
兼職招聘：
https://www.21cnjy.com/recruitment/home/admin

展開更多......

收起↑