資源簡介

(共52張PPT)
第2單元 第1課
神經網絡與深度學習
（清華大學版）八年級
下
1
核心素養目標
3
新知講解
5
拓展延伸
7
板書設計
2
新知導入
4
課堂練習
6
課堂總結
課后作業
8
01
核心素養目標
信息意識
計算思維
數字化學習與創新
信息社會責任
神經網絡和深度學習在提升技術效能的同時，需要樹立正確的信息倫理觀和社會責任感，確保技術的健康發展。
深度學習課程促進了數字化學習工具和資源的創新，能夠運用個性化學習和智能化學習方式改進學習效率和開拓創新思維。
通過學習神經網絡與深度學習，能夠掌握問題的建模、分解及求解過程，提升抽象和結構化思考問題的能力。
能夠培養對信息技術發展的敏感性，意識到技術變革帶來的機遇與挑戰，理解信息技術在現代社會中的作用。
02
新知導入
本單元你將學習：
什么是神經網絡和深度學習
什么是卷積神經網絡
怎樣訓練深度神經網絡模型
如何評估與部署模型
02
新知導入
近年來，人工智能技術不斷發展，深度學習作為一種基于人工神經網絡的機器學習方法，在許多領域取得了突破性的進展，尤其在計算視覺領域，深度學習顯示出了顯著的優勢。
02
新知導入
2014年，人工智能在人臉識別方面的準確率首次超過人眼；2015年，微軟亞洲研究院視覺計算組開發的計算機視覺系統，在 ImageNet 大規模視覺識別挑戰賽(ImageNet Large ScaleVisual Recognition Challenge，ILSVRC)中首次超越人類進行對象識別分類的能力。之后，人工智能受到前所未有的重視，人工智能產業進入了快速發展階段。
02
新知導入
你知道機器識別的應用有哪些嗎 它給我們的生活學習帶來了哪些影響 請將所了解的信息填在下表中。
學習熱身
02
新知導入
你知道嗎
科學家發現，當圖像進入哺乳動物大腦的視覺皮層時，神經元都會將它們拆分成一系列形狀組合。這一發現為人工智能研究提供了兩個思路：一個是每個神經元只需要對視野的局部進行感知，然后將局部信息綜合起來得到全局信息；另一個是用多個不同功能的神經元對圖像進行多次檢測。
卷積神經網絡模仿生物的視知覺機制，利用卷積運算對圖像進行特征提取，是深度學習的代表算法之一。
02
新知導入
本課中你將學習：
單層感知機模型包括哪些基本結構
多層感知機的基本原理是什么
全連接神經網絡的應用有哪些
深度學習的優勢有哪些
深度神經網絡的開發框架和工具有哪些
02
新知導入
線性回歸模型在預測簡單關系(如根據腳長預測身高)時表現良好，但在面對自然界的復雜關系(如看圖識物、下圍棋、自動駕駛等)時則顯得力不從心。科學家為處理復雜的輸入、輸出關系進行了大量的嘗試，設計了多種機器學習的算法，如非線性回歸、支持向量機和神經網絡等，其中神經網絡能夠很好地表示復雜的物理變量關系。本節課，我們將從介紹神經網絡的起源出發，帶領同學們逐步了解深度神經網絡模型強大的預測能力。
02
新知導入
03
新知講解
一、人工神經網絡的起源
20 世紀初期，科學家就已經知道人類的大腦有超過 800 億個神經元，神經元的工作機制是當外部刺激達到一個值時，神經元會向下一個神經元發出信號。當時很難解釋，為什么大量功能單一的神經元連在一起就能形成思維和智慧。
03
新知講解
1943年，美國神經生理學家沃倫·麥卡洛克(WarrenMcCuloch)和數學家沃爾特·皮茨(Walter Pitts)合作，提出了“M-P 模型”，證明了簡單的神經元模型可以通過相互連接和組合實現復雜的邏輯功能，并提出了“人工神經網絡”這一概念，如圖 2.1.1所示。
03
新知講解
二、人工神經網絡的發展
“M-P模型”的提出在當時并沒有引起人們的重視，直到 1957年弗蘭克·羅森布拉特(Frank Rosenblatt)設計了感知機模型，這才引發了一次人工智能領域的研究熱潮。感知機模型是第一個具有學習能力的神經網絡,羅森布拉特還造出了第一臺硬件感知機“Mark-1”，如圖 2.1.2 所示，它經過學習后能識別出英文字母。
03
新知講解
1.單層感知機
羅森布拉特設計的感知機只有一層，也稱單層感知機。單層感知機的成功引發了聯結主義的興起。但不久之后，人工智能奠基人之一的馬文·明斯基(Marvin Lee Minsky)和麻省理工學院的西蒙·派珀特(Seymour Papert)從數學和邏輯上證明了單層感知機的重大局限--只能解決“線性可分”問題。
03
新知講解
明斯基還認為，雖然通過多層感知機可以解決非線性可分的問題，但連接數量太多會導致無法訓練，研究兩層乃至更多層的感知機是沒有價值的。這一論斷引發了連鎖反應，給人工智能的發展帶來了沉重的打擊。
03
新知講解
閱讀
線性可分與線性不可分是機器學習中劃分數據集的兩個術語。線性可分指數據集存在一個線性邊界，使所有屬于一個類的數據點都位于這個邊界的一側，而所有屬于另一個類的數據點都位于另一側。如圖2.1.3(a)所示，假設有兩類數據點散布在二維平面上，一類是圓點，另一類是叉點。
03
新知講解
閱讀
如果能找到一條直線，把兩類數據分開，那么這個數據集是線性可分的:相反，如果找不到這樣的直線，那么該數據集被視為線性不可分。如圖2.1.3(b)所示，某些圓點被包圍在由叉點形成的圈中，找不到一條單一的直線將它們完全分開，所以這個數據集是線性不可分的。
03
新知講解
2.多層感知機
因為明斯基對感知機的論斷，神經網絡被打入冷宮，所有“以機器模擬大腦結構”的研究被視作異端，只剩下少數人還在堅持。1986年，杰弗里·辛頓(Geoffrey Hinton)教授發現可以通過特定算法(誤差反向傳播)對多層神經網絡進行訓練，有效地解決更為復雜的非線性問題，人工神經網絡逐步從單層走向了多層。
03
新知講解
如圖 2.1.4 所示，在單層感知機模型的基礎上增加了多個隱藏層，形成了多層感知機(multilayer perceptron，MLP)模型，也稱為多層神經網絡。正如明斯基的論斷，隨著隱藏層的增加，神經網絡的非線性表達能力將得到大大增強。
03
新知講解
探 索
單層感知機增加若干隱藏層就組成了多層感知機，既然多層感知機能解決這么多的問題，為什么不采用“多多益善”的思路，建構模型的時候盡可能多添加隱藏層 模型的隱藏層增多會導致哪些問題
梯度消失與爆炸：深層網絡可能會遇到梯度消失或梯度爆炸的問題，導致模型難以訓練。
難以調試和優化：層數過多的網絡往往更加難以調試，訓練時更容易出現問題，需要更多的技術和經驗去優化。
03
新知講解
3.全連接神經網絡
全連接神經網絡是一種由多層感知機構成的基本網絡結構，可以處理更復雜的問題。例如身高推斷模型，如果把“每天鍛煉身體的時間”“飲食健康程度”“父母身高”等因素都加入數據集，那么多項式回歸算法無法完成這個任務，但全連接神經網絡依然能出色完成任務。此外，全連接神經網絡能同時適用于分類任務和回歸任務，這就有點兒像“一招應萬變”的必殺技。
03
新知講解
機器學習中也有個算法叫做多層感知機，其實就是全連接神經網絡。BaseNN(搭建簡單神經網絡的工具)和BaseML兩個工具都提供了搭建多層神經網絡模型的功能。以輸入4個變量推斷身高的回歸模型訓練為例，用這兩個工具搭建全連接神經網絡的參考代碼分別如表 2.1.1所示。
03
新知講解
表2.1.1所示兩段代碼都能搭建一個輸入維度為4，輸出維度為1，隱藏層數量為2的全連接神經網絡，如圖 2.1.5所示。
03
新知講解
使用這一網絡，能夠實現對多個輸入變量進行訓練，并得到可預測結果的模型。但要搭建更加復雜的神經網絡，只能用BaseNN。若使用這個神經網絡來做分類任務，則需要將“model= nn('eg' )”修改為“model = nn('cls')”，并相應調整輸出維度。其中“reg”指代回歸任務，“cls”指代分類任務。
03
新知講解
使用身高數據集訓練這個神經網絡，會得到神經網絡的各個神經元之間連接的“權重”。我們通常說的“模型”，實際上包含神經網絡的結構和訓練得到的“權重”數據。為了更好地理解神經網絡，下面我們結合圖 2.1.5，對常見的專業名詞做一下介紹。
神經元。圖中的每一個圓圈表示一個神經元。
層。圖中每一列都表示一層，除去輸入層和輸出層，這個圖中有兩個隱藏層。在 BaseNN 中,“model.add( )”用來增加層,“layer='Linear”表示線性層，后面我們還會學到更多的層。“size=(10,5 )”表示隱藏層的輸入維度是 10，輸出維度是5。
03
新知講解
參數。所有神經元之間的連接線就是參數，參數中包含“權重”。模型搭建好后，參數是隨機的，訓練模型實際上是在“找”合適的參數。
激活函數。激活函數用來模擬神經元控制繼續傳遞信號的方式，可以看成是一個if語句，若符合條件則向下一個神經元輸出信號。常見的激活函數有 Sigmoid、Tanh、ReLU 和Sofmax等，對于分類模型來說，最后一層用的都是 Sofmax。
03
新知講解
三、從淺層學習到深度學習
雖然辛頓等人提出的誤差反向傳播算法給神經網絡研究注入了新的希望，但是沒有直接促成聯結主義研究的復興。人們之所以不愿意研究具有更多隱藏層的神經網絡，背后的重要原因之一依然是隱藏層數量增加會帶來更高的訓練難度和更大的訓練數據需求。這種困局持續了 20 年才得到改變。
03
新知講解
1.深度學習的提出
2006 年，辛頓等人發表了論文《通過神經網絡進行數據降維處理》在論文中，辛頓提出了“深度學習”的概念，第一次清晰地說明了深度學習相對于傳統淺層學習(指隱藏層少的神經網絡)的價值和優勢。深度學習是指利用深度神經網絡技術進行機器學習的一種過程，而深度神經網絡是指擁有多個隱藏層的神經網絡，如多層感知機。
03
新知講解
深度學習的最大優勢是什么 簡而言之，神經網絡可以在學習過程中逐層自主提取數據特征。我們已經知道，在傳統的機器學習中選取特征是關鍵。比如，訓練身高推斷模型時，選擇了興趣愛好、皮膚顏色、頭發長短等特征，再好的算法也將束手無策。因此，機器學習能否成功依賴于人工分析是否準確。
03
新知講解
如果要讓機器分辨圖像中的動物是貓還是狗呢 按照人工分析數據提取特征的老辦法顯然行不通，因為在圖像中尋找特征(貓和狗的區別)非常困難。但是，深度神經網絡可以在訓練過程中自動提取圖像、語音和文本中的有效特征，甚至效果比人工分析還要好。這一優勢對于機器學習來說非常顯著，如圖 2.1.6 所示。
03
新知講解
有了深度學習的理論基礎之后，研究人員開始不斷挖掘深度學習的價值。2012 年多倫多大學開發的 AlexNet 網絡模型在著名的ImageNet 大規模視覺識別挑戰賽中奪冠，僅僅8層就遠超第二名，展現出了超越傳統機器學習算法的性能。此后，基于深度學習的系統在圖像分類上的錯誤率持續下降(見圖 2.1.7)，其識別能力已超越人類。
03
新知講解
各種深度神經網絡結構也不斷涌現(如卷積神經網絡、循環神經網絡、殘差網絡等)，深度學習能解決的任務也越來越多，在模式識別、自動控制、生物、醫學、經濟等領域成功解決了大量難題。在通用并行計算平臺(如CUDA)的支持下，深度學習訓練模型的速度也在加快。目前，深度學習已經成為人工智能最重要的研究方向。2014年，生成對抗網絡(GAN)的出現開啟了生成式人工智能的新時代。
03
新知講解
探 索
深度學習的巨大優勢背后，需要哪些技術的支持 請談談深度學習與大數據技術、機器高速運算能力的關系。
大數據技術：深度學習模型需要大量的訓練數據來實現較高的準確率。大數據技術提供了有效存儲、處理和管理海量數據的能力，支持深度學習訓練。
機器高速運算能力：深度學習模型需要大量的計算資源來訓練復雜的網絡結構。GPU（圖形處理單元）和TPU（張量處理單元）等硬件加速器提供了并行計算能力使得訓練過程能夠在合理的時間內完成。
03
新知講解
探 索
深度學習的巨大優勢背后，需要哪些技術的支持 請談談深度學習與大數據技術、機器高速運算能力的關系。
云計算：云計算技術能夠提供彈性計算資源，支持深度學習模型的訓練和部署，尤其是當數據和計算需求大時，云平臺能夠提供必要的資源支持。
優化算法：深度學習需要高效的優化算法，如反向傳播算法及其變種（如Adam），以確保在大規模數據和參數空間中能夠快速收斂。
03
新知講解
探 索
深度學習的巨大優勢背后，需要哪些技術的支持 請談談深度學習與大數據技術、機器高速運算能力的關系。
深度學習能夠從大量數據中提取有效特征，表現出強大的學習能力，但這種能力依賴于海量的標注數據。沒有大數據技術的支持，深度學習無法獲得足夠的數據來訓練模型。
03
新知講解
2.深度學習的開發工具
很多編程工具都支持深度學習開發。由于具有開源和易用的特點，Pyton語言成為人工智能編程的首選語言。它擁有多個人工智能開發框架和工具包，如 TensorFlow、Keras、PaddlePaddle和 PyTorch 等，如表2.1.2 所示。
03
新知講解
TensorFlow 和 PyTorch 是迄今為止最受用戶歡迎的兩個 AI開發框架，都擁有豐富的編程接口、廣闊的用戶群體，目前廣泛用于學術研究和商業應用。Keras 降低了 TensorFlow 的開發門檻，更適合初學者。PyTorch也支持 Keras，并且出現了 FastAI以及 OpenMMLab 等工具，同樣擁有大量的用戶。2022 年 12月，上海人工智能實驗室浦育團隊基于OpenMMLab 開發了 MMEdu，為初學者快速入門深度學習提供了低技術門檻的開發工具。
03
新知講解
鳶尾花雖然常見但品種很多，只有資深的花農才能辨別。1936年英國統計學家、生物學家羅納德·費希爾(Ronald Fisher)在加拿大加斯帕半島上，測量了一批有三個種類的鳶尾花，形成了一個鳶尾花數據集。該數據集包含150個數據樣本，分為3類(Iisversicolor、Inisselosa和Iis viginica )，每類有50個數據，每個數據包含4個屬性(花萼長度、花萼寬度、花瓣長度和花瓣寬度)，如圖2.1.8所示。
挑戰
03
新知講解
請以小組為單位，使用多層種經網絡訓練模型，實現對鳶尾花的分類。核心實踐內容包括：
(1)用 BaseNN搭建多層神經網絡。
(2)載入數據集，訓練模型并測試。
(3)進一步思考：使用類似的網絡結構訓練身高推斷模型，能否得到不錯的準確度
挑戰
04
課堂練習
一、選擇題
1、卷積神經網絡（CNN）的核心優勢在于：
A.具有較強的并行計算能力 B.能處理序列數據的時序關系
C.在圖像數據上有很好的特征提取能力 D.不需要大量數據訓練
2、以下哪種神經網絡適合處理時間序列數據？
A.卷積神經網絡（CNN） B.循環神經網絡（RNN）
C.前饋神經網絡（FNN） D.自編碼器（Autoencoder）
3、在GAN（生成對抗網絡）中，生成器的作用是：
A.生成真實數據 B.生成偽造數據并與真實數據進行對比
C.判斷數據的真實性 D.提供標簽給判別器
C
B
B
04
課堂練習
4、在深度學習中，反向傳播算法主要用于：
A.優化模型的超參數 B.執行卷積操作
C.初始化神經網絡的權重 D. 計算損失函數的梯度并更新權重
二、判斷題
1、深度學習模型的訓練過程中，通常需要大量的標注數據。（ ）
2、強化學習中的目標是最大化獎勵，并通過探索與利用來獲得最優策略。（ ）
3、卷積神經網絡（CNN）不適用于處理圖像數據。（ ）
4、激活函數的主要作用是引入非線性，使神經網絡能夠學習復雜的函數。（ ）
D
√
√
X
√
04
課堂練習
三、操作題
使用PyTorch實現一個簡單的前饋神經網絡，并在CIFAR-10數據集上進行訓練。請提供代碼示例。
05
拓展延伸
可解釋性AI
可解釋性AI（XAI）是指能夠讓人類理解和解釋AI模型的決策過程的技術。這一領域的目標是使得復雜的黑箱模型（如深度學習、集成學習等）能夠被解釋和理解，增強人類對AI系統的信任和控制。
符合法規要求：某些行業（例如金融、醫療）有對決策過程透明性的要求。可解釋性AI能夠幫助這些領域滿足監管和合規的要求，確保AI決策符合倫理標準。
增強對復雜問題的理解：在醫學、法律等領域，通過可解釋性AI，專家可以理解模型如何得出某個結論，有助于專家驗證AI建議的有效性，從而做出更有根據的決策。
05
拓展延伸
生成對抗網絡（GANs）
生成對抗網絡（GANs，Generative Adversarial Networks）是一種深度學習模型，由兩部分組成：生成器（Generator）和判別器（Discriminator）。這兩者通過“對抗訓練”互相競爭，不斷優化以產生創新性內容。通過對抗訓練生成創新性圖像、音頻等，推動創造性應用的開發。
05
拓展延伸
邊緣計算與深度學習結合
邊緣計算（Edge Computing）指的是數據在離數據來源設備更近的地方（即“邊緣”）進行處理，而不是傳送到遠程的數據中心進行處理。這種方式減少了延遲、帶寬壓力和隱私泄露的風險，尤其在需要實時反應和快速決策的應用中非常有用。
深度學習是指通過神經網絡等算法進行數據處理和模式識別的技術，廣泛應用于圖像識別、自然語言處理、語音識別等任務。
05
拓展延伸
邊緣計算與深度學習結合案例
智能家居：在智能家居設備中，深度學習模型能夠在本地邊緣設備（如智能攝像頭、門鎖等）上進行圖像識別和語音識別，無需將所有數據上傳到云端。這不僅提升了處理效率，還保證了用戶的隱私。
工業物聯網（IIoT）：在制造業中，邊緣計算與深度學習結合可以實時分析設備的運行數據，預測設備故障并進行維護，從而減少停機時間并提升生產效率。
06
課堂總結
1
引入新知內容
神經網絡與深度學習
2
進行需求分析和分工合作
3
完成規劃實施和評價交流
4
完成課堂練習
5
進行知識拓展
1
2
3
4
5
07
板書設計
神經網絡與深度學習
1、進行新知引入
2、進行需求分析和分工合作
3、完成規劃實施和評價交流
4、完成課堂練習
5、進行知識拓展
課后作業。
1、深度學習板塊的現實應用。
2、學習總結。
08
課后作業
1、選擇一個深度學習框架（如TensorFlow或PyTorch），實現一個簡單的循環神經網絡，用于處理文本數據（如情感分析或文本生成），并撰寫實驗報告。
2、總結本課所學內容。
https://www.21cnjy.com/recruitment/home/fine

展開更多......

收起↑