第五章、联想记忆-WelcometoCILAB.ppt

第五章 聯想記憶 5.1 簡介 (1) 在大腦中可以找到聽覺、視覺、與運動等相關之區域，但找不到負責記憶的區域。 對於負責記憶的區域，沒有一個完整且令人信服的理論可以說明個中原理 。 三種記憶的生理過程理論： (1) 訊息乃物理性地被紀錄在神經元中。 (2) 訊息以電訊方式被傳導與儲存。 (3) 訊息改變了神經元的結構。 5.1 簡介 (2) 記憶可能是藉由神經元間的聯接形態來儲存，而非透過單一神經元本身的變化來紀錄。柏克萊大學的 Rosenzwieg 博士對於記憶所提出的理論 ─ 每當一個人學到一件新的事物時，神經元便改變它們的伸展範圍，使得訊息更容易透過相關的突觸，而傳遞至相連接的神經元，新的聯結形成之後，舊的便消失，彼此消長之間，便形成所謂的記憶。 史丹福大學的卡爾、帕瑞巴博士提出所謂的 “全圖像理論 (hologram)” ─ 所有的記憶都被儲存在大腦的所有區域中，而任何一段片段便能夠使整體的記憶再現。 5.1 簡介 (3) 人類的記憶，根據儲存的期間長短又分為三種： (1) 立即計憶 (immediate memory) ； (2) 短程記憶 (short-term memory) ； (3) 長程記憶 (long-term memory) 。 5.1 簡介 (4) 立即計憶 (immediate memory): (1) 功能: 使我們注意到淺在之變化，以進行連續性之活動。 (2) 容量: 數以千計，總體印象。 (3) 時間: 兩秒或更短。 5.1 簡介 (5) 短程記憶 (short-term memory)： (1) 功能: 使我們把東西連接在一起，創造情境並指定意義。 (2) 容量: 七件事。 (3) 時間: 三十秒到兩天。 簡單實驗 (1) E P G L A K S 簡單實驗 (2) L O D T M X H R U 簡單實驗 (3) 8 D W O S U N Z H 簡單實驗 (4) J 9 D T H X Q 5.1 簡介 (6) 長程記憶 (long-termmemory): (1) 功能: 使我們記住事件(情節式型態 episodic)及知識(語意式型態 semantic)。 (2) 容量: 無限。 (3) 時間: 永久。 5.1 簡介 (7) 海馬體受損會影響記憶。 內視丘負責記憶類型的最初統合。 長期記憶是隨著前突觸末端的增加而出現，也與新關聯的建立有關。 改善記性的方法： (1) 利用聯想 (2) 置身於同樣情境 (3) 喝牛奶 5.1 簡介 (8) 有關記憶的三個重要歷程為： 登錄 (registration)：從各種外界的刺激中挑選出感興趣的訊息。 保留 (retention)：將所注意到的訊息，從短程記憶的強記，轉化成久儲存的長程記憶。 提取 (retrieve)：如何從大腦中提取所儲存的資訊，主要是靠所謂的 “聯想 (associations)” 。 從 1950 年代開始，就有許許多多的學者專家，投注大量心血，希望能用類神經網路的模式來模擬聯想記憶，實現的方式可分為線性與非線性兩種 。 5.2 線性聯想記憶 (1) 假設有一組輸入/輸出對， ，xi 與 yi 的維度分別為 p 和 r。我們的目標是想將這 N 個輸入/輸出對，用聯想記憶的方式予以儲存起來，也就是說，當輸入為 xi或是加了一些雜訊的 xi+ni ( 代表雜訊)，輸出會是 yi 。 一、網路學習 二、網路回想 5.2 線性聯想記憶 (2) 如果輸入 彼此之間為正規化正交 (orthonormal)，即 假設現在的輸入為 xk，則網路的輸出為： 假設 xk 只是長度為 1 的單位向量，那麼網路輸出可重寫為： 其中 ?k 是所謂的 “雜訊向量 (noise vector)” 或稱為 “交互影響 (crosstalk)”。 如果鍵結值矩陣是由下式計算而得的，那麼這些雜訊向量 ?k 會降到最小： 其中 ， 以及 X+ 稱為 的虛擬反矩陣。 範例5.1：聯想記憶 (1) 假設我們想要儲存以下三個輸入/輸出對： 經由前述之公式可知 如果網路現在的輸入是