截圖 2025-07-23 晚上7.41.05.png

其實主要就是在講transformer跟mamba

截圖 2025-07-23 晚上7.43.24.png

截圖 2025-07-23 晚上7.50.28.png

transformer其實還有分，我們主要在講的是self-attention 2019,so 2020 RNN就沒什麼出現過

截圖 2025-07-23 晚上7.53.21.png

每一個輸出的y都只能參考比他左邊的的Ｘ

截圖 2025-07-23 晚上7.59.55.png

截圖 2025-07-23 晚上8.01.38.png

把fa fb fc與輸入的Ｘ產生關聯，讓y具有新舊差異

截圖 2025-07-23 晚上8.03.27.png

其實就是ＬＳＴＭ