200 行 Python 程式碼能訓練出什麼？ 詳解 Micro GPT
- 時間
- 2026-08-08 10:40 ~ 11:10
- 講者
- Tim Hsu
- 位置
- TR412-1
議程簡介
這個 talk 會把我研究 Andrej Karpathy (Open ai 創辦人） 的 microgpt 筆記走一遍。 microgpt 努力把Transformer、Attention、Embedding 等等元件用最簡單的方式實作， 讓你用最少的負擔理解 gpt 的流程。
或許...你之後就不會覺得 attention 這麼神秘了？ 你也會知道漲價的記憶漲價被拿去裝什麼東西 :)
下面是我這次會跟大家 present 的投影片，也有附上滿滿的程式碼解釋的投影片。 https://github.com/timtan/MicroGPT-zh