從 PyTorch 到硬體：wait what? 甚麼是 LLM 編譯器...?

大型語言模型（LLM）的開發雖然可能始於 PyTorch 等框架，但要讓它們在 CPU、GPU 及專用加速器上高效運行，越來越依賴於編譯器基礎架構（Compiler Infrastructure）。

隨著機器學習系統變得日益複雜，硬體也更趨向於專用化，編譯器層已成為連接模型程式碼與機器執行之間不可或缺的關鍵橋樑。

本場演講將從實用角度介紹 AI 編譯器，涵蓋它們為何至關重要、能解決哪些類型的問題，以及 LLM MLIR 和 OpenXLA/XLA 等開源專案在整個技術棧（Stack）中扮演的角色。此外，我們也將簡要介紹 tinygrad，它正嘗試採用不同於 LLVM 的另一種路徑，來編譯並在硬體上運行模型。

演講中也將解釋中間表示（Intermediate Representation, IR）、降低（Lowering）以及後端目標定位（Backend Targeting）等概念，是如何將 PyTorch 等框架與實際硬體連接起來的。

最後，我們將透過一個基於 PyTorch 與多種編譯器（例如 LLVM 和 tinygrad）的簡單 Demo，讓整個管線（Pipeline）的運作流程變得更具體、更容易理解。