返回議程

Open LLM Tech: 開源模型技術

9 場議程
議程日數
TR212

本軌聚焦於大型語言模型(LLM)的底層核心技術與開發流程,而非最終生成的內容。我們歡迎關於模型訓練、架構優化與部署實務的技術分享。主題包括但不限於:

  1. 模型架構與訓練實務 探討模型結構設計、預訓練(Pre-training)、微調(Fine-tuning)技術如 LoRA 或 QLoRA,以及如何提升訓練效率。
  2. 模型量化與布署優化 分享模型量化技術、推論引擎(如 llama.cpp, vLLM)的優化,以及如何在不同硬體環境中達成高效能部署。
  3. 資料集處理與開放標準 討論高品質訓練資料的清洗、標記流程,以及確保資料集與模型權重符合開放授權規範的實務。

第 1 天

2026年8月8日 · TR212

TR212
9:00
10:00
11:00
12:00
13:00
14:00
15:00
16:00
17:00

可解釋性與應用:人類的最終防線

Martin Chang

中階

突破 FP64 限制:AdaptiveGEMM 透過 INT8 Tensor Core 在消費級 GPU 逼近 A100 效能

Tsai,Ming-Han

進階

YAML is the New Dockerfile: Building AI Agent Systems with Docker cagent

Hrittik Roy、Parth Goswami

中階

A Prompt Is Not All You Need:用開源工具打造 LLM 合成資料管線

Nero Un 阮智軒

中階

另一種 Encoding 方法:將語意檢索從O(n²)變成O(n)

galaxy4552

中階

在 FPGA 上從 RTL 到 Token 走過 LLM 推理全流程

Max

入門

從 PyTorch 到硬體:wait what? 甚麼是 LLM 編譯器...?

Tommy Han

進階

From Experiments to Dashboards: Modernizing Visdom for Open AI Workflows / 從實驗到儀表板:為開放 AI 工作流程現代化 Visdom

Mario Behling、François Cartegnie

中階

使用 PyTorch 從零量化 YOLOX

John Lu

進階