A Prompt Is Not All You Need：用開源工具打造 LLM 合成資料管線
- 時間
- 2026-08-08 09:30 ~ 10:00
- 講者
- Nero Un 阮智軒
- 位置
- TR212
- 共筆
議程簡介
在開源模型生態蓬勃發展的今天，開發者能輕易取得 Gemma4、Qwen3.5 等頂尖的開源大語言模型 (LLM)。然而，當我們想將這些技術落地到金融、醫療等高合規場景時，往往會撞上一面名為「資料隱私」的高牆。受限於個資 (PII) 與法規，團隊根本拿不到真實業務資料來進行 PoC、效果驗證或 RAG 系統的壓力測試。沒有可用資料進行驗證，再好的開源模型也難以推進到實際的業務中。
面對「資料可取用性」的難題，合成資料 (Synthetic Data) 成為破局關鍵方法。
許多團隊最初會嘗試手寫 Prompt 來生成測試資料。但當需求擴增至上千筆，且須同時滿足多樣性、邊界條件與邏輯一致性時，這種做法很快就會面臨品質失控、難以驗證與無法擴展的瓶頸。
本議程將以 Nvidia Open Source 工具 Data Designer 為例、提供可重現的範例 pipeline，包含 synthetic PII / domain QA seed schema、DAG config、validator 設計、LLM-as-a-Judge rubric，以及生成資料的品質檢查報告。所有範例資料與程式碼將以開源授權釋出，讓聽眾會後可以直接改造成自己的 RAG 測試資料或 PoC dataset。
透過這個實戰案例，希望幫助開源開發者與企業 IT 團隊在缺乏真實資料的困境中，利用開源工具鏈「無中生有」打造高品質的測試資料集，讓 AI 落地的最後一哩路走得更穩健。
講者
Nero Un 阮智軒
來自澳門的開發者，現職 IBM 顧問，具備豐富的資料科學、資料工程與人工智慧領域實務經驗，曾參與醫療、金融及製造業等跨產業專案，累積多元的產業洞察、解決方案設計與系統開發經驗。 畢業於高雄醫學大學，並取得成功大學醫學資訊研究所碩士學位。曾於生醫新創公司擔任 R & D 及 TPM。 熱衷研究技術探索推動變革的可能，深信科技的力量能為世界帶來影響與改變。 A developer from Macao, currently serving as a Consultant at IBM, with practical expertise in data science, data engineering, and artificial intelligence. Graduated from Kaohsiung Medical University and holds a master’s degree in Medical Informatics from National Cheng Kung University. Previously served as an R & D engineer and TPM at a biomedical startup. Passionate about exploring technology to drive transformative change, and firmly believes in the power of technology to influence and reshape the world.