機器學習系統部署儼然成為 AI 當代最棘手的技術問題之一,MLOps 相關框架五花八門遍地開花。本講題將以 日商 Mercari 開源釋出的機器學習系統部署設計模式文件為基礎,向大家介紹實務上各種機器學習模型部署的設計模式、對應的套件、適合使用的情景,以及當中不好說的辛酸肝淚史。
機器學習系統部署儼然成為 AI 當代最棘手的技術問題之一,機器學習維運 MLOps 相關框架五花八門遍地開花。本講題將以日商 Mercari 開源釋出的機器學習系統部署設計模式文件為基礎,向大家介紹包括同步模式、非同步模式、橫向微服務架構以及縱向為服務等實務上各種模型部署設計模式,以及其中對應的開源和商業套件。我們將以電商平台的次世代 Chatbot 客服系統為例,向大家介紹適合使用的各種情景,例如預測結果的延遲程度和容易維護的程度等等,以及背後考量的脈絡。
About Toby Liu
講者為自然語言處理研究者,現職日本電商 Mercari Inc. 機器學習工程師。曾為 MozTW、COSCUP 以及 g0v 等開源社群成員,並且於 COSCUP '19 分享情緒分析。曾參與 D4SG 資料英雄計畫「高雄火災風險地圖2.0」專案,成果有幸於 DataSci.tw '17、MOPCON '17、南區統計學年會 '17、泛知識節 '17 分享。情緒研究論文發表於 EMNLP '18。