探索開源大型語言模型的科學實務應用：RAG 知識管理和LLM 服務化的作法

自 2022 年底起，隨著 AI 技術的快速進展，大型語言模型（LLMs）已成為業界與學術界矚目的焦點。本次演講，我將以最淺顯的方式，引領大家深入了解大型語言模型在實務應用中的關鍵技術與策略，涵蓋 RAG（Retrieval-Augmented Generation）知識管理、LLM 的服務化，以及模型微調（Fine-Tune）這三大領域，在此次演講，我將帶來深入RAG 知識管理和 LLM 服務化，讓大家能夠以最快的速度，了解如何導入 LLM 應用。

首先，我們將探討 RAG 如何藉由結合檢索（Retrieval）與生成（Generation）技術，提升 LLMs 的專業知識理解能力，使模型能有效處理大量資料並提供更精準的解答。

隨後，我們將分析將 LLM 轉化為服務（LLM as a service）的重要性，探討如何將這些強大的模型轉化為便於接入與使用的服務，使更多企業與開發者得以運用這些尖端技術進行創新與問題解決。

透過上面兩個維度的深入剖析，聽眾將以最易理解的方式入門 LLMs 的核心知識，為後續深入探索 LLMs 應用提供堅實的基礎，進而為未來技術創新與應用開拓更廣闊的視野。

講者

劉育維 Simon Liu

大家好，我是 Simon 劉育維，過去曾擔任過電信業的資深工程師 和 在軟體業擔任 MLOps 客戶技術成功工程師，幫助各大知名企業進行機器學習、深度學習、大型語言模型等人工智慧議題進行人工智慧架構規劃的討論，目前在 Medium 上已經公開超過 70 篇技術文章，我希望能夠嘗試使用 AI 做應用，幫助客戶用 AI 解決痛點。