開放 AI

In this talk, we delve into the realm of large language model-powered autonomous agents, the newest AI wave revolutionizing digital and physical interactions. Through examples of open-source projects like AutoGPT and BabyAGI, we will unravel the innovative aspects that make these agents stand out, including their prompt engineering techniques, memory system design, and the external toolset they use to augment their capabilities.

We will discuss their implementation, potential benefits, risks, and the ways in which open-source community can tap into their potential. This session aims to provide a comprehensive introduction to LLM-powered agents. Come join this exciting discussion about the anatomy of autonomy, which may define or destroy our future!

講者

曾亭翰 Michael Tseng

18, building for the singularity

I’m interested in ai, bio-inspired computing, and most of the emerging tech/science developments. I will be in sf this fall as a freshman at Minerva University.

🌉 love startups, cities, long articles, ocean blue, and night sky

Blog: tsengtinghan.github.io

Generative models on "modern" mobile phones have the potential to revolutionize the way we interact with our devices. They could be used to generate personalized content, create new forms of entertainment, and improve the accuracy of machine translation. However, there are still a number of challenges that need to be addressed before generative models can be used effectively on mobile phones. In this talk, I will use Stable Diffusion and llama.cpp as main examples talk about how people try to address these challenges. Despite these challenges, there is a lot of potential for generative models on mobile phones. As the technology continues to develop, we can anticipate seeing a wide range of new and innovative applications for generative models on mobile devices.

講者

Koan-Sin Tan

Koan-Sin Tan is an old programmer, who learned to use “open source” stuff on VAX-11/780 running 4.3BSD before the term “open source” was coined. He is interested in running neural networks on edge devices the past 7 years. He is a TensorFlow contributor. He converted Stable Diffusion to tflite format and wrote some glue code for it [1].

[1] https://github.com/freedomtan/keras_cv_stable_diffusion_to_tflite/

本文將介紹如何利用本地端顯卡建立Meta新推出的大語言模型LLaMA後的c/c++輕量版本Llama.cpp，並利用Micromamba管理其運行環境。 首先，Llama.cpp是一種先進的文本預測模型，類似於GPT-2與GPT-3，但未經過微調，適合於大範疇的問答應用。使用本地端顯卡進行模型訓練能更有效地管理資源。 我們將利用Micromamba，這是一個簡潔、快速且隔離的Python環境管理工具，用於安裝和管理需要的Python庫。 接著，模型訓練的原理主要在於使模型學習如何根據上下文預測下一個文字。訓練完成後，模型將能生成與訓練數據相似的新文本。最後，關於Llama.cpp處理中文的能力，儘管其主要以英文為主，但透過適當的訓練與微調，仍有潛力達到理想的中文生成水平。

講者

Will

hello,我是張奕爲(Will),喜歡挑戰不同領域不同事物，目前Java具備建構全端網站經驗、專案開發方面經歷,約4年的開發經驗,往後將著重於Web Application專案開發。業餘會開發一些自己感興趣的side project

1.透過介接高雄市農業局的農來訊系統，只要輸入地區與作物，我們就可以動態的產生一份完整的「作物防災報告書」。 2.「作物防災報告書」包含：作物防災告警、生產管理建議、作物生育期查詢。 3.因此，我們就可以針對作物進行相關的防範與找到應對的解決方案。 4.在農來訊的基礎上，我們透過介接ChatGPT，可生成更多的解決方案並預測未來的變化，透過處理，可在線上即時產生預測圖形。 5.農民可將ChatGPT生成的各種解決方案儲存在資料庫中，即具備有面對過去、現在、未來的各種強大解決方案來面對氣候變遷造成的災損。 6.農來訊 X ChatGPT，可影響的作物種類有60種以上、影響範圍20縣市、資料更新為動態，預測資料來源為全球。

講者

藍海物聯

藍海物聯為一家專業物聯網整合平台服務公司，提供物聯網感測模組、智慧控制模組、無線化感測與控制技術可應用於大型域無需拉線問題，相關感測模組、智慧控制模組與物聯網平台皆自行開發，具高度整合能力。

台灣交通問題一直是社會關注的焦點，而人工智慧（AI）和電腦視覺技術的應用可以為交通狀況帶來改善。 本計劃旨在利用AI和電腦視覺技術來實現交通違規行為舉發與採證技術，捍衛每個用路人該有的權益不被他人佔便宜，共創舒適的用路環境，讓鬼島成為天堂。

The issue of traffic in Taiwan has always been a hot topic for society, and with the power of Artificial Intelligence (AI) and Computer Vision technology, we could transform this situation for the better. This project aims to use these technologies to spot and report traffic rule violations, ensuring everyone's rights on the road are respected and not exploited. Together, we strive to create a more comfortable commuting environment and turn our lovely island from a maze of traffic into a paradise.

講者

陳建廷

任職緯創-資深全端工程師

-專長| 全端開發 >系統整合 >機器視覺

專注於規劃和執行軟體架構，以確保軟體品質和功能正常運作。　　 　　 　　 　　 　　 　　 　　 　　
在過去的工作中擔任組長，領導團隊解決問題，進行規劃和發展新技術。　　 　　 　　 　　 　　 　　 　　 　　
強調團隊合作和協調能力，能在團隊中整合各方工作，達成共同目標。　　 　　 　　 　　 　　 　　 　　 　　
熱愛持續學習和成長，致力於探索新技術和工具，以提升專業能力。　　 　　 　　 　　 　　 　　 　　 　　
*渴望在未來的挑戰中持續展現專業技能，並貢獻於更大的團隊和專案中。

聯絡我　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　
Lf2net089@gmail.com　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　
CV - https://reurl.cc/DAEdKO 本次投稿 - https://github.com/lf2net089/PoliceWebScraping

《英雄聯盟》的大型賽事吸引了眾多觀眾，但小型比賽的曝光度較低。為了提高小型比賽的知名度，提出了「LAIC- League AI Commentator」系統，使用人工智慧技術濃縮比賽內容成摘要，讓觀眾在短時間內了解比賽的重點和轉折。系統包含用戶介面、資訊擷取、生成式人工智慧和語音合成四大部分，各自負責互動、資訊收集、分析和回答生成。團隊計劃將系統與比賽畫面結合，提升觀眾觀看體驗，增加小型比賽的曝光和關注。 The large-scale tournaments of League of Legends have attracted a lot of viewers, but smaller competitions have lower exposure. To increase the visibility of these smaller events, the "LAIC - League AI Commentator" system has been proposed. It utilizes artificial intelligence technology to condense the content of the matches into summaries, allowing viewers to quickly understand the key moments and turning points. The system consists of four main components: user interface, information retrieval, generative AI, and voice synthesis. Each component is responsible for interaction, data gathering, analysis, and generating responses respectively. The team plans to integrate the system with the game footage to enhance the viewing experience for the audience and increase exposure and attention for the smaller competitions.

講者

陳建廷

任職緯創-資深全端工程師

-專長| 全端開發 >系統整合 >機器視覺

專注於規劃和執行軟體架構，以確保軟體品質和功能正常運作。　　 　　 　　 　　 　　 　　 　　 　　
在過去的工作中擔任組長，領導團隊解決問題，進行規劃和發展新技術。　　 　　 　　 　　 　　 　　 　　 　　
強調團隊合作和協調能力，能在團隊中整合各方工作，達成共同目標。　　 　　 　　 　　 　　 　　 　　 　　
熱愛持續學習和成長，致力於探索新技術和工具，以提升專業能力。　　 　　 　　 　　 　　 　　 　　 　　
*渴望在未來的挑戰中持續展現專業技能，並貢獻於更大的團隊和專案中。

聯絡我　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　
Lf2net089@gmail.com　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　 　　
CV - https://reurl.cc/DAEdKO 本次投稿 - https://github.com/lf2net089/PoliceWebScraping

講者

Noflag

各位大家好，我叫沈宜婷，可以叫我noflag，專攻資訊安全，體制外學生，跳脫現今教育制度，是一位致力在資安圈打拼的女性

研究項目：車聯網資安、應用程式安全、機器學習

github : https://github.com/Trinity-SYT-SECURITY

☞中華資安國際 SOC team，實習生

☞NCKU 金融資安實驗室，行動應用程式資安檢測人員

☞Google Developer Group (GDG) Taichung Organizer

講者

哈斯

我是來自美國華盛頓特區的台大資工碩一學生哈斯，我國小國中高中都在美國念，我在高中的時候開始學中文跟電腦科學，然後我高中畢業的時候決定要在台灣讀書，所以我在台灣先過了一個gap year學習中文，然後我念台大資工大學部。這時候我創了台大人工智慧應用社，同時我也加入了實驗室做研究，在這段時間我跟Google, Microsoft合作在研究上。我現在除了當碩士生以外我也在創業，做軟體開發。

講者

邱子瑋

我是畢業於台灣大學生物機電工程學系的學生，邱子瑋，即將就讀台大資工所人工智慧班。

之前在大學時曾加入機器學習與機器視覺實驗室當專題生，訓練出一套能夠自動辨識草莓葉片病蟲害的模型，並結合LINE Bot，提供使用者友善的介面來操作模型，完成一個自動辨識病蟲害系統，並以這項研究在CIGR國際研討會中發表會議論文。

由於大學專題的經驗，讓我對於人工智慧領域感到十分有興趣，因此在碩士班選擇資工所人工智慧班，並且加入台大人工智慧應用社，想從中認識更多對人工智慧感興趣的人，與大家多多交流。