「帶著你的點子來！」專訪 Agentic AI on the Edge HACKATHON 技術工作坊講師曾吉弘，談 NVIDIA 技術資源與賽前準備
由 NVIDIA 擔任 AI 技術協辦單位的 AI 代理邊緣黑客松大賽【2026 Agentic AI on the Edge HACKATHON】將於 10 月底登場，邀請開發者、IT 人員與新創團隊，在低延遲、無網 / 弱網環境、隱私資料保護等邊緣場景中，打造能自主規劃、執行與修正，真正走進現實世界的 Agentic AI。
TechOrange 在會前採訪黑客松主辦單位翰尼斯企業成員暨技術工作坊講師曾吉弘（以下稱阿吉老師）。阿吉老師身為 CAVEDU 教育團隊創辦人、NVIDIA DLI AI 大使（白金級）及台灣科技大學資訊工程學系兼任助理教授，將從題目發想到決賽備戰，拆解參賽團隊如何運用 NVIDIA 技術資源，把一個好點子變成真正「動起來」的 Prototype。
AI 降低 Coding 門檻後，「懂問題」的人反而更有機會
「AI 工具讓點子到原型的距離幾乎縮減為零，」阿吉老師分享觀察，當 Coding Skills 不再是把創意做出來的絕對門檻，領域知識（Domain Knowledge）的重要性反而重新被看見。曾有工程師想做一套幫牛辨識皮膚病的 AI，但眼前那塊斑到底是胎記還是皮膚病呢？「只有養牛的人才會判斷，工程師是不會知道的，」阿吉老師說。
AI 可以協助開發，卻不會自動告訴你養殖現場該觀察什麼、工廠巡檢最浪費人力的是哪一步。對參賽團隊而言，比起先問「我要用什麼模型」，或許更值得先問：「我想解決什麼問題？」
例如「隧道之眼（Tunnel Eye）」協助駕駛判斷雪山隧道左右車道的行進狀況、「軌島（Rail Island）」同時呈現台鐵、高鐵、捷運、輕軌與阿里山林鐵列車的即時地圖；阿吉老師另外也分享了建築師好友利用 Agent 檢查窗戶規格正確性的例子，聽起來雖然做的事情很小，實際上可以省下不少時間。從現實問題出發到提供解決方案，阿吉老師認為：「好的題目比技術堆疊更重要。」
從雲端走進現場：Edge Agent 關鍵在「完整的自主運作流程」
「AI 正從『對話』走向『實體世界的自主決定與執行』，」阿吉老師表示，這也是本屆黑客松將「邊緣」定為主題的原因，期待參賽者挑戰離線 / 低延遲決策、邊緣感測器即時互動與跨軟硬體整合，讓原本只存在於論文或實驗室裡的構想，真正在邊緣裝置上跑起來。
Edge AI 與 Agentic AI 的協作關鍵在於建立自主閉環能力（Autonomous Closed-loop）。阿吉老師舉例：「如果你請助理幫你買一杯冰美式，你不需要告訴他怎麼出門、走哪條路、如何點餐。」Agent 不只接收指令，更能自主拆解目標、規劃步驟、調用工具，並根據結果修正下一步。
以工廠巡檢為例，如果系統發現「螺絲鬆脫」後只回報結果、等待人類下指令，仍只是模型與工具的串接；真正的 Agent 會調閱維護紀錄、判斷處置方式並調用工具，若異常仍未解除，便重新診斷或建立工單通知工程師，整個過程不需要人類一步步下指令。過程中的資料讀取、判斷與硬體控制，也都在邊緣端交接完成，不僅大幅降低對網路頻寬的依賴，更降低敏感資料外洩的風險。
第一次碰 Edge AI？既有 Agent 開發經驗也能派上用場
Edge AI 最大的挑戰，在於有限的 RAM、VRAM 等硬體資源，以及 Sensor 訊號、光線變化、網路中斷等「現實世界的雜訊」。不過，隨著 NVIDIA 等科技巨頭持續投入，模型部署與開源生態已逐漸成熟，NVIDIA JetPack™、Ollama、vLLM 等工具都能降低開發門檻；Agent 的思考與決策邏輯也與雲端相通，將 Tool 改為在地端 API、搭配感測器存取，就有機會沿用既有開發架構。
本次【2026 Agentic AI on the Edge HACKATHON】決賽將採用 NVIDIA NeMo™ 框架，並部署在 DGX Spark 或 Jetson 平台。阿吉老師認為，團隊至少具備基礎 Python 能力，並了解 Tool Calling、RAG 等 Agentic 工作流程；若熟悉 Docker、Linux，以及 NeMo、NIM 的基本框架與 API 操作，更能把決賽時間留給「邏輯串接」，而非從頭設定環境。
進入決賽後，阿吉老師建議同步推進「前後端與硬體整合」、「Agent 邏輯與 Prompt 開發」及「Pitch 簡報與 Demo 劇本」，並在第一天中午前定案架構，避免臨時大改。資源則可採「70% 核心亮點、30% 基本完整」的原則，去蕪存菁，把最能代表作品價值的功能與 Demo 做好。
4 個 NVIDIA 資源提前備戰，把決賽時間留給邏輯串接
在軟硬體技術方面，阿吉老師建議參賽者可以先從以下 4 個 NVIDIA 資源開始準備：
- Agentic AI Learning Path｜NVIDIA Developer：建立 Agentic AI 基礎。
- DGX Spark：提前熟悉 DGX Spark 開發環境與相關資源。
- Jetson AI Lab：熟悉 Jetson 平台與 Edge AI 開發資源，包括 Thor（128GB）、AGX（64GB）等環境。
- Securing Agents with NemoClaw and OpenShell：NemoClaw 相關實作課程。
「認真看完最快也要一個禮拜吧，」阿吉老師笑著說，也提醒邊緣端可使用的記憶體與運算資源有限，必須先想清楚「要做什麼」，再根據模型需求選擇設備，避免做到一半才發現模型能力不足，或硬體根本跑不動。
不必等到「準備好」，黑客松就是最好的學習與試煉場
黑客松的好作品將有機會發展成 PoC（概念驗證）、開源專案，甚至成為商業化的起點。參賽過程也有機會讓贊助廠商看見團隊與人才，延伸出創業或就業機會，也有機會進一步接觸 NVIDIA 生態圈資源或相關計畫。
「Agentic AI + Edge 是未來 5 到 10 年最大的軟硬體變革潮。」面對還在猶豫自己是否準備好的參賽者，阿吉老師鼓勵：「帶著你的點子來，現場有最好的硬體、導師與夥伴，踏出第一步，你跨過的就是未來的技術門檻。」