隨著生成式 AI 掀起熱潮以來，不同產業、規模的企業開始關注，如何採用生成式 AI 來提高效率，並減少重複性任務所耗費的時間。導入生成式 AI ，也逐漸從「要不要」，變成「如何做」的問題。
那麼，如果要起步、享受生成式 AI 為組織帶來的好處，最少需要哪些基礎架構？Hugging Face 和 Google 專家共同提出 6 個檢視要素，並說明不同規模、條件的企業可以如何融入到自身情境中。
1. 建立完善的資料基礎
雖然 Google 的 Gemini、OpenAI 的 ChatGPT、Anthropic 的 Claude 等大型語言模型（LLM）支援的 AI 聊天機器人，不需要預先輸入任何資料，就可以協助企業完成特定的工作任務，但如果要發揮最大效益，公司自身業務、目標相關的資料才是關鍵。
因此，第一步是盤點可用資料、可否與 LLM 共享──包含已經在資料庫、電子表格的結構化資料、沒有一致格式的非結構化資料。值得留意的是，資料範圍要多廣，取決於企業對 AI 的具體使用需求。此外，資料放在自家伺服器還是已存放在雲端，也會影響後續導入作法。
舉例來說，一家椅子公司希望建立一個 AI 聊天機器人供內部員工使用，回答常見行政問題，但其很可能在雲端上已經有相關文件。Hugging Face、Google 專家指出，對於許多企業來說，將 AI 功能直接整合到既有的雲端平台，可以大幅簡化部署 AI 的流程。
不過，如果資料存放在內部網路或私人伺服器上，則可考慮開源模型。Hugging Face 產品和成長主管 Jeff Boudier 向《VentureBeat》指出，即使是受到嚴格監管的銀行業、醫療產業，資料皆須內部管理，也可透過自建基礎設施來運用開源工具。
2. 選擇適合的大型語言模型（LLM）
一旦確定好要輸入到 AI 模型的資料後，就要選擇適合的模型。OpenAI 的 GPT-4、Google 的 DialogFlow 或 Hugging Face 的開源模型，各有不同功能和客製化程度，企業的選擇將取決於自身需求、資料隱私和預算限制，由負責監督和實施 AI 的人員來評估和比較。
如果選擇專有的 LLM，企業需要提供 API 來尋找 LLM 並插入資料庫。如果希望強化控制、資料安全而選在私人基礎設施上託管模型，那麼開源 LLM 則可能是好選擇。Boudier 解釋，開源模型的好處是，企業可以自行託管，確保當原始模型有所更新或更改，應用程式的行為也能維持一致。
3. 導入 RAG 框架
為了讓聊天機器人或 AI 系統提供準確且相關的回應，整合檢索增強生成（RAG）框架是不可或缺的環節，特別適合需要整合多種格式私有資料的企業，例如 PDF、Word、電子表格等。
Boudier 表示：實作 RAG 框架需要向量資料庫如 Pinecone 或 Milvus，以 AI 有效檢索相關資訊。
4. 配置專業團隊
雖然 AI 平台介面越來越友善，但實際部署仍需專業技術支援。這時，企業會有 2 種狀況。第一，如果只要直接使用現成 AI 模型、雲端服務，這時企業內部 IT 人員經過 AI 培訓即可勝任。
但是，如果需要客製化開發、微調模型、深度整合到業務流程等複雜需求，企業則可能需要有 NLP、AI 模型訓練經驗的專業人才，例如資料科學家、機器學習工程師和軟體開發人員。
缺乏內部資源的企業，企業可以考慮外不合作，或使用不需撰寫程式碼、用自然語言描述需求即可打造應用程式的無程式碼（no-code）平台。
5. 時間和預算考量
根據《VentureBeat》報導，企業如果使用現成 AI 模型，可以在 1~2 週內開發出基本的聊天機器人；如果要打造客製化、資料整合等更複雜的系統，則可能耗時數月。勤業眾信 2024 年最新《生成式 AI 現況》指出，組織平均至少需 12 個月來解決採用挑戰。
預算方面，自行開發的企業的每月預算基本支出約 10,000 美元，複雜專案的可能高達 15 萬美元。預算有限實，可考慮訂閱模式，依照使用的功能、情況來付費。
6. 重視長期維護
當好不容易開發完成，還需要定期維護、更新才能維持效益，這包括根據業務需求、資料發展來監測、微調模型，必要時進行重新訓練。
不過，管理顧問公司 Kearney 一份調查全球 30 國、逾 200 位 CEO 的研究也提醒，許多高階主管在採用 AI 時可能忽略長期價值。調查中，95% 的領導者表示，目前採用 AI 的重點在於立即解決問題來獲得快速收益，而非勞動力轉型、商業模式創新；只有 19% 將 AI 定位為長期轉型工具。Kearney 提醒，將 AI 作為長期願景，會產生更持久的效果。
【推薦閱讀】
◆ AI 代理會消滅 SaaS 嗎？專家指世紀大辯論突顯軟體策略本質
＊本文開放合作夥伴轉載，資料來源：《VentureBeat》、《Forbes》，首圖來源：Unsplash。