← 返回所有標籤
換一個模型只改一行:把 LLM 呼叫收進單一抽象層

換一個模型只改一行:把 LLM 呼叫收進單一抽象層

AI |

模型換得比套件還快,但只要把所有 LLM 呼叫收進單一抽象層,換模型、換供應商對你的應用程式就只是改一個設定值。這篇用中立介面、轉接器、工廠三個步驟,把供應商細節擋在商業邏輯外面,附上可以直接抄的 Anthropic SDK 範例,也講清楚這個做法的邊界。

安裝 Dify

安裝 Dify

AI |

Dify 是一個開源的 LLM 應用開發平台。他提供了從 Agent 建置到 AI workflow 、 RAG 檢索、模型管理等能力,輕鬆建置和營運生成式 AI 原生應用程式,因為更佳的視覺化,所以對於 AI 新手來說,會比 LangChain 更容易來的使用。