現今大型語言模型發展迅速，但若要讓AI更精準地回答特定領域的問題、參考特定文件內容或最新的資訊，仍然需要仰賴「檢索增強生成」（RAG）技術。
雖然市面上已有一些RAG應用，例如 Google 的 NotebookLM，但 Google 有權限查看我們的使用紀錄，也可能會有未來被割韭菜的疑慮。而其他開源專案則可能需要一定的電腦技術門檻。
在這種情況下，AnythingLLM 就成為一個理想的選擇！它提供一鍵安裝的桌面應用程式，設定簡單易懂，即使沒有深厚的電腦基礎也能輕鬆使用。
AnythingLLM 安裝教學
STEP 1
前往 AnythingLLM 官網，根據你的作業系統下載桌面版安裝檔。
AnythingLLM 官網下載頁面:
https://anythingllm.com/download
STEP 2
下載完成後，直接執行安裝程式。
STEP 3
安裝完開起程式，我們可以選擇使用內建的 Ollama 語言模型，或設定 OpenAI、Gemini、Groq 等 API，也可以選擇使用本機的 Ollama 或 LM Studio 伺服器。(這邊無法決定的話沒關係，後續還可以修改)
STEP 4
設定完語言模型後，為工作區取一個名字，即可進入 AnythingLLM 的主畫面。
設定 AnythingLLM
AnythingLLM 提供了豐富的設定選項，讓你根據需求調整 AI 模型和 Agent 功能。
設定語言模型:
在「人工智能提供商」>「LLM首選項」中，你可以設定要使用的語言模型。除了可以使用 AnythingLLM 內建的 Ollama 執行外，也可以選擇 OpenAI、Gemini、Groq 等 API 或本機的 Ollama 或 LM Studio 伺服器。
設定向量資料庫和嵌入模型:
Emdedding 模型的好壞與 RAG 檢索的品質相關，AnythingLLM 預設的向量資料庫和嵌入模型通常足夠使用，但如果遇到檢索品質很差的狀況，一直檢索不到資料，也可以根據需求，改成使用 Ollama 伺服器執行其他更好的 Emdedding 模型。
建立個人AI知識庫
在 AnythingLLM 中，每個工作區就相當於一個知識庫，可以包含不同的文件、設定不同的參數。
STEP 1
點擊側邊欄工作區旁的「上傳」按鈕，可以開啟文件頁面。
STEP 2
將想要加入知識庫的檔案上傳，也可以選擇使用網頁抓取功能，輸入網址即可抓取網頁內容。
STEP 3
其他也可以在「Data Connectors」頁面中，使用工具導入YouTube影片的CC字幕，以及爬取整個網站
STEP 4
選取要包含在工作區內的檔案，點擊「Move to Workspace」，再點擊「Save and Embed」，等待檔案嵌入完成。
STEP 5
完成以上步驟後，就可以開始在工作區內與 AI 知識庫對話了！
AnythingLLM Agent 功能
AnythingLLM 不僅可以建立 AI 知識庫，還內建了 Agent 功能，可以執行網頁搜尋、生成圖表等任務。
STEP 1
在設定頁面中，點選「代理技能」，開啟你需要的 Agent 功能，例如「網路搜尋」。
STEP 2
選擇你偏好的搜尋引擎，例如 Google、Bing 或 SearXNG。設定完案右上角的「儲存」。
STEP 3
在工作區設定中，點選「代理配置」，選擇要用哪個語言模型來驅動 Agent。
設定完成後，就可以開始使用 Agent 功能了！
總結
AnythingLLM 是一個功能強大且易於使用的工具，讓任何人都可以輕鬆建立個人 AI 知識庫，並利用 Agent 功能完成更多任務。如果你正在尋找一個可以離線使用的 AI 助手，那麼 AnythingLLM 絕對值得你試試看！