[PHP][AI] 免費token吃到飽 超簡單開源模型PHP應用實例 (包含 Ollama 的安裝與使用教學)
在 AI 百花齊放的今天,各家大模型很好用想必大家都已經知道了。隨之而來的各種訂閱費用,想當個免費仔越來越難。如果只是公司內網系統中的一個小小 AI 應用(例如:翻譯),其實免費的開源本地模型就夠了,不用訂閱費,token 還可以吃到飽,使用方法也很簡單。 第一步:安裝管理本地模型的工具【Ollama】 想要使用開源的本地模型,你需要先有管理模型的工具,我們這邊選擇很多人愛用的 Ollama 。 Ollama 是一個讓你在本地端(Local)輕鬆執行、管理開源大型語言模型(LLM)的工具。它將模型權重、設定和依賴環境打包在一起,讓你可以直接在終端機透過簡單的指令快速啟動 AI。 1. 安裝 Ollama: 最快的方式是直接透過終端機指令安裝。 curl -fsSL https://ollama.com/install.sh | sh 2. 下載並執行模型: 安裝完成後,你可以直接下達 run 指令。如果本地端沒有該模型,Ollama 會自動幫你從 registry 下載。以 Google 最新的開源模型 Gemma4 為例(e4b-it-q4_K_M 是版本號,因為每個人的本地主機規格不一樣,規格好記憶體大就可以裝高規的版本,可參考 https://ollama.com/search ): ollama run gemma4:e4b-it-q4_K_M 3. 管理本地模型: 隨時間推移,你可能會下載許多模型。你可以用 list 去查看目前下載了哪些模型,不需要的模型可以用 rm 移除,避免佔用空間。 ollama list ollama rm gemma4:e4b-it-q4_K_M 第二步:啟動本地模型的服務 我們在上一步的操作中,成功的在本地主機上裝好了 Ollama,也一併下載了 Google 免費開源模型 Gemma4 之後, 請將本地主機重新開機 。 開機後本地主機不會主動啟動 Ollama 的服務,我們可以透過以下指令啟動服務: OLLAMA_HOST="0.0.0.0:11434" OLLAMA_ORIGINS=...