AI – CAPDIO https://www.capdio.com 遊戲開發 Studio Sun, 08 Jun 2025 14:49:09 +0000 en-US hourly 1 https://wordpress.org/?v=6.9.4 https://www.capdio.com/wp-content/uploads/2024/06/cropped-capdio-favicon-white-32x32.png AI – CAPDIO https://www.capdio.com 32 32 如何透過 open-webui 製作出跟 chatgpt 類似的網頁對話 UI 與在本地端架設的 deespseek 互動 https://www.capdio.com/artificial-intelligence/%e5%a6%82%e4%bd%95%e9%80%8f%e9%81%8e-open-webui-%e8%a3%bd%e4%bd%9c%e5%87%ba%e8%b7%9f-chatgpt-%e9%a1%9e%e4%bc%bc%e7%9a%84%e7%b6%b2%e9%a0%81%e5%b0%8d%e8%a9%b1-ui-%e8%88%87%e5%9c%a8%e6%9c%ac%e5%9c%b0/?utm_source=rss&utm_medium=rss&utm_campaign=%25e5%25a6%2582%25e4%25bd%2595%25e9%2580%258f%25e9%2581%258e-open-webui-%25e8%25a3%25bd%25e4%25bd%259c%25e5%2587%25ba%25e8%25b7%259f-chatgpt-%25e9%25a1%259e%25e4%25bc%25bc%25e7%259a%2584%25e7%25b6%25b2%25e9%25a0%2581%25e5%25b0%258d%25e8%25a9%25b1-ui-%25e8%2588%2587%25e5%259c%25a8%25e6%259c%25ac%25e5%259c%25b0 https://www.capdio.com/artificial-intelligence/%e5%a6%82%e4%bd%95%e9%80%8f%e9%81%8e-open-webui-%e8%a3%bd%e4%bd%9c%e5%87%ba%e8%b7%9f-chatgpt-%e9%a1%9e%e4%bc%bc%e7%9a%84%e7%b6%b2%e9%a0%81%e5%b0%8d%e8%a9%b1-ui-%e8%88%87%e5%9c%a8%e6%9c%ac%e5%9c%b0/#respond Sun, 08 Jun 2025 03:36:08 +0000 https://www.capdio.com/?p=1855 本篇假設操作環境是 Ubuntu 來做說明, 首先要做到這件事有一些事前工作要準備, 第一個當然是你要有 deepseek 在 local 堆運作的相關設置, 如果沒有的話可以參考站上的另一篇說明: DeepSeek 想試試? 就來在自己的環境跑看看吧! 202506
我們假設各位已經把相關環境架設完成, 理論上你目前電腦上的 11434 port 已經被 ollama 佔用了吧!! 如果沒有的話那就是你的 Deepseek 並沒有啟動喔, 可以透過 ollama run deepseek-r1:1.5b(版本代號) 啟動他!!! 如果要在背景執行可以加上 &, OK! 在確定你的 ollama + deepseek 成功運作之後, 就可以開始往下走了喔!!!!

# 接下來我們要透過 conda 的 python 環境來設置操作環境
# 安裝 conda
# 參考資料: https://www.anaconda.com/docs/getting-started/miniconda/install#linux
# 取得安裝執行檔案, 這邊選擇的是比較小的版本 Miniconda, 如果你空間很夠, 像要一次安裝
# 較多的套件, 也可以選擇使用 Anaconda
wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh

# 調整執行權限
chmod +x Miniconda3-latest-Linux-x86_64.sh 

# 執行
./Miniconda3-latest-Linux-x86_64.sh

# 接下來會問你說是否同意執行, 同意他的版權協議等等的
# 總之都選 yes 與 enter
# 其中有一個重點是
# 之後你登入這個帳號進來之後, 你會看到 prompt 前端會顯示 (base) 就代表你已經預設進入 conda 環境
# 或是你可以執行以下指令恢復成原本的狀態, 使用以下指令, 這樣就不會一開始就啟動此環境
conda config --set auto_activate_base false

# 然後登入之後再使用以下指令啟動環境, 最前方會顯示 (base)
conda activate

# 再次取消可以用以下指令
conda deactivate

# 安裝後你可以透過以下兩個指令查看是否沒有問題
conda list - Displays a list of packages installed in your active environment and their versions.
conda --version - Displays conda’s version number.

# 開始安裝 open-webui
# 創建虛擬環境(範例: conda create --name 環境名稱 python=版本號)
conda create -n open-webui python=3.11

# 進入虛擬環境
conda activate open-webui
pip install open-webui

# 完成之後, 啟動服務, 這一步會需要比較久的時間, 請耐心等待
open-webui serve (可加上 & 代表把它丟去背景執行)

# 啟動完成之後可以透過以下 url 進入服務, 第一次進入會請你創建管理者帳號
http://127.0.0.1:8080 (127.0.0.1 請改成你安裝 open-webui 的確實位置)

# 接下來他會自動偵測到你有 deepseek r1 並開始使用
# 當然你也可以自己加入其他的大語言模型之類的喔!

To be continue…….
接下來我們可透過學習如何使用 API 來與 AI 互動! 請期待接下來的教學文章喔!

]]> https://www.capdio.com/artificial-intelligence/%e5%a6%82%e4%bd%95%e9%80%8f%e9%81%8e-open-webui-%e8%a3%bd%e4%bd%9c%e5%87%ba%e8%b7%9f-chatgpt-%e9%a1%9e%e4%bc%bc%e7%9a%84%e7%b6%b2%e9%a0%81%e5%b0%8d%e8%a9%b1-ui-%e8%88%87%e5%9c%a8%e6%9c%ac%e5%9c%b0/feed/ 0 DeepSeek 想試試? 就來在自己的環境跑看看吧! 202506 https://www.capdio.com/news-updates/deepseek-%e6%83%b3%e8%a9%a6%e8%a9%a6-%e5%b0%b1%e4%be%86%e5%9c%a8%e8%87%aa%e5%b7%b1%e7%9a%84%e7%92%b0%e5%a2%83%e8%b7%91%e7%9c%8b%e7%9c%8b%e5%90%a7-202506/?utm_source=rss&utm_medium=rss&utm_campaign=deepseek-%25e6%2583%25b3%25e8%25a9%25a6%25e8%25a9%25a6-%25e5%25b0%25b1%25e4%25be%2586%25e5%259c%25a8%25e8%2587%25aa%25e5%25b7%25b1%25e7%259a%2584%25e7%2592%25b0%25e5%25a2%2583%25e8%25b7%2591%25e7%259c%258b%25e7%259c%258b%25e5%2590%25a7-202506 https://www.capdio.com/news-updates/deepseek-%e6%83%b3%e8%a9%a6%e8%a9%a6-%e5%b0%b1%e4%be%86%e5%9c%a8%e8%87%aa%e5%b7%b1%e7%9a%84%e7%92%b0%e5%a2%83%e8%b7%91%e7%9c%8b%e7%9c%8b%e5%90%a7-202506/#respond Fri, 06 Jun 2025 03:08:32 +0000 https://www.capdio.com/?p=1849 2025 年我們看到廚了 OpenAI 之外後起之秀 DeepSeek 突然跳出檯面早成台積電與輝達股價突然劇烈震盪!! 聰明人應該都進場撿便宜了對吧!!! 回檔時就是賺錢的時機一點也沒錯!!

雖然我們可以透過 DeepSeek 的 API 與線上服務去體驗他的強大功能, 但是也因為樹大招風也就引來全世界的好奇, 不知是真的太熱門還是駭客攻擊, DeepSeek 就在不久前突然因為流量因素暫停了一陣子, 蝦米?!?!? 我才使用沒幾次而已, 現在就不給我體驗了是怎樣!! 不過別擔心, 現在就讓我們透過 Ollma 來在自家中建立起 DeepSeek 模型, 體驗一下離線 AI 的魔力吧!!!

內部 Local 端使用 AI 的優點

  • 資料隱私: 所有資料都在自己的環境中, 並不會上傳到遠端 Server, 不用擔心資料外洩.
  • 可調整模型特性: 因應你的個人環境可使用不同大小的模型與特性, 讓 AI 效能更符合需求
  • 不用聯網: 是的, 因為是你的個人環境, 所以不需要聯網就能使用!!! 如果你有 UPS電源, 颱風天台電斷電時也可以有 AI 使用的.
  • 最後當然就是吃到飽的概念囉, 自己的環境當然沒有像是你申請 API 使用 AI 一般需要先儲值付款再一使用次數口款等等的限制, 想問多少次, 問多久通通免費!!

本機安裝使用 DeepSeek 教學

Part 1. 安裝 Ollama, 請到 Ollama 官網( https://www.ollama.com/download/windows ) 選擇你的作業系統, 他會跳出對應的安裝方式, 進行下載並執行或是執行相關指令後即可安裝完成.

Part 2, 選擇你要使用的模型, 請到 Ollama 的 Library 資源列表 ( https://www.ollama.com/library ), 本次我們使用 deepseek-r1, 點進去之後你會看到如下的畫面, 右上角的是執行用的指令範例.

這邊主要是要讓你選擇模型的大小, 模型的大小會影響的當然就是 AI 思考的複雜度與完整性, 請依照你的環境特性去選擇喔!!! 如果你有安裝獨立顯示卡的話, 相對來講對於 ram 的需求會比較小, 反而是顯卡的 VRAM 對於運算的影響較大. ( 參考資料: https://apxml.com/posts/gpu-requirements-deepseek-r1), 另外再選擇模型時也要考慮你的儲存空間大小, 因為當你執行時他就會透過網路進行模型的下載. 請視你的硬體規格來做微調.

Part 3, 選定好模型之後, 接下來我們就來組成所需的指令!

# 以選擇 deepseek-r1:8b 為範例, 所需執行的指令範例為
ollama run deepseek-r1:1.8b

# 以最小模型為範例
ollama run deepseek-r1:1.5b


Part 4, 執行, 接下來我們回到終端機那邊輸入剛剛那段指令, 他就會開始進行下載, 過幾分鐘後看到 success 就表示下載完成, 畫面就會停留在互動模式, 你就可以在此與 AI 進行對話了喔!!! 以下我們用 Windows 環境當成範例 demo 給大家看.
<< 執行 ollama 取用 DeepSeek 模型 8b

<<開始進行下載模型的任務>>

<<看到 success 就代表完成, 可以開始與 AI 互動了>>

以上是不是很簡單, 不過當然目前也只是小小的利用離線版的 DeepSeek 做一點點小事情而已, 想要讓他發揮功能還有許多功能需要架設, 未來我們再利用 python 整合他來試試看喔!!! 敬請期待!!!

]]> https://www.capdio.com/news-updates/deepseek-%e6%83%b3%e8%a9%a6%e8%a9%a6-%e5%b0%b1%e4%be%86%e5%9c%a8%e8%87%aa%e5%b7%b1%e7%9a%84%e7%92%b0%e5%a2%83%e8%b7%91%e7%9c%8b%e7%9c%8b%e5%90%a7-202506/feed/ 0 DeepSeek 想試試? 就來在自己的環境跑看看吧! https://www.capdio.com/news-updates/deepseek-try-it-by-yourself/?utm_source=rss&utm_medium=rss&utm_campaign=deepseek-try-it-by-yourself https://www.capdio.com/news-updates/deepseek-try-it-by-yourself/#respond Sun, 23 Feb 2025 10:05:27 +0000 https://www.capdio.com/?p=1782 2025 年我們看到廚了 OpenAI 之外後起之秀 DeepSeek 突然跳出檯面早成台積電與輝達股價突然劇烈震盪!! 聰明人應該都進場撿便宜了對吧!!! 回檔時就是賺錢的時機一點也沒錯!!

雖然我們可以透過 DeepSeek 的 API 與線上服務去體驗他的強大功能, 但是也因為樹大招風也就引來全世界的好奇, 不知是真的太熱門還是駭客攻擊, DeepSeek 就在不久前突然因為流量因素暫停了一陣子, 蝦米?!?!? 我才使用沒幾次而已, 現在就不給我體驗了是怎樣!! 不過別擔心, 現在就讓我們透過 Ollma 來在自家中建立起 DeepSeek 模型, 體驗一下離線 AI 的魔力吧!!!

內部 Local 端使用 AI 的優點

  • 資料隱私: 所有資料都在自己的環境中, 並不會上傳到遠端 Server, 不用擔心資料外洩.
  • 可調整模型特性: 因應你的個人環境可使用不同大小的模型與特性, 讓 AI 效能更符合需求
  • 不用聯網: 是的, 因為是你的個人環境, 所以不需要聯網就能使用!!! 如果你有 UPS電源, 颱風天台電斷電時也可以有 AI 使用的.
  • 最後當然就是吃到飽的概念囉, 自己的環境當然沒有像是你申請 API 使用 AI 一般需要先儲值付款再一使用次數口款等等的限制, 想問多少次, 問多久通通免費!!

本機安裝使用 DeepSeek 教學

Part 1. 安裝 Ollama, 請到 Ollama 官網( https://www.ollama.com/download/windows ) 選擇你的作業系統, 他會跳出對應的安裝方式, 進行下載並執行後即可安裝完成.

Part 2, 選擇你要使用的模型, 請到 Ollama 的 Library 資源列表 ( https://www.ollama.com/library ), 本次我們使用 deepseek-r1, 點進去之後你會看到如下的畫面, 請點選紅色箭頭的地方可以打開下拉選單!


這邊主要是要讓你選擇模型的大小, 模型的大小會影響的當然就是 AI 思考的複雜度與完整性, 請依照你的環境特性去選擇喔!!! 如果你有安裝獨立顯示卡的話, 相對來講對於 ram 的需求會比較小, 反而是顯卡的 VRAM 對於運算的影響較大. ( 參考資料: https://apxml.com/posts/gpu-requirements-deepseek-r1), 另外再選擇模型時也要考慮你的儲存空間大小, 因為當你執行時他就會透過網路進行模型的下載. 請視你的硬體規格來做微調.

Part 3, 執行所選擇的模型, 上一步你選定好模型的規模之後, 畫面上會顯示執行所需要的指令範本如下圖所示

紅色箭頭處就是所需要的指令, 當然你可以點藍色箭頭的地方進行指令的複製.

Part 4, 執行, 接下來我們回到終端機那邊輸入剛剛那段指令, 他就會開始進行下載, 過幾分鐘後看到 success 就表示下載完成, 畫面就會停留在互動模式, 你就可以在此與 AI 進行對話了喔!!! 以下我們用 Windows 環境當成範例 demo 給大家看.
<< 執行 ollama 取用 DeepSeek 模型 8b

<<開始進行下載模型的任務>>

<<看到 success 就代表完成, 可以開始與 AI 互動了>>

以上是不是很簡單, 不過當然目前也只是小小的利用離線版的 DeepSeek 做一點點小事情而已, 想要讓他發揮功能還有許多功能需要架設, 未來我們再利用 python 整合他來試試看喔!!! 敬請期待!!!

]]> https://www.capdio.com/news-updates/deepseek-try-it-by-yourself/feed/ 0