Cara Install DeepSeek Pada Server Sendiri (Ubuntu 22.04 Lts) Dengan Ollama LLM

 




Ubuntu 22.04 LTS

RAM 8 Gb

vCPU 8 Core

Disk 30 Gb SSD


Tahap 1. Melakukan Upgrade Ubuntu


uubuntu@origrata:~$ sudo apt update && sudo apt upgrade -y


Tahap 2. Melakukan Instalasi Python3 jika belum terinstall 


 ubuntu@origrata:~$ sudo apt install python3

Untuk memastikan python3 sudah terinstall

 ubuntu@origrata:~$ python3  --version


Tahap 3. Melakukan instalasi pip
               pip Adalah sebuah tool packed manager untuk python



 ubuntu@origrata:~$ sudo apt install python3-pip


Tahap 4. Melakukan instalasi Git



 ubuntu@origrata:~$ sudo apt install git


Tahap 5.  Melakukan Instalasi Ollama yang berfungsi sebagai platform untuk menjalankan Language Models (Seperti DeepSeek)



 ubuntu@origrata:~$  curl -fsSL https://ollama.com/install.sh | sh

Karena saya menjalankan Ollama ini pada mesin KVM dan juga barematelnya tidak terinstall hardware NVIDIA GPU maka script akan memberikan warning, system akan berjalan menggunakan CPU, hal ini tentu akan berpengarus terhadap pemprosesan menjadi lambat, tapi tujuan kita disini yaitu bagaimana cara proses instalasi pada mesin sendiri.

- Proses ini merupakan untuk menjalankan ollama pada systemd agar bisa otomatis aktif pada background proses
 ubuntu@origrata:~$ sudo systemctl enable ollama

- Untuk mengatifkan Ollama
 ubuntu@origrata:~$ sudo systemctl start ollama

- Cek status service Ollama
 ubuntu@origrata:~$ sudo systemctl status ollama

Service Ollama sudah active


Tahap 6. Melakukan Instalasi Screen (Agar proses pada cli tetap jalan jika seandainya cli tertutup tidak sengaja karena proses memakan waktu lama untuk mendowload model language)



- Proses install screen
ubuntu@origrata:~$ sudo apt install screen -y

- Jika proses install selesai cukup ketik "screen" pada cli
ubuntu@origrata:~$ screen

maka akan muncul seperti gambar di bawah :


Silahkan ditekan salah satu tombol pada keyboard untuk melanjutkan agar kita masuk kedalam mode "screen"

Tahap 7.  Download Language Model DeepSeek 


Proses diatas tergantung dengan kecepatan masing-masing koneksi pada server, kita tunggu sampai selesai


Proses Download Language Model DeepSeek selesai

- proses untuk cek model language yang tersedia pada ollama
ubuntu@origrata:~$ ollama list



Melakukan uji coba terhadap Language Model DeepSeek-r1:7b
Karena menggunakan CPU manjalankan modelnya response sangat lambat



Tahap 8. Menjalankan DeepSeek pada model WEB-UI

    -lakukan instalasi virtual environment python3

ubuntu@origrata:~$ sudo apt install python3-venv

- Proses membuat virtual environment baru bernama open-webui-venv di dalam direktori home (~).
ubuntu@origrata:~$ python3 -m venv ~/open-webui-venv

 


- Proses aktivasi virtual environment yang dibuat
ubuntu@origrata:~$ python3 -m venv ~/open-webui-venv



Tahap 9.  Instalasi openweb-UI dengan pip

- Melakukan Clone Data openweb-ui dari link github


- Proses clone openweb-ui dari github
ubuntu@origrata:~$  git clone https://github.com/open-webui/open-webui.git


- Proses aktivasi environment yang dibuat tadi
ubuntu@origrata:~$  source ~/open-webui-venv/bin/activate

- masuk ke folder clone git tadi 
ubuntu@origrata:~$  pip install open-webui




proses install openweb-ui sukses + upgrade version pip ke 25



Tahap 10. Menjalankan openweb-ui

- proses menjalankan openweb-ui
ubuntu@origrata:~$  open-webui serve

server akan melakukan download dependence untuk menjalankan web ui



open-webui jalan pada port 8080


Sukses running akses via web browser

Sukses testing via open-webui







Please Select Embedded Mode For Blogger Comments

أحدث أقدم

Bottom Ad [Post Page]