液晶が壊れた Xperia をローカルLLMサーバーとして再利用。2bモデルも動きます。
実行速度は 0.8b=40t/s, 2b=12t/s 程度です。

1.Github版termux をインストール
https://github.com/termux/termux-app/releases/download/v0.119.0-beta.3/termux-app_v0.119.0-beta.3+apt-android-7-github-debug_universal.apk

2.termux 起動してアプデ、何か聞かれたらデフォルト値で入力
pkg update
pkg upgrade

3.Ollama インストール/Ver確認
pkg install ollama
ollama -v

4.Ollama サーバー起動
ollama serve

5.ホーム画面 > Termuxアイコンを長押し/右フリック > New session 、モデルインストール
ollama run hf.co/pfnet/plamo-3-translate-0.8b-GGUF:Q4_K_M
ollama run hf.co/pfnet/plamo-3-translate-2b-GGUF:Q4_K_M

5.1.モデルが上手くDL出来ない場合、直接DL/ブラウザからDL(お勧め)して登録する。
0.8b model: https://huggingface.co/pfnet/plamo-3-translate-0.8b-GGUF/tree/main

termux-setup-storage
echo “FROM ~/storage/downloads/plamo-3-translate-0.8b-Q4_K_M.gguf” > Modelfile
ollama create plamo-3-translate-0.8b-Q4_K_M -f Modelfile
ollama run plamo-3-translate-0.8b-Q4_K_M

Chrome拡張機能向けの起動設定(備忘録)
unset OLLAMA_HOST
export OLLAMA_HOST=”0.0.0.0:11434″
export OLLAMA_ORIGINS=”chrome-extension://<拡張機能ID>”
ollama serve