JLab Talk 入手
換機後聲音品質好太多,原本糊成一團的聲音變得清清楚楚,以後視訊簡報應該不會氣死夥伴 XD
全文連結
用了超久的 p1102w 雷射印表機退役了。
最近要列印文件,發現墨色很淡,推測是碳粉快用完了,於是拿出儲藏多年的副廠碳粉匣準備更換。但更換的時候就發現副廠碳粉匣裡面不斷掉出很多不明塊狀物。但想說試試看,就把塊狀物抖乾淨以後,還是把碳粉匣裝上去。結果列印的時候發現大量漏碳粉,整個機器打開全部都是碳粉,卡到設備裡面連進紙都卡住了。
因為這台用很久(查了一下這是 2010 年的機器,副廠碳粉匣也是差不多年紀 :P),又是人為因素損壞的,就網購新的便宜雷射印表機 HP m111w。
學到了教訓,碳粉匣出現明顯異狀的時候就別裝到印表機上面了。不過這次之所以這麼冒險,也是因為老印表機本來也不穩定了(Power 經常按了沒反應),新機器肯定不會這麼莽。 QQ
我用 vast.ai 訓練 AI 對 ssh tunnel 有很大的依賴。一個困擾許久的問題是 TCP timeout,只要 ssh 一斷 tunnel 就跟著斷,然後透過 tunnel 跑的 notebook 就跟著死了。
用過 putty 內建的 TCP keepalive 完全沒用,後來寫 bash 腳本不停輸出資料,問題好像就改善了,紀錄一下 :P
#!/bin/bash
# Prevent TCP timeout by sending output every second
while true; do
echo "Still alive: $(date)"
sleep 1
done
2025/07/06 更新:結果這樣還是偶爾會斷線,該找別的方法了
全文連結我生活很需要 FRP,FRP 可以在 NAT 後開洞,把我的 Windows RDP 以及 VNC expose 出去。
但最近這陣子一直發現 RDP 連不到,檢查後發現是 FRP 出了問題,檔案一直莫名其妙被刪除。直覺認為是防毒的問題,但小紅傘已經設定例外,檔案仍然繼續消失,並且 log 沒有顯示刪除 frpc.exe。後來砍了小紅傘,換卡巴斯基免費版問題還是一樣。
後來拿出塵封許久的 ProcessMonitor 針對 frpc.exe 設 filter,最後抓到是 MsMpEng.exe 也就是微軟惡意軟體防護引擎刪了我的檔案。去看設定,Windows Defender 早就被防毒關閉了,把它啟動,設定例外,再關閉,直到今天 frpc.exe 不再消失。
結論:Windows Defender 即使關閉了也會持續惡搞電腦,檔案例外要設兩次,防毒一次,Defender 再一次。
感覺又要戴上痛苦面具
上頭臨時要我做 LLM KM。同事還帶來了「成果」,結果只是 Ollama + UI pull model,model 還跑步起來。問了下硬體,是單卡 Tesla T4 以後會「升級」到 4060Ti。還有另外一位說可以用 LoRA finetune 做 LLM KM 以後洗資料就靠我。
這個連假,設法弄出了 SSHd + Ollama + AnythingLLM 三合一 docker image,在 Linode GPU VPS 和 vast.ai 上執行,成功 index document 執行 RAG 回答問題。目標下次見面用 live demo 拿回技術主導權。LoRA 建 KM 還跑不起來的方案我還是算了。
弄好 docker image 後人也病倒了。禮拜四還有新版研究計畫截止目前一個字都沒寫、被退回的稿子還沒再投。週四還排了兩場教學、然後業務排得多還有值班...
一直有小夢想,就是可以無限產出 Saber 老婆的圖,但畫工太廢,無法實現,就擱著了,直到後來注意到 Stable Diffusion。
最近寫 paper 不順利,把 SD 拿來折騰(被 desk reject 後更有動力:P)。一開始用家中 AMD 6650XT 出圖。SD 有 DirectML fork 支援 Windows + AMD GPU。但使用體驗非常不好。一開始是折騰 Python 環境,Python 太新特定套件會缺 wheel 要求 compile 但 compile 又不過,後來降版本搞定。但成功執行 AUTOMATIC1111 只是陷入更多坑。UI 報錯 tensor 算出 NaN,改參數。Inpaint 重繪全部都是 noise 但又沒報錯,原來是 AMD GPU 的鍋,要改參數繞過某些最佳化。通通弄好了,出圖很慢半分鐘以上一張,8G VRAM 經常 out of memory,網路很慢抓 model 抓 ControlNet 很不方便,AMD GPU 小眾問題常常查不到答案...放棄。
後來想到用 VPS + GPU 租賃,作法是 Linode 開 instance,裝好 SD 後先用 CPU 執行,叫出 UI 後手動裝想要的 extension 再 wget 所有想要的模型。然後 git commit 整個 container,再換到 GPU instance。 一開始用 vast.ai,但 vast.ai 的 log 不清楚,debug 失敗,轉到 runpod。runpod 折騰一番後,最後改出有 sshd + SD + 預載模型可以順利執行的 50 G image,順利在 runpod 上啟動 ssh + SD。一切弄好後,再回便宜的 vast.ai 也順利搞定。用 4090 出圖,一張十幾秒,還可以一次出多張圖,24G VRAM 大幅減少 OOM,用 NV GPU 少掉很多怪問題,出問題也容易找答案,一切絲滑流暢,vast.ai 上還只要 $0.3/hr,AMD GPU 那什麼東西 XD
稍微吐槽 runpod 官方文件,ssh 的部份寫的花里胡俏,結果實際上只是把 container 的 port forward 出去,sshd 的行為是 docker image 決定,跟官方文件中的說明沒半毛錢關係,純屬誤導。Vast.ai 同理,只要 docker 啟動能正確執行 sshd,vast.ai 唯一要注意的就是開 port,啟動成功後本地端 ssh tunnel 就能打開 SD UI。
太久沒弄 docker,很多東西變不熟,中間還鬧出在 alpine-based 的 image 執行 apt-get 的笑話。不過現在都弄好了,只要花點時間學 SD,無限 Saber 老婆不再遙不可及。
最後,數學真是美(?)原來美麗和 latent space、manifold hypothesis 有關係。看來偶是數學學不好才不會畫圖(?)
這幾天初步可以用 SD 跑圖出來了,但是 inpaint 一直失敗,不管怎麼調選項,只會產生 noise 或是模型出現 NaN 然後推理失敗。Google 了很多答案,連 PyTorch 降版本都試過 N 次,中間遇過 DirectML 初始化失敗等離奇的 bug,最後是改選項解決:
--use-directml --lowvram --no-half --precision full --no-half-vae --opt-sub-quad-attention --opt-split-attention-v1
另外的問題就是 Adblock 會干擾到 inpaint 的 mask,記得關掉就沒事了。
全文連結寫 paper 寫到自閉,昨天試著入坑 Stable Diffusion、無限自製 Saber 老婆實在太香了,目前進度只有到安裝,由於用的是 AMD 6650XT,所以沒辦法像 N 卡一樣一帆風順,我不想用 CPU 出圖,花了很久總算讓 GPU 出圖跑起來,折騰出第一張圖,很丑就沒存了。
我從 AUTOMATIC1111 的 Stable Diffusion UI 直接入手。參考這篇。其實安裝指令就一行:
git clone https://github.com/lshqqytiger/stable-diffusion-webui-directml && cd stable-diffusion-webui-directml && git submodule init && git submodule update
但安裝好後,我的 AMD 6650XT 需要加 --use-directml --medvram 才能用。然而加了 --use-directml 以後就要另外安裝另一堆依賴,然後就在 scikit-image 上卡住無法安裝,後來發現問題出在我用 WinPython 的 Python 3.12 沒有對應的 wheel,只能本地編譯,但我裝了 VS studio 還是無法編譯成功,所以最後降版到 WinPython 3.10 再重新裝一次,就有現成的 wheel 東西就能動了。
現在試著裝動漫人物的 model 和 lora,結果 SD 又提示我要自動下載 open clip 10.2GB model 最快也要明天抓好,只能明天再測試了。
全文連結
今天順利入手狼途GK 65。新筆電天選 5 pro 現在用得很滿意,螢幕大顏色漂亮、有獨顯、重量可接受,就是輸入設備受限於筆電先天限制。難用的觸控板已經用外接滑鼠替代,但難按的薄膜鍵盤一直沒很好解決,機械鍵盤保證好按,但出遠門帶鍵盤太麻煩。
後來靈光一閃,想到帶小鍵盤,就決定 68 配列挑一把,這是有方向鍵(方便玩遊戲)中最小的配列了。這把狼途 GK 65 在淘寶買含運不到 NT$600,就想都不想入手了。1/10 下單,1/17 就收到貨囉,啪的一聲很快啊,本來還擔心趕不上月底出門玩。
拆開後,紙箱外觀非常一般,充滿廉價感,不過考量到非常低價就不要求,裡面除了鍵盤、填充物就只有一張說明卡和貼紙,實在精簡。鍵盤入手後馬上發現有怪聲,今天吃完尾牙花時間拆開發現底層有個冗餘螺絲,移除後怪聲消失,想想只賣 NT$600 還是不計較了。
我買的版本為金軸,查了下是段落軸,聲音偏大,大到會不好意思在醫院高速打字,打感非常清脆。整體大小則非常滿意,跟原本 98 配列狼蛛 F99 比又小非常多,大小應該可以塞進背包了。
下次出遠門找機會帶出去,如果能放背包,就能實現筆電用外接機械鍵盤打遊戲的夢想 XD
這兩本書是這次去臺北天瓏書局買的。Stable diffusion和 SRE 都是我相當陌生的領域。 研究 Stable Diffusion 是希望有一天能畫自己的 Saber 老婆,無限 Saber 製光想都覺得香。SRE 則是為以後維護自己醫院內的服務做準備。這本書看起來算是最白話的入門書了。
全文連結最近為了寫 paper,又開始在找語音輸入程式。雖說換了機械鍵盤以後,相比原本的薄膜鍵盤,輸入大量文字體驗已經好了很多,但久了還是會手指痠痛。Paper 的壓力又讓尋找 Speech-to-text app 的念頭蠢蠢欲動起來。
之前一直都是用 Word 內建的語音輸入,相比網路上找得到的一堆免費app,Word的語音輸入辨識正確度其實已經相當不錯,但是一次輸入大段文章,還是會有很多需要修改的地方,用久了以後覺得相比於自己手動打,節省的體力很有限。我最看好的是 Open AI 的 Whisper,但卡在沒有一個好的 Desktop client,所以一直就將就用 Word。
現在才再度注意到這款 Whispering App。這程式支援用 OpenAI API key 去做遠端呼叫語音辨識(電腦用 A 卡 QQ),之前這個 App 太陽春,後來就沒太注意。現在已經完善的非常多,可以做自定義Hotkey啟動、結束錄音。錄音的時候不要 always on top。錄完的時候可以自動貼到我要用的程式,用起來方便非常多,所以之後應該會改用它來做語音輸入,這篇文章就是用這個方法錄的
剛破過一輪的好玩小黃油,中文標題太澀了,放英文標題上來。需聲明跟 Microsoft Azure 無關(喂)
很久沒玩到的好玩精品戰棋遊戲,遊戲中角色有近戰遠程各種職業。劇情是典型的黑暗向接王道反轉。女主角不斷壞掉的過程中蒐集了大量能量,最後反轉用來許願換取奇蹟,走向 Good End。我第一輪還故意讓女主多澀澀,想說會通向某種 Bad End,結果反而走到 Good End 去了。
遊戲角色刻劃鮮明,包括女角以及(猥瑣、粗線條)男角、惡役一方,鮮明的角色導致她們趨向壞滅的時候更有感,救贖來臨的時候也更加感動。不過少數惡役強行洗白有點不喜歡。另外通向 True End 之前的最後一個選擇還可以故意鬼轉到某種墮落 End,遊戲還明白標示,也符合遊戲特點 XD
遊戲還有 IF 線,本線女主機緣巧合提前撞破惡役陰謀,惡役的大量後手因此無法發動,善良女主養父被誣陷、孤兒院分裂,女主賣O墮落換能量....等劇情都沒有發生,但結局沒有更好,因為女主也因此錯過了得到因果律道具的機會!IF 線最終結局是國家半毀,主角們各奔東西,女主情侶拆散,遠赴異世界求生,臨走前,女主養父把殘存的許願機會給了女主,女主許願身邊的人能到達 Good End,結果許完願後遊戲直接倒回到選擇正史和 IF 線的分界點,剛看到還以為是遊戲出了 bug 重打,結果是遊戲的刻意安排。只有熬過黑暗才能得到真正光明,一帆風順的道路其實通向 Bad End,這安排也是耐人尋味了。
Apache 用密碼保護目錄
放在網路上的目錄不希望被隨便存取,需要有密碼保護。這是目前最簡單的方法
1. 要保護的目錄建立 .htaccess
2. .htaccess 要加以下內容
AuthType Basic
AuthName "Restricted Area"
AuthUserFile /path/to/.htpasswd
Require valid-user
sh -c "echo -n user_name: >> ./.htpasswd"
sh -c "openssl passwd -apr1 >> ./.htpasswd"
這週下定決心,把陪伴多年的 Lenovo T460 送給北部的妹妹。上次出門旅行,發現 14 吋螢幕寫 code 開始會眼睛吃力,換華碩天選 5 pro。觀察到現在,確定 T460 可以安心退場,就決定送出。
這台 T460 是 2016 年上市的機器,當初應該是為了讀碩班換的,已經陪我七八年。當初還自費換 IPS 螢幕、升 16G 記憶體、後來又換 1T SSD,還有零零總總的防撞殼、鍵盤膜、螢幕保護貼,都是愛機一路征戰的回憶 QQ。送出前幫忙重灌、檢視 Macrium 映像檔,映像檔最後更新日期還停在 2023 年。還原 Win10 後一時還進不了桌面,原來是強制登入微軟帳戶但這個過程又當掉,後來透過 Safe Mode 和一些 trick 繞過。做了些測試,清潔了資料,設定了下妹妹最愛的桌面(?),然後就裝箱再見了。
其實我還有台更老的 IBM X200 現在還能開機 XD 但現在送那台就是折騰人了,還是送 T460 好了 XD
讓 LLM 巨幅加速的猛人,影片值得紀錄一下,再找時間看
全文連結故事好像是從 I9 系列開始,部份體質不良的 CPU 在加壓猛操之後出現穩定性問題,甚至波及到商用市場,有商業大戶說 CPU 故障率在 10% 到 50% 之間。並且隨著調查進行,原本以為只是高端 I9 或 K 系列 CPU 有問題,變成 65W 以上 13、14 代 Intel CPU 都可能有問題,包括我新組的兩台 i5-13500 也是 65W CPU。並且,被「電壓問題」弄壞的 CPU 是永久致殘!我最近新筆電也是 13 代 mobile i7 CPU,好在 I 皇堅決否認筆電 CPU 會受影響,再看看。
目前看來 Intel 不打算 callback,只打算用 workaround 拖過三年保固期,令人失望。作為 I 皇的忠實用戶不知道多少年,第一次遇到 I 皇 CPU 集體烙賽還見證官方擺爛。為了保險起見,哪怕我新買兩台電腦沒有任何症狀,我也先更新了 BIOS 降低電壓。等八月中 Intel 測完 microcode update 再更新一次 BIOS,損失效能也沒辦法了,了不起效能倒退回 12 代 QQ