小踢先生的部落格
我用 vast.ai 訓練 AI 對 ssh tunnel 有很大的依賴。一個困擾許久的問題是 TCP timeout，只要 ssh 一斷 tunnel 就跟著斷，然後透過 tunnel 跑的 notebook 就跟著死了。
用過 putty 內建的 TCP keepalive 完全沒用，後來寫 bash 腳本不停輸出資料，問題好像就改善了，紀錄一下 :P
#!/bin/bash
# Prevent TCP timeout by sending output every second
while true; do
echo "Still alive: $(date)"
sleep 1
done我生活很需要 FRP，FRP 可以在 NAT 後開洞，把我的 Windows RDP 以及 VNC expose 出去。
但最近這陣子一直發現 RDP 連不到，檢查後發現是 FRP 出了問題，檔案一直莫名其妙被刪除。直覺認為是防毒的問題，但小紅傘已經設定例外，檔案仍然繼續消失，並且 log 沒有顯示刪除 frpc.exe。後來砍了小紅傘，換卡巴斯基免費版問題還是一樣。
後來拿出塵封許久的 ProcessMonitor 針對 frpc.exe 設 filter，最後抓到是 MsMpEng.exe 也就是微軟惡意軟體防護引擎刪了我的檔案。去看設定，Windows Defender 早就被防毒關閉了，把它啟動，設定例外，再關閉，直到今天 frpc.exe 不再消失。
結論：Windows Defender 即使關閉了也會持續惡搞電腦，檔案例外要設兩次，防毒一次，Defender 再一次。
恐怖的故事，應該是亂點檔案， browser cookie 被偷，後面全線崩盤。不過失主運氣好，帳號被偷的時候剛好在電腦旁邊，而且駭客腳本漏了另一隻 2FA 手機，這才有辦法把帳號搶回來。
好在偶從來不用什麼 Google password manager 或 authenticator。Google 帳號被偷 password manager 和 authenticator 跟著自動叛變實在夠瞎。
全文連結沒想到竟然被駭，Gmail差點拿不回來！
週五晚下載檔案後，掃毒軟體確認安全，結果點開後沒異狀，就繼續使用電腦。
過一陣子，卻發現Gmail登入不了，二階段認證的手機也無法使用，
密碼輸入竟然沒辦法進入帳號。急忙嘗試密碼重設，但手機遲遲收不到驗證通知。
這可是從beta 用起用了快20年的Gmail啊！
好不容易進到救援頁面，認證資訊竟然都被改掉，幸好最後一個選項的號碼
像是之前多設一支少用的備用手機號，試了一下竟然收到驗證碼。
趕快改密碼，進入帳號管理，果然所有認證資訊都被更改，立刻刪除並恢復原設定。
忙了40分鐘，終於拿回主控權！
駭客入侵後，短短三分鐘內就成功奪取我的Gmail，估計是直接跑腳本：
New passkey added to your account
A new sign-in on Windows
Your password was changed
Recovery phone was changed
Recovery email was changed
Phone number added for 2-Step Verification
2-Step Verification backup codes generated
Google Account PIN changed
Recovery secret question was changed
看來像是,
- 新增通行密鑰
- Windows新登入
- 修改密碼、恢復手機、備用郵件
- 設置2步驗證手機號，生成備份碼
- 更改Google帳戶PIN與密保問題
接下來的40分鐘內，駭客利用我的Gmail掌控我存在google password manager
的所有帳密，並透過帳號綁定他的手機，使Authenticator也轉移過去。
接著掃蕩我的虛擬幣平台（Nicehash、Coinbase、Binance），轉走資產；
侵入社群帳號（Facebook、Instagram、X）及 Steam 修改密碼、亂發內容；
甚至在Facebook Market上狂做交易。
幸好這一切發生時我還沒睡，搶回Gmail後迅速追回其他帳號，
但仍花費不少時間，還得通知交易中的買家停下交易。
事後補救：電腦,手機和網路Router全面Factory reset，
密碼全部更換並改用KeePass儲存，移除Google綁定的信用卡，
定期檢查登入裝置並登出陌生設備。在帳號添加多支手機號，2FA必須開啟，
更重要的是管好手避免亂點不明檔案或連結。
幸好這次在醒著的狀態下才得以救回帳號，如果是趁我睡著才下手,利用我的身份
進行詐騙，後果真不堪設想。
這邊要問個卦, 駭客怎摸那麼厲害,明明帳號有設2FA,
為什麼駭客改我帳號時, 我手機竟然push或簡訊都沒收到??
要等到被sign out 才知道???
還有人知道萬一Gmail 真的被盜, 資訊全被改要怎麼找回嗎?
谷歌有服務專線可以打嗎? :p
感覺又要戴上痛苦面具
上頭臨時要我做 LLM KM。同事還帶來了「成果」，結果只是 Ollama + UI pull model，model 還跑步起來。問了下硬體，是單卡 Tesla T4 以後會「升級」到 4060Ti。還有另外一位說可以用 LoRA finetune 做 LLM KM 以後洗資料就靠我。
這個連假，設法弄出了 SSHd + Ollama + AnythingLLM 三合一 docker image，在 Linode GPU VPS 和 vast.ai 上執行，成功 index document 執行 RAG 回答問題。目標下次見面用 live demo 拿回技術主導權。LoRA 建 KM 還跑不起來的方案我還是算了。
弄好 docker image 後人也病倒了。禮拜四還有新版研究計畫截止目前一個字都沒寫、被退回的稿子還沒再投。週四還排了兩場教學、然後業務排得多還有值班...
一直有小夢想，就是可以無限產出 Saber 老婆的圖，但畫工太廢，無法實現，就擱著了，直到後來注意到 Stable Diffusion。
最近寫 paper 不順利，把 SD 拿來折騰（被 desk reject 後更有動力:P）。一開始用家中 AMD 6650XT 出圖。SD 有 DirectML fork 支援 Windows + AMD GPU。但使用體驗非常不好。一開始是折騰 Python 環境，Python 太新特定套件會缺 wheel 要求 compile 但 compile 又不過，後來降版本搞定。但成功執行 AUTOMATIC1111 只是陷入更多坑。UI 報錯 tensor 算出 NaN，改參數。Inpaint 重繪全部都是 noise 但又沒報錯，原來是 AMD GPU 的鍋，要改參數繞過某些最佳化。通通弄好了，出圖很慢半分鐘以上一張，8G VRAM 經常 out of memory，網路很慢抓 model 抓 ControlNet 很不方便，AMD GPU 小眾問題常常查不到答案...放棄。
後來想到用 VPS + GPU 租賃，作法是 Linode 開 instance，裝好 SD 後先用 CPU 執行，叫出 UI 後手動裝想要的 extension 再 wget 所有想要的模型。然後 git commit 整個 container，再換到 GPU instance。 一開始用 vast.ai，但 vast.ai 的 log 不清楚，debug 失敗，轉到 runpod。runpod 折騰一番後，最後改出有 sshd + SD + 預載模型可以順利執行的 50 G image，順利在 runpod 上啟動 ssh + SD。一切弄好後，再回便宜的 vast.ai 也順利搞定。用 4090 出圖，一張十幾秒，還可以一次出多張圖，24G VRAM 大幅減少 OOM，用 NV GPU 少掉很多怪問題，出問題也容易找答案，一切絲滑流暢，vast.ai 上還只要 $0.3/hr，AMD GPU 那什麼東西 XD
稍微吐槽 runpod 官方文件，ssh 的部份寫的花里胡俏，結果實際上只是把 container 的 port forward 出去，sshd 的行為是 docker image 決定，跟官方文件中的說明沒半毛錢關係，純屬誤導。Vast.ai 同理，只要 docker 啟動能正確執行 sshd，vast.ai 唯一要注意的就是開 port，啟動成功後本地端 ssh tunnel 就能打開 SD UI。
太久沒弄 docker，很多東西變不熟，中間還鬧出在 alpine-based 的 image 執行 apt-get 的笑話。不過現在都弄好了，只要花點時間學 SD，無限 Saber 老婆不再遙不可及。
最後，數學真是美（？）原來美麗和 latent space、manifold hypothesis 有關係。看來偶是數學學不好才不會畫圖（？）
