小踢先生的部落格
舊公務機 Nokia 5710 XA 用一年多（2022年10月）就開始出現各種問題，LCD 一「排」黑線，自動重開機導致漏接醫院電話，還有次當我面收到簡訊就重開。沒辦法自動來電過濾，騷擾電話現在又越來越多。
還是希望私人手機和公務機分開，新機希望小手機，不想一個口袋塞兩個小平板或上班一直拿起放下 6 吋大傢伙。又希望續航力好，能裝 App 如 Whoscall。
結果基本空集合，小隻都功能型手機。而智慧型手機一定大，現在 5.9 吋就可以叫小手機了。
結果找到了小眾的機器，Doogee Smini。4.5吋螢幕，整機比我 Nokia 手機還小一點，App 能裝。3000 mAh 電池支撐小螢幕看來待機續航也還行。缺點就中國小廠製。如果用不久下隻還是乖乖的買大台好了 QQ
記錄一下最新上完的課，奔著 Stanford 大學的名字去的。不過有點失望，課程有點虎頭蛇尾。前面講深度學習基礎的部分還可以，講的深入淺出，但從 RNN 以後的課基本上就不行，都是帶一堆 paper，然後每個重要 work 抓幾個沒頭沒尾的公式出來講，都聽不大懂，抓不到 intuition。特別是其中還有一位講者，講得非常混，ppt 念稿大師，重要內容含糊帶過，觀眾在彈幕一致吐槽。
課程最後一集來賓演講就非常好，第一位華人講者 Song Han 大神分享很多深度學習優化乾貨，訓練、推論、軟體、硬體都具體而微帶過了，第二位來賓是 Goodfellow 大神，講 Adversarial Attack，不過後半部就講得比較深聽不懂。
感覺還是得乖乖念 paper QQ
11/25在愛好者活動進行分享，值得紀錄一下。難得被邀請，主題講知識管理也有點關係，就把之前做的地址分析還有 NLP 研究拿出來。
分享的東西技術水平不深。地址分析的梗在於花幾年的時間大力出奇蹟的工人智慧 data cleaning，然後做到一半才發現工研院早就把能做的東西做出來了，算法細節摳得比我更完善。下個版本我應該會照抄吧 XD
NLP 的部分，主要是用 BERT 過濾否定語句（No evidence of...）讓搜尋引擎提高搜尋正確率。這在 NLP 好像是純應用，且不熱門的的主題。難怪 paper 寫好了沒人要 cite（轉圈圈）。也沒用很難的技術，就只是大樣本（一人標六千筆！）開路，其他就套模型調參。然後指出非深度的算法都有局限，對文本都有不實際的假設。例如醫院的報告，很可能連「報告的英文是個句子」的假設都不成立（metastasis(-) HBV(+)），導致通用的 NLP 庫各種掛點。
除了指出大樣本訓練 BERT 專治各種不服，有價值的部份應該就是優化吧。當初發現生產環境上沒有 dGPU 給我用真的傻眼。最後換 TinyBERT 搭 ONNX runtime 解決 CPU inference 問題。
換新電腦後第一款FPS XD
Serious Sam 也是從小玩到大了。高中時玩第一代，印象中跟 DL、Twsam 他們在 302 偷偷連線，牛形怪沖過來的時候 DL 還會大喊一聲「牛～～～～」，年輕的日子回不去了（嘆）。轉眼間，第三代破過一輪也是2016年的事，四代也全破了。換電腦後為了感受新電腦和 6650XT 的效能，就把這款拿出來玩 XD
遊戲長度略短，三、四代我記得都二三十小時才破一輪，這款十幾小時就破過一輪。
難度感覺比本傳來得大，一開始玩「困難」，結果第一關連1/3都過不去，只好換普通難度。普通的難度其實也偏高。有些地方就是無腦堆怪，例如，印象中有一個支線任務要坐電梯到地底，電梯向下的過程之中怪就一直噴出來，問題是，電梯平台很狹小，還沒有障礙物和高低，根本沒有地方可以躲，只能瘋狂身法閃躲還有用血條跟怪換。有個專長是用近戰攻擊殺怪可以吸血這時候才知道原來是這樣用的。
反倒是有的關卡怪更多，但是能找到 chokepoint 或猥瑣點位，能把怪聚在一起用 AOE 清掉反而還好
最後打 Boss 是本傳叛徒 Brand。Boss的最終戰做的很用心，Brand 的動作都非常帥，還有二段變身。二段變身看起來機制上是可以斷的，但我沒有一次瞬間輸出足夠 XD。
遊戲後半越來越難，靠自動存檔根本撐不過去，才想起有手工存檔。後來就一路 S/L 過去了。
遊戲還有不止一輪 New Game+，可以繼承武器、專長點數。還有新道具，然後敵人變三倍，敵人和你都變得更脆皮 etc. 不過暫時不想玩 XD
工作換院區、搬家，兩臺舊電腦退役、整理家裡面發現好多老物，一代神卡 AMD HD7850，放到現在還能力壓我電競筆電的 940M 獨顯，還有 RX380、RX460 XD。鎖在櫃子吃灰的 Intel Q8600 和板子，還有放到忘掉的 LG G pro 2 和開機就過熱的 LG V20。
現在備（ㄌㄥˇ）用（ㄅㄢˇ）機（ㄉㄥˋ）更換為技術進步數代的 Intel i5-4460 和 AMD RX580。更之前的上古設備就回收了。我筆電好像還有台大學五年級得到的 IBM X200，配備主流的 Windows XP 作業系統，現在還能正常開機使用不過好像被我灌成 Linux 了。一堆沒玩的遊戲光碟也丟了，新機器也沒有光碟機了。
電腦設備和時間真的都好快 QQ 新的生活，新的工作，開始。
Steam 堆了好多 3A大作：重製惡靈古堡4、霍格沃茲、法環、2077...都沒玩。原有的 RX580 已逐漸帶不動。本來想換顯卡就好，但老機器 i5-4460 也變成瓶頸，最後整台升級，還換兩台 XD，這次太舊的硬體就不移植了，老家的光碟機要移植才發現已經放到壞了，然後新機殼還沒可以插光碟機的位置....
本來想買 i5-12400，後來為了用久一點，捏上 i5-13500 多八個小核。板子也用 5k 的板。新機升級感非常強，M.2 SSD 飛快，秒解 4G 的 Office 365，升級感強而有力，強而有力口牙，就剩找出玩遊戲的時間測效能 QQ
本座想在 VPS 上架服務，但是又怕防火牆擋著連不到，就從 Stack overflow上的答案改了個土炮 port scanner，可應用於快速檢測哪些 outbound port 有開。本座主要修改為設定 thread 的數目上限避免執行環境出錯無法 create thread。小工具速度一般，但也夠用了，而且乾淨、方便。
# This script runs on Python 3
import socket, threading
def TCP_connect(ip, port_number, delay, output):
TCPsock = socket.socket(socket.AF_INET, socket.SOCK_STREAM)
TCPsock.setsockopt(socket.SOL_SOCKET, socket.SO_REUSEADDR, 1)
TCPsock.settimeout(delay)
try:
TCPsock.connect((ip, port_number))
output[port_number] = 'Listening'
except:
output[port_number] = ''
def scan_ports(host_ip, delay):
threads = [] # To run TCP_connect concurrently
output = {} # For printing purposes
num_thread = 64
for port_range in range(0,10000,num_thread):
# Spawning threads to scan ports
threads = []
for i in range(num_thread):
t = threading.Thread(target=TCP_connect, args=(host_ip, port_range+i, delay, output))
threads.append(t)
# Starting threads
for i in range(num_thread):
threads[i].start()
# Locking the main thread until all threads complete
for i in range(num_thread):
threads[i].join()
# Printing listening ports from small to large
for i in range(num_thread):
if output[port_range+i] == 'Listening':
print(str(port_range+i) + ': ' + output[port_range+i])
def main():
host_ip = input("Enter host IP: ")
delay = int(input("How many seconds the socket is going to wait until timeout: "))
scan_ports(host_ip, delay)
if __name__ == "__main__":
main()看 deep learning paper 和教材的時候發現自己是數學文盲，這陣子補了點資工數學。
今天終於聽完 B 站上宋浩的高等數學、線性代數、概率與統計三門課，共聽了快 150 小時。
有教學技巧很好的老師帶還是差很多，果然大學以上數學不適合已散功20年的業餘人自學。還是聽中文老師用全中文教材安逸些 Q<>Q
但還是要吐槽對岸教材。同濟版高等數學還行，有老師帶還是能跟上，就習題分布非常詭異，一個導數的小章節，計算題可以出 60 題是怎樣。中國的線性代數教材就玄了，第一章先講行列式，接下來講矩陣，矩陣教完教向量，最後才講線性空間，這是詭異的什麼倒敘手法。概率與統計還行，先聽微積分，有辦法看證明才搞的懂某些東西在幹麻，但課聽完還是跟研究用的生物統計接不起來，好像技能樹還是有缺東西。
最後讚嘆網路的方便，以前大學時代根本沒這麼多資源可以看。然後勉勵自己習題要跟上，高數習題還卡在第二章（懶）
準備換新電腦，CPU會上大小核i-13500。本座聽說 Win10 大小核 task scheduling 有問題，會出現小核爆忙大核喝茶圍觀的情況，但又不想升級 Win11 解決，所以去 Google 了解法，等新機器來再實驗。年紀大了，不想一直幫忙最新 OS 解 bug QQ
powercfg -attributes SUB_PROCESSOR 7f2f5cfa-f10c-4823-b5e1-e93ae85f46b5 -ATTRIB_HIDE
powercfg -attributes SUB_PROCESSOR 93b8b6dc-0698-4d1c-9ee4-0644e900c85d -ATTRIB_HIDE
powercfg -attributes SUB_PROCESSOR bae08b81-2d5e-4688-ad6a-13243356654b -ATTRIB_HIDE
powercfg -attributes SUB_PROCESSOR b28a6829-c5f7-444e-8f61-10e24e85c532 -ATTRIB_HIDE
「編輯電源計畫」->「進階電源設定」把兩個有關異質執行緒的都改成慣用更具「效能」的處理器。中文翻譯不大好，更具「效率」的處理器指的是更省電的 E-core，還有要選「慣用更具效能的處理器」，而非「更具效能的處理器」，前者大核忙時餵小核，後者會只用大核。
因為平常會使用至少兩台桌電和一台筆電，最近又可能組新電腦，就來研究怎麼自製 Win10 ISO，避免每次新安裝一台電腦都要重灌一堆軟體才能做映像檔
。
個人步驟如下
http://www.uup.ee/ 提供的檔案可以整合更新檔
去除 Windows Defender （我用其他免費防毒）、Cortana，其中組件要移除，後方對應設定要改。並調整 Windows 10 更新為自動下載但不自動安裝。禁止自動升級驅動程式（！），禁止在使用流量計費網路的時候下載更新。
用 VirtualBox 建 VM，用 NTLite 精簡好乾淨 ISO 裝系統，系統要建兩個硬碟（另一個槽後面要拿來暫存自建的 install.wim），預裝一卡車軟體，中間當然重要步驟都要快照，安裝軟體包括：
Locale Emulator
.Net framework 3.5、4.8
Directx 9.0C
Lumicons
Mozilla Firefox
Google chrome
Mactype
Notepad++
ConEmu
各版本 RPG Maker runtime
新酷音輸入法
Macrium Reflect Free
BandiZip
VC runtime 網路上 all-in-one
a. 裝好後用以下指令讓 Notepad++ 完全取代 Notepad
reg add "HKLM\Software\Microsoft\Windows NT\CurrentVersion\Image File Execution Options\notepad.exe" /v "Debugger" /t REG_SZ /d "\"%ProgramFiles%\Notepad++\notepad++.exe\" -notepadStyleCmdline -z" /fb. Win+R --> shell:startup--> 建立 .ahk 檔案，輸入以下內容，讓 Ctrl-space 可以代替 Win-Space，微軟注音移除。
^Space::#Space未來安裝英文語言包後，這些變更可以達成 Ctrl-Space 切換新酷音，不會被 Windows 10 的 Shift 和輸入法搞的很不習慣
c. 這次 Stopupdates10 暫時沒裝，先試試有沒有其他方法確保能裝安全性更新，同時避免被硬塞 Windows 11。上次用了 Stopupdates10 雖然擋了更新，但是還原不回來 QQ
d. 關掉系統還原
e. 照這篇用 gpedit 去除最近使用過的檔案紀錄
f. 用這篇gpedit 方法限制 Windows 最多更新到 20H2（主要是不想被硬塞 Windows 11）
sysprepd 還原到 OOBE、完事後關機。中間遇到衝突的軟體，參考這篇內容，用 Powershell remove-appxpackage 指令去除。
我用 Macrium Reflect Free 建立的救援媒體，下
dism /Capture-Image /ImageFile:D:\install.wim /CaptureDir=E: /Name:MyWin10Image /Compress:fast此處注意，dism 後面參數不需要 /boot。
dism 打包的 install.wim 用共享資料夾傳到 host PC。把先前 NTLite 精簡過的 ISO 解壓縮到暫時目錄，裡面的 source/install.wim 用自製 install.wim 蓋掉。
用 imgburn 將上個步驟的暫時目錄建立為 bootable ISO，其中「選項」我選擇包含隱藏、系統檔，檔案系統我選 UDF，「進階」->「可開機光碟」一定要勾選讓映像檔可開機，下方開機映像檔指向映像檔目錄 boot\etfsboot.com，載入碟區應為 8（我用 64bit ISO），其實 imgburn 偵測到燒錄內容有 install.wim，會自動偵測並警告參數錯誤，一律照 imgburn 的建議做修改！
VirtualBox 開另外一台 VM，用新建的 ISO 檔安裝系統，確認系統能進入桌面，額外裝的一大堆程式都在，完成！
放完假，不到兩個禮拜又感覺狀態變差，又把小確幸電腦程式拿出來玩
這次剛好手上有適合的案子，需要從某表單程式查大量資料然後抄到表格裡。順手把之前經過准許開發的AutoHotkey機器人拿出來，迎接它的第一單正式任務。雖然中間發現有漏 data 所以patch 了機器人重跑，但機器人很賞臉，三四天就能爬完八九百人的資料，代替人眼看過約幾十萬行文字。
之後 Python 寫好，一分鐘就填好了三萬多個 Excel 上的格子，用 AHK + Python 連環組合拳去對付 1998 年 VB6.0 表單程式，有種兩軍作戰武器領先好幾代的成就感 XD
以前就覺得，這種查表填表的工作用人力來堆，根本就大聰明•肝花不完，這次實作結果佐證此想法。而且目前我司某些系統建置還在 Coming Sooooooooooon 的階段，這套機器人和分析程式組合拳看來還能發光發熱很久 XD
不過再看了下 data 發現還是有些 missing value 和可能沒考慮到的 Column，之後回我司上班，再看一下到底是真的沒有，還是程式有 bug，設法把 missing value 能填多少就多少。
記錄一下新發現好吃的店，南紡排壽司郎排不到就發現這家了，已經去好幾次了。
價格有點小貴，套餐加個前菜就七八百，但義大利麵、燉飯、還有冰淇淋都好吃。冰淇淋口味跟餐廳常有的 Haagen-Dazs 等不同，吃起來奶香多些，另外雖然小貴，但整體價格感覺還是比南紡另外一家 BELLINI Pasta 便宜些。
現在還發現他有外帶 88 折，以後回臺南工作，應該可以時不時請小短腿來外送吧 XD
乾貨很多的好影片。內容主要是訓練大模型踩過的各種坑，模型大了什麼鬼問題都有，從顯示卡、CUDA、記憶體等設備直接出包，到到各種莫名其妙的 convergence failure，原因查得到和查不到的都有。遇到問題的各種解法，包括看paper有理論基礎的，還有憑經驗通靈的都有 XD
訓練大模型的經驗不是每個人都有機會接觸的，至少我周圍環境最多就根據任務 finetune。更別提把經驗用非常直白的方式講出來，未來訓練模型的話應該可以參考 XD
今天和母親一起去北投，因為異位性皮膚炎身體不舒服，就附近繞一圈、中間吃飯，就回捷運站結束北投行程。期待已久的餐廳今天還只有賣定食 orz
之後和母親分開逛，去了很久沒去的光華商場和三創，看到熟悉的光華商場和三創一樣熱鬧，不禁想起十多年前身為學生的時候，那時很喜歡打電腦但沒錢買高端設備，現在已經有能力買好點的設備但沒時間和體力打電動了 QQ，隨手買的明太子帝王蟹肉串，雖然貴了點（$120），但好吃XD。三創宅店區，又比光華更熱鬧，看到這麼多同好內心無比欣慰，感覺國家未來有希望 XD。
回飯店和母親一起吃了晚餐，飯店天香樓真的貴，但東西好吃還很有儀式感，我們點過得菜色還特別用毛筆字弄個小作品讓我們可以帶回家，還真的是有心了。
