小踢先生的部落格

文章連結 這是簡介用 PyTorch 進行 BERT fine tuning 做 downstream task 的很簡單入門文章。亮點是簡單、圖漂亮、有程式可參考。可以當作 cheatsheet，適合已經了解重要概念後（例如何為 transformer）要寫程式時回頭參考...

Github 介紹文 今天被 Medium 演算法推薦，蠻有趣的思路。 這個庫的功用是做 text classification。特點是對每個 category 設定至少一個關鍵字後，就可以用 unsupervised 的方式對文本進行分類。 整體原理其實接近人類分類的方式...

文章連結 難得 Medium 的演算法會推薦辣眼睛的文章，放在腦海裡越想後勁越強 XD 文章標題很吸引人，利用 python 和 PyCaret 來預測特斯拉股價。但看到一半，作者吹噓「用了 PyCaret，模型不調參 R square 也就是正確率有 99%」就喉頭一甜，差點吐...

VPS 買的 noip 域名到期了。noip 免費版每個月就要手動更新一次不然域名會失效。每年 24.95 美金也覺得不值得。我只是要連到自己的 VPS 而已。隨手搜尋一下免費 DNS 就換到 DuckDNS。 DuckDNS 官網看起來簡陋，看起來像小團隊自架的免費服務，但使用...

 Gunbuster 是 1988 年的老動畫，之所以認識這部動畫，是因為追動漫鋼琴時偶然追到了 Pianeet 的 Gunbuster Fantasy 組曲。因為曲子好聽去追原動畫 XD 這部動漫的監督是新世紀福音戰士的庵野秀明。本作的本意是彌補製作「王立宇...

成人鋼琴班愉快學琴中， 老師教新曲子，趁這首還沒忘之前留影紀念。這已經是錯音、漏音、糊掉最少的版本。 從「自我檢查」的角度來說，錄音錄影其實比單純錄音就好，搭配影像還可以回憶當時用力的情形。 總而言之，不漏音好難，控制手速避免不自主飆車好難。彈到後面手軟掉變成不曉得什...

【機器學習2021】Transformer (上) 【機器學習2021】Transformer (下) 【機器學習2021】自注意力機制 (Self-attention) (上) 【機器學習2021】自注意力機制 (Self-attention) (下) 【機器學...

  一直對「如何學習」很有興趣，這本讀完感覺不錯，決定用它寫心得，寫心得的同時也是運用其中的技巧，鞏固內化書本上的知識，也方便未來的自己提取技巧不用整本重讀。 這本書重要概念大概如下： 後設學習 確定「為什麼、做什麼、及怎麼做」，「怎麼做」可以切分成「概念、事實、程序」。後設學習...

Linode 寄信提示 CPU 異常使用率，超過 90% 使用率，一次好幾小時。根據網路拼湊、修改出腳本來定期監控 CPU 使用率。原則上五分鐘監控一次，使用率超過 70% 觸發 log，log 寫在監控腳本同目錄下。 cpuuse=$(cat /proc/loadavg ...

問題背景：我開發的關鍵服務建置在公司內虛擬機（VM），虛擬機放實體 NAS（ QNAP）。基於未知原因，公司內某些網段的電腦無法直連 VM，tracert 顯示路由到 default gateway 就掉。 Bug 還在協商溝通，暫時解不掉，只能先想辦法繞過。因關鍵服務大多利用 ...

  連結 舊的站台書籤隨著換樣板全不見了 XDDD 閒逛發現的好站，部落格文章種類非常多，投資理財，大數據、深度學習、區塊練...都涉獵了。 重點是文章產量大且穩定，同樣是寫了 10+ 年的部落格，我就做不到持續產出。 其實寫筆記也是確保學習效果的好方法，單純看過可能很容易就忘，...

 幫公司做的土炮搜尋引擎和某些服務放在某虛擬機，稱 VirtA VirtA 放在實體 NAS 上，稱為 NasA 公司內某些 PC，可以連 NasA 但連不到 VirtA，所有 port 都不通。tracert 顯示封包到 default gateway 就掉包。公司內不同網段的...

11 月單位換新機器以來，臨時增加的 loading，包含下班後線上進修，趁工程師在的時候學 workstation 、陪伴長官測試 etc 產生骨牌效應，工作狀態爆炸，進入做不完導致加班更累，加班更累導致更做不完的惡性循環，甚至可以電腦前發愣一小時但就是什麼都沒辦法做。 經過連...

  串流平台亂做真的很母湯 這陣子接了新業務，為了避免業務品質貽笑後人，去買了線上課程溫故知新。課程本身是 online video streaming 的方式授課，中間有簡單的 quiz。   課程本身品質不錯，但程式出了問題。   有天沒事按 Ctrl-U 看源碼，發現純靜態...

 用自己做的搜尋引擎幫自己查資料真的很有感 一切從念研究所開始，唸研究所時希望「一魚多吃」，最好弄一套題目又可以畢業又可可以實際使用，那時公司需要搜尋引擎和 GIS，不過只有「GIS 和搜尋引擎」沒有研究所該有的水準，所以改成「GIS、搜尋引擎搭配大數據架構」，從架構規劃就加了複...

  Duke of Pianeet 的 Gunbuster 改編曲。動畫是庵野秀明監督的作品，暫時還沒看，但不妨礙欣賞好聽的動漫歌。 改編者 Duke of Pianeet 的產量、聲量好像小於 Animenz，但技術實力強勁，這首應該算改編到走火入魔了，第一次看到 ACG 鋼琴...

 工作狀況不理想，趁國慶和公司設備維修期間短暫請假休息。翻網誌上次來墾丁已經是九年前了。旅遊前兩天剛好遇到颱風，整天下雨和刮風就飽了，只能玩飯店內設施（哭哭）。風雨改善後去玩了海生館還有計程車包車。 凱撒大飯店大部分設施還是沒變，熟悉的場景 XD 西餐廳（2021） 西餐廳（20...

 部落格 2005 年開張，到現在（2021 年）已經 16 年了耶！！！ 人也從懵懂少年快變成中年大叔。 回頭看自己寫的文章，包含當年在醫學生時期的掙扎，各種腦洞的嘴泡，以現在的眼光來看忽然有種羞恥感，但也產生了玄妙的感覺，好像變成長輩，隔著 16 年的時光長河，和過去身為少年...

 舊手機 LG V20 陪伴我四年還五年，換過 N 次電池（這是最後一隻允許直接換電池的安卓旗艦），過保不知多久。 去年五月 3.5 耳機孔模組故障時就想換，但靠著淘寶買來的零件，親身施展天魔手殘維修大法，弄壞一顆主相機後，終於把原本故障的，和被我弄壞的零件全替換好，繼續用到了現...

成功弄出第一個自己的深度學習應用 XD 問題起源於幾年前唸書時期的研究計畫，得弄一個能從大量（去識別後，連匿名 ID 都沒有的）free typing 地址中分析出區、里的程式。 難點在於地址是 free typing，不一定會填區里，有也不一定對。特別是「里」的資料還經過行政區...