星期日, 7月 14, 2024

天選 5 pro 入手!

換新筆電值得紀錄 XD

之前出去玩,舊筆電 Lenovo T460 (2016)14 吋開 VS Code 寫程式眼睛吃力。決定換大螢幕筆電。

新機為華碩天選 5 pro,螢幕 16 吋、16:10 窄邊框最大亮度 400nit,2.2kg、螢幕大夠亮機器也不會太重,獨顯由 T460 的 940M 飛昇為 RTX 4060(Mobile)性能增加超過 10 倍。今天帶出門標資料感覺眼睛負擔輕多了。小缺憾是續航力比不上 9-cell 電池加持的 T460,約四小時上網、開 VM、標資料就剩 3X% 電,得買行動電源。

最後,台灣筆電價格實在是貴。相近規格 TUF F16 台灣可能要買 46K,螢幕規格還較差。京東買 40K 左右,有國際保,螢幕參數更好,有更多規格、顏色可選。至於簡體中文系統自己重灌就好。

全文連結

星期日, 7月 07, 2024

第一次學 Tampermonkey 腳本成功上手

這次學新東西的動機是為了手上的研究題目。上次成功挑戰一人標 6000 份資料的 NLP 研究題目。這次新題目,研究過 related work 後保險起見,決定用多一點的樣本,以確保可發表性,然後就腦子一抽收了 10000 份了(這還不是同類 study 中第一多的 OwO 當然我們有另外的賣點)。這次資料至少標三個 feature,其中一個 feature 是原始醫囑與放射科報告的分段,是否為 one-to-one 的關係,例如原醫囑是 L spine AP + Lat. 以及 L spine Flex.+Ext. 共兩筆,放射科醫師整合成一份 L spine 報告,就變成 many-to-one。

因為樣本量大的關係,一開始先用 regular expression 以及一些簡單邏輯去做 prelabeling ,再根據 prelabeling 先自動排序一輪方便後續檢視,這些自動化標注是一定有的,但標完還是得檢查自動標的對不對,然後痛苦就開始了。

原本使用的 doccano 標注軟體,就只是個標注軟體,沒辦法自動 highlight 報告中的 subsection 讓人一眼看出報告分成幾段,也不能將醫囑中同一部位有多個 view 的醫囑(例如 Chest PA 及 Chest Rt Lat,這種醫囑容易在報告中被「合併報告」)自動標出,人工 check label 真是十分痛苦。

剛看了兩三千份就決的有點難做了,覺的要嘛少收點(但又怕未來投稿失敗)要嘛得整一套更方便檢視的工具才有辦法做。第一時間想到用惠我良多的 Bootstrap Datatable 做個簡易編輯器,但研究後發現,要加入 CRUD edit 功能就得付費,還得自己鎚後端出來。在不知道怎麼辦的時候,注意到在 Firefox console 下可以很方便的去修改、Highlight doccano DOM 中的文字和排版,就想到也許可以用 patch UI 的方式來做。

於是在 console 弄懂幾個操作 doccano DOM 的關鍵點後,在 ChatGPT 的輔助下,成功在一兩小時內鎚出「真.強化版.doccano」。原始 UI 被我加了幾個 control,可以用 regular expression 去自動 highlight 報告疑似 subsection head 的部份,另外加個 panel,把同一個部位有好幾個不同 view 的部位特別提醒。做完這些後標資料的速度就爆增,至少在這個 feature 努力點可以一天 review 一千份 label。

未來第二、第三個 feature 預期可以用 AI 標再人為抓錯,但一樣需要輔助工具,預期拿這套腳本改一下再弄個不同的「強化 UI」出來。腳本基本沒有通用性,一個任務要改 N 次。不過樣本量大,也值得特事特辦了。


如圖,畫面左下角紅字 Skull 表示照 Skull 的醫囑有兩筆或以上(本例為 Mandible 以及 Nasal bone),多了個 form 可以打 regular expression,作到把「分段」標出來(圖中綠色文字)


 

 

全文連結

星期五, 7月 05, 2024

Rclone copy 中槍

第一次踩到 rclone 的雷。

事情根本原因是母校要限縮無限空間,需要趕緊備份。原本我用現成的 docker image但是從 Google Drive -> Onedrive  會出現小 bug,需要更新版本解決。所以我自己 rebuild 了 docker image 把 rclone 升級到 1.67 然後繼續拷。

更新後同步開始出現類似 "The resource has changed since the caller last read it; usually an eTag mismatch" 的 log,Linode 開始跳流量警告。不過檔案還是正常完成拷貝我就沒太留意。

然後昨天就收到帳單,Linode 裡面的額度一口氣用光還出現負債,最新月份帳單一看 $120 鎂,找原因發現六月份 outbound traffic 26.4T,我原始資料也不過 2T。趕快試著改了參數,確認重要資料有備份完後就砍原始資料、終止備份了。

事實證明該會的基本管理還是要會,一知半解的使用工具很危險 QQ


全文連結

星期三, 7月 03, 2024

Doccano docker-compose 檔

Doccano 是我標注 NLP 訓練資料經常用的軟體(咦你不是只有一篇嗎?)。官網教學詳細,但沒有 docker-compose.yml。其實照著官網教學,加上自己補細節就很容易生出來

version: '3'

services:
  doccano:
    image: doccano/doccano
    container_name: doccano
    ports:
      - "8000:8000"
    environment:
      - ADMIN_USERNAME=xxx
      - ADMIN_EMAIL=xxx
      - ADMIN_PASSWORD=xxx
    volumes:
      - ${PWD}/data:/data


指定 container_name 是為了方便下指令,ADMIN_USERNAME、ADMIN_EMAIL、ADMIN_PASSWORD 作用明顯。指定 volumes 是讓 container 關掉後標注的資不會不見(!),不過我個人還是每一段進度就全部匯出存 git 安心點。

全文連結

星期日, 6月 30, 2024

星期二, 6月 18, 2024

帶點缺憾的郵輪行程

這次郵輪行程還包括韓國的濟州島和日本的鹿兒島,每個地方我們都上岸玩了一天,體驗當地風土人情。日本鹿兒島跟團行程有點太緊,三個景點,最後一個還是購物中心!感覺就第一個點晃了下建築,吃個點心,就趕去吃飯了。吃飯因為人數太多,每個店都需要排隊,導致寶貴上岸時間就耗費在排隊上。購物中心行程就...。

韓國濟州島因為團沒開成,倒是可以自由行,我們請了導遊小姐,帶我們看三個點。行前功課沒做足,第一個濟州島去的濟州民俗村其實不合胃口,類似特別去看古早農村,還遇到推貨的導遊,車程還要一個小時!之後導遊帶我們去看的商店街和購物中心尚可。但後來想想,應該就直接找碼頭附近景點最密集的地方,一路密集看過去就好。但整體而言,韓國相比日本,應該不會更想再來 XD

船上的收費就是讓人肉痛的事情了。帳單有一半都是網路費!郵輪上只有衛星網路,當我在頁面上選購上網套餐時,看到的價格是每套設備單價 $15 美元(買 3 台)或 $14 美元(買 4 台)。我想說價格看起來不貴,為了玩的盡興,就買了四台設備的額度,其中一個額度算是給家人備用。結果,這個價格竟然是「每24小時」的價格!實際價格是那個數字乘以5!也就是說,4 台網路「整個航程」的價格是 USD$280,相當於 9,000 多台幣!看到帳單的那一刻,我差點吐血。但後來想想,其實在郵輪上不上網路也是不太可能的,至少我和家人還有筆電共三個份額是必須的。但如果只買三個份額,應該可以省下一兩千元。

最慘的是,旅途中我還生病了,可能是飲食沒控制好,皮膚異位性皮膚炎復發,面積不大但直接發在臉上。現在收假上班還是要一兩分鐘毛巾溼敷一下臉,再擦個乳液,不然臉像螞蟻爬似的,沒辦法專心工作。每天晚上十點多就睡覺,吃了好幾天的素菜,乖乖喝中藥調理身體。

排除這些問題,這次旅行還是非常棒。船上的飲食、表演遠超預期。免費的劇院表演我覺得可以直接地面上開團了,呆在船上真的委屈,只有第一天能預約到表演,第一天的演出之後每天的額度一釋放就被秒殺。免費 buffet 幾乎隨時可去吃,免費單點的餐廳也是超過水準,義大利麵、羊排....對標地上的話應該有相當千元一餐或以上的口味,還能無限續盤。剛上班幾天就又開始想放假了 XD

船上的免費食物。很意外的有地面上收費餐廳的水準。 
 
日本鹿兒島的食物,這時皮膚病已經發了只好吃清淡點 QQ
 
日本鹿兒島第一個景點
 
韓國濟州島某個海岸
 
真。韓國烤肉,吃完這肥厚油膩又香辣的一餐後我的皮膚就大發作了 QQ
 
濟州民俗村,說真的電波對不到
 
郵輪上的收費餐點,碗非常大但實際很小一盤,可是非常好吃。台幣兩三百左右的價位,第一次吃到蝦子和干貝都會在嘴巴脆彈然後瞬間在嘴巴釋放美味的 QQ
全文連結

星期日, 6月 16, 2024

Screentogif

官網

找到了一套好用的螢幕錄影軟體,紀錄一下。

我對螢幕錄影的需求主要來自於做報告,有時會需要錄影螢幕上的固定區域,可能搭配麥克風。

這需求之前都是透過 Captura 做的。但 Captura 作者已經宣佈棄坑,我在 Windows 11 上執行 Captura 會遇到錄影時靈時不靈或是斷片的問題。更早之前我會用 Ocam,但 Ocam 被發現會預載挖礦軟體後就被我直接除名。商用付費暫不考慮。我去試驗了幾個 opensource 的替代方案。OBS studio 很好很強大,但對於我的簡單錄影需求操作太複雜,ShareX 同理,綁了自動分享等我根本用不到的功能,操作也複雜。其他的免費或開源軟體則有各式各樣的問題,例如不支援 h264 輸出等。

Screentogif 則達到良好的平衡,界面簡單,可以很容易螢幕區域錄影。而且跟名字不同,這軟體其實不只可以輸出 gif,也可以輸出 h264,只要指定好 ffmpeg 的目錄給它就可以 XD。目前看到的缺點就是不直接支援同時錄螢幕和麥克風,有這需求可能還是得用 OBS studio 應付。

全文連結

星期六, 6月 08, 2024

地中海郵輪上船第一天

久違的放假,陪家人一起搭船旅遊。第一天就在交通中度過,老家出發、高鐵、找船、登船。中間順便搞定手機投保等瑣事很快就下午了。中間手機訊號不好,整網路投保不停失敗整個人焦慮好久,還不小心弄壞氣氛 >"< 後來躲到窗戶旁邊訊號恢復才搞定。這之後趕快買了船上 wifi,雖然訊號還是很爛但總算是有網路了 Q<>Q

第一天行程以船上閒逛為主,看了不少店,但沒買什麼東西,物品普遍都價格偏貴 QQ 晚餐的歐美台混合風格 buffet 水準在預期之上,如果再額外考量這不用額外付費其實是佳作,而且這裡開很晚,其實完全可以別的店晚餐沒吃飽,再到這裡補點東西 XD。

如果晚餐是超出預期,那之後十點十五分看的 show 就是驚喜,各種百老匯式名曲歌舞接連登場,根本沒感覺時間流逝就已經十一點表演結束。據說每天會有不一樣的節目,打算問問能不能錄影,如果能的話要用手機留念了。

全文連結

星期一, 6月 03, 2024

跟 1fichier 再見

延續這篇。母校要限縮 Google 教育版無限空間, 2T 左右資料要想辦法找地方放。原本對 1fichier 非常期待。但這個月使用狀況不理想。

我有兩個大資料夾,一份以投影片和文件、大檔為主,另外一個有大量圖片小檔。前者在 1fichier 使用很順利。但後者傳了一個月還沒辦法傳完!看 rclone logs 一直傳 403 Flood detected: IP Locked。爬了文章才知道 1fichier 對於 API call 非常吝嗇。大量複製小檔免不了頻繁 call API 然後就被後端反覆限流。試著調了 --transfers、--tpslimit、--checkers 等參數都沒有用。有考慮過 iDrive Personal,也很便宜,很遺憾不支援 rclone,只有 iDrive e2 object storage 才支援,但它沒給 5TB 的選項。決定先試用 jottacloud 這家,有無限空間,只是超過 5TB 後逐步限速,看來夠用了。
 

目前先買一個月,landing page 用歐元計價是 €9.92/month,但實際刷卡的時候變成美元計價 11.9/month 但年繳會送兩個月,這樣就沒比 Onedrive 6TB 貴太多,先試用看看。若一個月沒出問題就轉年繳。

全文連結

星期日, 5月 26, 2024

Side project 更新小記

 

完成兼職工程師的第一單任務,心驚膽跳,值得紀念 XD

任務是讓土炮搜尋引擎能讓其他單位用。為了後續開發、維護和資安稽核,不得不把 project 套件全都更新一輪,從 Laravel 8 一口氣升到 11 開始。
 
因為版本差太多,連 DB schema 都不完全相容,且老系統基本只有我在用,除了需要被 search 的資料外,沒什麼值得備份的。這次「升級」乾脆直接重建,用乾淨 Laravel 11 環境,再把原本的 App 逐步移植過來。線上部分環境也推倒重來。
 
升級過程根本是災難片。Laravel 包含前後端全家桶還有大量 dependency,牽一髮動全身。例如 Laravel 11 改用 Vite 取代 Laravel Mix,所以 view template 語法得改,JS 也要 require 改用 import,導致 variable scope 和載入順序都不一樣等。Dependency 大改也引發一堆問題,例如部分自動化測試更新後,莫名其妙的 InnoDB deadlock,原來是測試 case 沒有正確解構,舊版本剛好沒觸發 bug。前端套件升級也讓頁面毀容,需要細微但繁複的修改,開著 CSS 原始碼、套件官方 demo、自己網頁的 Firefox console 來回比對好久才清理掉發現的問題。
 
升級還是有愉快的部分。因為直接打掉重練,所以可以下 drop database production_db 這種快樂指令。只可惜 dev team 只有我一人,無法找其他 member 分享刪庫的喜悅。等搜尋引擎未來逐漸成為公司資產後,應該就不能享受一言不合就 drop database 的快樂 QQ。
 
這次升級,慶幸當初有認真做自動化測試。雖然沒完整自動化 CI/CD,但至少我寫的後端 code 有 100% test coverage。後端真的 test 全過,線上就過。趁周末值班空檔備份、下線、刪庫、更新、部分重新初始化,解掉個佈署腳本的小 bug,docker 一啟動看到的就是正常的服務,非常舒心。
 
過程中 GPT-4 老師也很幫忙。像我 jQuery 老人根本不懂什麼 import、require、CommonJS、AMD 啊,現在問題和 code、錯誤訊息全問 GPT。GPT 如果不能直接給 sample code 也能給 hint,幫我這一人萌新團隊快速過掉問題。
 
之後還有很多問題要處理,特別是安全方面沒碰過頭有點大,只能走一步看一步。現在還已經正式兼職,不能再說我只是個發燒友來推託了 orz
全文連結

星期六, 5月 25, 2024

「尬麻」食記

對和牛念念不忘的我,之前搜尋店面才發現常去的南紡對面,就有一家和牛吃到飽的火鍋店,好像跟 XM 同體系,昨天就去吃。

店面裝潢風格是夜店風,但裡面出入的人看起來都正常 XD 店家服務品質很好。東西吃完馬上有人清盤子,不用主動提醒。湯快沒了,舉手後服務員就自動帶湯,不需要我開口指出需要加湯。第一次用餐鬧出不少笑話,例如我以為機器人螢幕顯示了的桌號,菜又端來我身邊,那當然東西就是給我的,沒想到不同層放的是不同客戶的,然後就不小心吃掉了別人的東西 Q<>Q 或是不熟悉盤子的厚度,結果沒發現盤子下面還有另外一盤肉,傻傻的一直等 etc. 但服務員都用很和善的態度服務。

但食物方面就有些遺憾。湯頭方面,這次不用額外加錢的厚白和麻辣感覺普普通通。大部分的肉類都不錯,伊比利豬香 Q 彈牙,和牛丸夠香,餃類、豬肚等也很好吃。其他配料也夠誠意,冰淇淋有 Coldstone 和 Haagen Daz 無限挖到飽,但關鍵的和牛掉了鍊子!外觀看來,餐廳肉片確實是日本和牛油花,涮起來口感也夠嫩,但缺乏關鍵的香氣和入口後融化的口感。甚至比涮乃葉的安格斯牛還差些,導致無法達成來店的根本目的。

有日本和牛的套餐 $859,單身狗用餐還要開鍋費 $100,加服務費後就破千。但和牛的部分沒達到預期。如果要吃和牛,在一樣破千的前提下我會去選黑毛屋和牛。雖然沒有吃到飽、但湯頭、和牛口感大勝。雖然這家店其他的方面都不錯,但可能就當成一次店了。

全文連結

星期五, 5月 17, 2024

三門數學課

來源

B 站看到的神 comment。「测度论和概率论看IMPA,大样本理论(渐近统计)看UCLA的jingyi jessica Li,高维概率论看原作者Vershynin,高维统计看UCLA ARASH AMINI的,机器学习理论看斯坦福tengyu ma的。统计学Phd在B站可以上完了」

這陣子看神課 Probabilistic Machine Learning 看完兩堂,但看到第三堂 ppt 真的越來越 yabai,投影片看起來需要技能樹非常硬核,可能是實分析 -> 測度論 -> 機率這個硬派進階路線。但我數學分析才剛開門,大佬別玩我 >"< 可能先繼續看下去,如果老師講的完全聽不懂只好回頭補數學了。整理三門課先放著 XD

實分析

大佬陶哲軒的。手上有中文課本和習題解答,選這堂應該有機會事半功倍。數學和寫程式一樣,做題才是本體 QQ


概率論

測度論

全文連結

星期三, 5月 15, 2024

升級 Windows 11

最近 Pchome 買了兩份正版 Windows 11 專業彩盒版升級家中兩台電腦,當堅定支持合法正版的好國民。這應該是最近花錢最多的軟體了 >"<。

為了避免成為正版軟體受害者,這次安裝的版本是自己土炮改過的 UUP ISO,設定該改的改、該禁的禁、再把自己慣用軟體都預裝好。今天順利折騰完一台電腦,準備跟 Windows 10 告別。

全文連結

星期二, 5月 14, 2024

土炮 Windows 11 ISO

最近下定決心,從 PCHome 幫兩台新電腦各買一份 Win11 專業彩盒版,就來折騰自製 Win ISO。流程跟 Win10 不大一樣。

下載 ISO

還是從 http://www.uup.ee/ 找整合更新檔的。

DISM++、NTLite 調整 ISO

DISM++ 目前看來有社群維護,可以調的東西很多,例如禁掉「多嘴的 Cortana」(DISM++界面上的原話 XD)、Windows Defender 等。MSMG 修改 UUP 下載的 ISO 則不方便,需要直接操作 DISM。NTLite 也有一些可調整的項目,例如 Windows Update 等。也把 bitlocker 和系統還原預設不啟用。

虛擬機安裝 Win11

不輸入序號不啟動,一路 Next 裝完 Win11。

關閉 reserved storage

這是這次學到的新教訓,guest OS 裝好第一件事情就是關閉 reserved storage。

如果不在 guest OS 裝好就先關閉 reserved storage,可能導致 sysprep 失敗。第一次安裝時就遇到這問題,登錄檔已經照網路修改,DISM 也顯示 reserved storage 關閉成功,Windows Update 也執行完畢,但 sysprep 一直跳 reserved storage 使用中無法繼續,後來只好整個 guest OS 重裝一遍。

關閉 reserved storage 方法是:regedit,找機碼 HKEY_LOCAL_MACHINE\SOFTWARE\Microsoft\Windows\CurrentVersion\ReserveManager。我將下列機碼全部修改為 0:ShippedWithReserves、BaseHardReserveSize、BaseSoftReserveSize、HardReserveAdjustment、MinDiskSize、PassedPolicy、TiAttemptedInitialization。而 MiscPolicyInfo 設定為 2,重開機,之後執行 dism /Online /Set-ReservedStorageState /State:Disabled,再 dism /Online Get-ReservedStorageState 確認關閉成功。

安裝需要的軟體

這次裝以下軟體
OpenShell
Explorer patcher
.net 3.5 
VC++ runtime
DirectX(directx_Jun2010_redist)
RPG Maker RTP
Lumicons
MacType
Chrome
Firefox
Bandizip
Potplayer
Notepad++
Conemu
Autohotkey
新酷音
Macrium Free 
PDFXchange viewer
LocaleEmu

OpenShell 還有 Explorer patcher 是為了改善 Win11 反人類 UI。Win11 模仿 MacOS 卻又不到位,放正中央的開始功能表、還有要多按很多次的右鍵選單實在不倫不類,裝這兩個軟體可以把 UI 外觀和行為調回 Win10 甚至 Win7 的樣式,讓我肌肉記憶可以繼續使用,不必從頭建立習慣。

調 Win11 config

用 gpedit 停止自動更新驅動程式,功能性更新延遲 30 天,更新限制在 22H2。移除檔案歷程。Windows 服務自動啟動 smartcard,啟用遠端桌面,把一些檔案(如遠端切掉桌面)放到 public desktop...

Easy Sysprep

還是大概按照這篇使用 Easy Sysprep 進行 sysprep。Easy Sysprep 真的很好用,遇到衝突的問題(例如問題 package)還會提供對應 powershell 指令檔並自動複製到剪貼簿,只要照畫面打指令就好。

過程中必須自己另外準備 Windows PE,第一階段 sysprep 完後,必須用 WinPE 重開機,再執行剛才執行過的 Easy Sysprep 執行檔才能進二階段。這部份太久沒用忘記了,攻略也沒細寫,折騰好久。第二步 sysprep 我好像調整了電源設定(不要自動關閉螢幕、電源 etc),加了管理員帳號,禁用自帶的萬能驅動。砍掉  swapfile.sys 和 pagefile.sys 省下大量空間後,直接生成 install.wim。

做 bootable ISO

這裡又踩了坑,原本我 Win10 ISO 是用 ImgBurn 做的,但是 Win11 ISO 製作出來就是無法開機,甚至原生 ISO 解壓後馬上 ImgBurn 封裝也一樣不行,這時我懷疑可能是 ImgBurn 的問題,畢竟這軟體太久沒更新了。當然也可能是我沒找到正確的設定。

後來是安裝 Windows ADK 解決。Windows ADK 只要安裝「佈署工具」就好。裝好後執行
Oscdimg.exe -b"Efisys.bin" -h -m -o -u2 -udfver102 來源目錄 目標 ISO 檔案
其中 -b 指定 boot file、-h 讓 ISO 包含隱藏檔、-m 忽略 ISO 大小限制(可超過 2G)、-o 設定重複的檔案實際只佔一份空間、-u2 讓 ISO 指定 UDF 檔案系統,-udfver102 指定 UDF 版本號

以上都弄好後,用 VirtualBox 測試可以正常安裝,就可以正式寫 USB 裝系統了。 全文連結

星期六, 5月 11, 2024

星期五, 5月 10, 2024

Probabilistic Machine Learning -- Philipp Hennig, 2023

Youtube 播放清單
投影片

好課,把 ML/DL 會用到的機率知識整合起來,而且深度非常夠。

現在坊間「AI 背後的數學」課和書籍不少,但大多數太淺,例如微積分可能就講到 chain rule。對於看 paper 來說完全不夠用,課本和 cutting edge research 有巨大落差。直奔數學系的課,內容又太多不知從何學起,像本座高等微積分現在才換了老師剛看到收斂數列的性質,初微、線代課看完了現在習題都沒做 XDDD 課程還提供投影片讓人自習。非常慷慨。

原本是 B 站上看的,但 B 站沒搬運到最新的版本,且字幕不全,就去 Youtube 找最新完整版了。


全文連結

星期一, 5月 06, 2024

資料搬家

看到母校公告,校友 Google Drive 要從無限空間直接縮到 1G,只好準備告別,設法幫 2T+ 資料搬家,結果空間挑好久。

MS365 已經備份了一份,基於 3-2-1 原則第二備份不想再用 MS365。Google Drive 5T 和 Dropbox 3T 都貴,錢去買 MS365 6T 都有找,還附贈 Office。後來試俄羅斯 Yandex 360 family plan 1T*8 年繳不到 50 鎂,但是繳一個月試用發現 family plan 後台竟然 404,去問客服才說台灣不支援(但開 VPN 換國家也一樣結果耶 XD),服務品質太恐怖,果斷退費。
 
後來改法國 1fichier,年繳 2T €30,4T €60 還是比 MS365 家用版貴,但價格也夠好了。缺點是:光界面就極度陽春,很擔心軟體技術力。官方付款只能銀行轉、虛擬貨幣付款或用溢價極為嚴重的 CashtoCode。要用 Debit card 還要從一堆 reseller 中找一個價格合理的換 coupon,整個充滿詭異感,目前先花 €5 試用一個月,目前rclone 能動,FTP 能連但檔案內容有滯後。如果試用 OK 會用這家當作 MS365 外的第二備份。
 
PikPak 其實更便宜速度還非常快,但這家「新加坡公司」真身疑似迅雷,私密資料就不想放在上面了。萬一 1fichier 不滿意,預計跳 idrive 或 jottadrive 吧。自組 NAS 目前感覺麻煩 XD
全文連結

星期五, 4月 26, 2024

星期四, 4月 25, 2024

網路文章:投期刊返修寫Response的時候,應該寫詳細一些還是簡要點?

出處

 知乎上很好的文章,擷取重點:

1. 所有的回復目的只有一個:說服 Editor,必須解決所有審稿人的疑慮,突出文章的貢獻。

2. 如何得體又有理有據的回覆強硬拒絕的審稿人

3. 一定要對 Editor 說一些好話,這要在整體回復審稿人意見之前寫上去。


得體回覆審稿人的模板:We appreciate the reviewer for carefully reading our manuscript and makingtheir insightful, critical, and constructive feedbacks. We appreciate that their comments have enabled us to prepare a greatly improved manuscript.(誇他) However, we respectfully disagree with the assessment of this reviewer regarding ourinnovativeness,analysis, and conclusions that the (自己的東西) is a common and unconvincing architecture. (反對他)We apologize for the previous poor formatting and some disputed descriptions of our manuscript, which may have made some of this evidence unclear. (對自己文章不足進行道歉)For this reason, we have revised the statements in our introduction and discussion to better highlight the novelty and advancement of our work.(改進並指明亮點)隨後對自己的亮點進行總結說明,包括那幾點

全文連結

星期三, 4月 24, 2024

私人部落格

Blogger 部落格寫這麼多年了,一直很想要針對不同文章分別設權限的功能。但 Blogger 一直只能針對整個部落格設權限,不能針對文章。公開部落格很多私人的東西不敢寫,於是很多記憶就沒辦法寫下來。 

現在決定開另外一個部落格,專門放只給自己看的私密日記,主站放文章連結。這樣自己看部落格回憶的時候,還是可以方便檢閱之前不方便公開說,或是沒有把握,不敢誤人的東西。Google 的 Blogger 實在太香了,看了二十年,一堆部落格服務都倒了,老朋友的站也沒了,Blogger 雖然沒什麼長進,但服務的穩定度屹立不搖,讓人省心,還是乖乖用 XD

全文連結

星期一, 4月 22, 2024

兩門 Computer Vision 課程

CS 198-126: Modern Computer Vision Fall 2022 (UC Berkeley)  

Computer Vision — Andreas Geiger 

紀錄下最近囤到的 CV 課,松鼠黨的收藏又增加了 XD

之前 B 站的 CS231 課也不錯,但只有 Justin Johnson 講的我聽的懂,Serana Yeung 在講什麼根本電波對不到。並且課程到後來速度越來越快,只能把一堆研究稍微帶過去,學到的東西很少。換別的課看手氣會不會好點 XD

全文連結

淺談 Prompt 自動最佳化工具

連結 

今天被介紹、推坑了 LLM prompt 最佳化的文章,文中帶出了很多 paper。粗看下來最優先需要了解的應該是 AutoPrompt,其對應 paper 如下:  

Intent-based Prompt Calibration: Enhancing prompt optimization with synthetic boundary cases 

其他 research 和 paper 乍看也不錯,但暫時沒有動力去看 Q<>Q 

最近要做 LLM 和 GPT 有關的 study,這算是及時雨 XD

全文連結

星期四, 4月 18, 2024

MedAI Session 20: Many Faces of Weak Supervision in Medical Representation Learning 觀後感

今天用用冗餘時間把 MedAI Session 20: Many Faces of Weak Supervision in Medical Representation Learning 看完一遍。感覺還是卡在同樣的地方,特別是如何用 noisy labeler 產生 probabilistic label 的部分,看來還是要繼續問 GPT 還有補數學。 

看的過程中,發現要看的 paper 也更多了。  

Data Programming: Creating Large Training Sets, Quickly 

 這篇也是講 Snorkel 的,但看來比之前看到那篇好懂一些。再努力看看  

Doubly Weak Supervision of Deep Learning Models for Head CT  

Cross-Modal Data Programming Enables Rapid Medical Machine Learning  

Multi-task weak supervision enables anatomically-resolved abnormality detection in whole-body FDG-PET/CT 

這三篇應該算重要收穫了。醫院放報告和影像一大堆,如果可以用報告加影像直接 train model 那做 deep learning 就會變得容易很多(謎之音:我也不用爆肝)。特別是有論文提到用 BERT 去把原始報告轉換成 study-level 的 label,現在有 LLM 可以用 few-shot 感覺這部份會容易很多。

全文連結

星期二, 4月 16, 2024

星期六, 4月 13, 2024

GPT-4 讀 paper 小感

GPT-4 真是讀 paper 神器。

Training Complex Models with Multi-Task Weak Supervision 這篇為例,中間小節開始引入集合操作符號就開始看不懂。靠自學 PR 值 < 0.1 的線性代數和數學符號認知,也完全看不懂抽象化後的 Material and Method。

交給 GPT-4 奇蹟出現。先用 LaTeX 把數學公式還原好,再整段丟進去,然後不管 GPT-4 回什麼,直接問 can you give me concrete example?,GPT 就直接解了抽象化,用非常簡單的例子就知道這段大概在講啥,過程中順便釐清我對大量符號的誤解,還有我對圖論基本名詞的認知錯誤。

看來 GPT-4 可以當成讀跨領域 paper 神器,效果遠勝我門外漢亂猜,前提是問題要問對。例如從 paper pdf 複製文字提問時,要用 LaTeX 把被破壞的格式還原 GPT 才知道你在講什麼
不曉得是不是 weakly supervised learning 這個主題 GPT 看過的文本夠多,才有這麼好的效果?可能要讀更多 paper 才能驗證。





 

全文連結

星期四, 4月 11, 2024

閱讀「投資別再情緒化!讓數據說話 用科學方法讓本金百倍奉還」

連結

這幾天看完這本,是淺顯易懂的好書,用直白的語言講量化交易的心得,並且提供了最基本可用的指標。遺憾是沒有 sample code 不過這也讓書變得更薄。

讀完這本感覺可以找 reference code 開始做 MVP 跑回測了 XD

全文連結

星期三, 4月 10, 2024

對二次元「兒童色情」、兒少性剝削與 iwin 的我見

Ptt 原文

改自本座拙著,最近 iwin 管制虛擬「兒童色情」和真實兒少性剝削鬧得沸沸揚揚。本座屬於「嚴打真實戀童,但反對同等嚴打虛擬人物」流派。

本座認為首先該做還是「正名」 

看二次元的不該叫做「戀童」

愛看電影殺人情節,但反對現實殺人的人不叫「潛在殺人犯」,哪怕他喜歡的電影殺人情節可以非常血腥讓人不舒服吐出來,跟真正的潛在殺人犯還是不同。

同理,只看二次元,但反對現實戀童的宅宅也不等於「戀童」。就算某肥宅真的看了很噁心的本子,只要該肥宅堅定反對侵害真人,那就不能跟真正的戀童癖混淆。

本座認為這一定要說清楚。如果 ACG 愛好者和肥宅們認為自己算戀童,只是屬於虛擬沒那麼嚴重 etc. 那先天就站在道德劣勢,你已經承認了自己有病,那保守派嚴刑峻法對付你幫你把病醫好不好嗎?
 

憲法、法律的「人」只包含自然人。

依據母法的定義、從法明確性來看,法律上的「人」就只能是自然人,否則就是重新定義人類,這點不細說。

國外規範虛擬色情的法律,會用 non-genuine sexual acts with minors(瑞士 Swiss Criminal Code)image of an imaginary child(英國 Coroners and Justice Act 2009)等詞彙,明文表示虛擬人物也屬於刑法的規制對象,這也佐證在刑法上,「虛擬人物」和「人」並不是相同概念,否則何須吃飽沒事幹換個詞明文表示?

反觀台灣,相關條文都是規範兒少的圖畫 etc. 條文從未明示將虛擬人物也納入管理,因此衛服部和 iwin 說虛擬人物也屬於兒少性剝削,純屬擴張解釋法律,顯不符立法原意。

大法官釋 617 同理,本座主張釋 617 規定人獸交屬硬核,其「人」僅限定於自然人。大法官從未在任何解釋將「人」的定義擴展到虛擬人物(大概也沒想到會有邏輯鬼才把虛擬人物也當人)。所以別再說二次元作品有可能觸犯釋 617 的人獸交了,頂多算軟芯猥褻物而已。否則當這麼說的時候你已經無形接受了「虛擬人物也是人」的錯誤概念,從而在接下來輿論戰失利。
 

保護真實兒童必須停止浪費預算

最近有幸終於投中一篇小社論。本座以為在目前這個風口,「打 ACG 是浪費貴重預算」是能被接受的。

日本 ACG 發達但性犯罪率遠低歐美。目前台灣無二次元導致兒少受害案件,兒少受害案無一是 ACG 導致。寶貴的預算和司法資源拿來管 ACG,只是在浪費珍貴資源甚至癱瘓司法人力

這跟賣偏方一個樣,賣偏方的說關心你父母得癌症,實際上是花光你父母錢讓他們錯失治療機會,買偏方的錢拿去買有效的自費治療搞不好父母多活幾年。打 ACG 的口說保護孩童,實際上是把有限資源花光,用在無法幫助孩童的地方,錢如果省下來去做有用的事,也許真實虐童案、真實兒少性剝削就能少更多件,阻止不幸發生。

嚴打 ACG 的保守派,和賣偏方的騙子,他們的關心和愛都假的。只是一個圖財,一個只想滿足自己的基督教宗教願景(也許有些人還有趁機擴權搞錢),才不管對兒童到底有沒有用。

全文連結

保護兒童「讓人兩難」?

出處

最近接連出現兒童受虐及兒少性剝削事件,加害者甚至與兒童保護單位關係密切,引起輿論關切,也有民眾和立委諸公呼籲修法。

筆者認為保護兒童,除了立法,也要提防賣「偏方」假友軍。有政府官員和宗教保守派,對持有真人性影片,有實際兒少受害的案件唯唯諾諾,稱其「讓人兩難」,卻對無實際受害者的虛構影視作品重拳出擊,揮霍兒童救命錢,就是賣偏方的假友軍。

賣偏方者口口聲聲為病人好,讓病人散盡家財,不只是讓病人做「無用功」,更讓病人錯失治療機會。政府預算花在無效治療的費用每多一元,能實際挽救兒童的經費就少一元。假保護兒童之名,卻把預算砸在安慰劑,實際上是戕害兒童。

打擊「湯姆貓與傑利鼠」無法減少虐貓。政府官員要績效,不是靠打擊虛擬人物濫竽充數、搞遮羞布。更何況主張嚴打虛擬人物的團體,尚且無法防止「自己人」虐童,信賴他們的「藥方」無異請鬼拿藥單。預算省下來,用在真正有用的措施,不知道能多救多少孩童?

-----

震聾發聵的好文,寫文章的作者一定是帥哥小鮮肉(?)

難得投稿中了一篇趕快慶祝一下 XD

全文連結

星期二, 4月 09, 2024

Mamba 架構介紹影片

【博士Vlog】2024最新模型Mamba详解,Transformer已死,你想知道的都在这里了

今天偶然看到的,號稱 transformer 殺手的 Mamba 架構。從影片看來,Mamba 優化了 transformer 的複雜度,並且更加考量到現有 GPU 架構,實現更快的推理,並且在實際應用上很多地方可以平滑的替代 transformer (謎之音:那些用 transformer 做過的 paper 可以全部再做一遍)。後面李飛飛大老的團隊 U-Mamba 實做 CT segmentation 擊中了我 Q<>Q 我連 transformer 都還沒全部弄明白呢,

先做個紀錄,也許以後可以發想一些 idea

全文連結

星期日, 4月 07, 2024

台中、鹿港遊

這次清明連假,和父母一起去台中、鹿港玩,稍微紀錄一下。

劍湖山世界,行程乏善可陳,主要是我和母親都很怕雲霄費車類要大心臟的遊樂設施,所以大部分設施就純看不玩 XD

鹿港夜景就蠻漂亮,很有台灣風味。

 
 
 
 
 
 
 
 
 
 
 

白天的鹿港老街景點。
台中分子藥局,打卡重要景點,但純粹路過拍照不進去 XD 
國家漫畫博物館,很多懷念老物。沒想到月詠也老到可以畫在博物館牆上了,neko mimi mode~ 

全文連結

星期一, 4月 01, 2024

矩陣微積分

機器學習中的數學-矩陣微積分
01 02 03

MIT 18.S096 用於機器學習及其他領域的矩陣微積分
播放清單

B 站發現的兩門好課。當初看完宋浩老師的高等數學(初等微積分)後,去看 ML/DL 論文,發現我缺了向量微積分和矩陣微積分,B 站找到兩門課,第一門很簡短的把 ML/DL 比較會用到的向量、矩陣微積分公式做了彙整,MIT 18.S096 則是正式的大學本科課,講的就詳細很多,先看精簡版再看 MIT 兼取兩者之長,可以得到 MIT course 的收穫但又不會迷失不知道重點。

全文連結

星期日, 3月 31, 2024

如何寫好一篇論文(09) - 文獻分析的三種邏輯推理方法

連結

- 有說服力的邏輯推理方法大體有三種:歸納、演繹、溯因
- 可對文獻資料進行分析來推出自己的論點,例如衝突、解決方案等
- 也可以用於論文的討論和結論

- 歸納 inductive reasoning
    * 由點到線,發現新的規律
    * 對各種不同的資料進行歸納總結
    * 由個別的證據推斷出一般性的規律
    * 人類幾乎所有的知識都來源於歸納
    * 常見的方式有求同和求異兩種
        # 求同:找出各種不同文獻資料之間的共同點,推斷出較為普遍性的規律
        # 求異:比較各種不同文獻資料之間的不同點,找到造成這種不同的關鍵因數或者是變量

- 演繹 deductive reasoning
    * 由一般到個別,建立新的證據
    * 文獻中已經總結出某種一般性的規律
    * 結合我們當前實際情況
    * 大前提 -> 小前提 -> 結論之三段論屬於演繹推理

- 溯因推理 abductive reasoning
    * 由點到虛線的推理方法,提出新的假說
    * 科學的前沿探索的過程中文獻中證據往往是雜亂而不完整
    * 由已知的所有線索排除各種可能性從而最終推斷出真相和最有可能的解釋
    * 從一堆看似雜亂無章的事實中獲得洞見
    * 比歸納和演繹更需要創造性思維,類似偵探破案
    * 要求研究者對於各種可能性有深刻的認識
    * 結果一般是新的假說,需要進一步的實驗論證

- 推理方法為退化的歸納、演繹法,並不嚴謹
- 語文教科書的舉例論證、引用論證、比喻論證、對比論證等傾向修辭學而非真正的邏輯推理方法

 

全文連結

星期二, 3月 26, 2024

Theory & Systems for Weak Supervision by Christopher Re @MLSYS 2020


Snorkel Github
Practical Weak Supervision: Doing More With Less Data

這陣子為了 computer vision 還有 weakly supervised learning 的事情頭痛。要發 paper 需要 label 動輒破千的影像資料讓我快燒壞腦袋。

這應該是這陣子聽到最重要的 talk。重點在於 Snorkel 這個 project。相較於 supervised learning 要專家直接標資料,Snorkel 將問題從 data labeling 轉變成如何找出夠多的 weak labeling function,然後在目前我還沒搞懂的 labeling model 或投票機制作用之下,weakly supervised model 或 gold + silver label 的方法訓練出來的成果不會比專家爆肝差太多,但專家爆肝可能要一年才有辦法幾千份,labeling function 快的話只要幾天。

只是目前看到的 tutorial 都還在用 NLP 說明,還不知道怎麼做 weakly supervised object segmentation or detection。不過有 Oreilly 有出書整理,應該會比直接啃論文快些。

全文連結

星期日, 3月 24, 2024

如何寫好一篇論文(08) - 用故事邏輯寫文獻綜述

連結

 

- 文獻綜述
    * 引導出我們自己的研究目標
    * 用文獻來支撐我們的自己的研究目標的重要性和合理性
    * 用講故事的邏輯來寫我們的文獻綜述,需要有起伏

- SCQA 模板
    * 情境、衝突、關鍵問題、解決方案
    * 可以包含多重起伏
        # 例如 Background and history -> 衝突1,解決方案1 -> 衝突2、解決方案2 -> ...-> 最終遺留問題
        # 最終遺留問題可作為 future direction
    * 可根據狀況調整順序
    * 關鍵問題和解決方案已可被讀者接受 -> 開門見山 QASC 或 QACS
        # 首先提出關鍵問題和解決方案直接點名本篇論文的研究目標
        # 隨後再慢慢的介紹情景和沖突
    * 追求衝擊力 -> CSQA
        # 首先提出沖突引發讀者的關注
        # 隨後再介紹前情和後續的解決方案

    * 情境(S)
        # 實現和讀者的對接,取得讀者的基本的信任
        # 挑出文獻中最不具爭議讀者最容易認同的部分來寫
    * 衝突(C)
        # 起伏的開始
        # 可能是一個顯然的挑戰
        # 也可能是通過文獻分析才能夠發現的一個潛在的威脅或者機遇
    * 關鍵問題(Q)
        # 作者需要明示出解決所提出沖突的關鍵點在哪裡
        # 往往最能體現出作者的眼光
    * 解決方案(A)
        # 一個有說服力的解決方案就能自然地帶出本篇論文的研究目標和它存在的意義

全文連結

星期三, 3月 20, 2024

好文:一文搞清楚LORA、Prompt Tuning、P-Tuning、Adapter 、Prefix等大模型微调方法

出處

知乎上看到的好文,總結了 LLM 微調的有效方法,包括 LORA、Prompt Tuning、P-Tuning、Adapter、Prefix Tuning。很多之前網路上或李弘毅老師的課看過,或大概聽過。但還是有些概念比較新,例如 Prompt Tuning、P-Tuning、Prefix Tuning。應該能當作淼 NLP paper 的靈感庫了。

全文連結

星期二, 3月 19, 2024

Weakly supervised semantic segmentation for CNN

 我司最近忽然提起可以試著用醫學影像發 paper。但我完全是外行,從數學到模型到寫程式都需要自學,還沒有人標資料,差點把我嚇出心臟病。

CV 和之前玩 NLP 不同。NLP (至少我自己那篇)可以用 regex 或其他方法先弄出不那麼精確的 label 再人工校正,不需要真的從無到有通通自己標,但 CNN 至少我目前還不會這些方法。所以只好趕快去問網路。

目前找到一門課還有一份 slide 可以看。

ECCV 2020 WSL tutorial: 1. Introduction to the tutorial on Weakly Supervised Learning



Weakly Supervised CNN Segmentation: Models and Optimization
來源

不管會不會看,松鼠黨先屯了再說 XD

全文連結

星期一, 3月 18, 2024

李弘毅老師【機器學習 2023】(生成式 AI)課程

連結


又自學完一門 ChatGPT 的課程。面向大學生,應用類的。

內容比教 BERT 的課程淺顯很多,畢竟是面向 API 的。不過也可以作為不錯的基礎用來跑 data 寫 paper 了。

最後幫李弘毅的課點讚,內容比吳恩達老師的課豐富許多 XD

全文連結

星期三, 3月 06, 2024

狼蛛 F99 鍵盤入手


第三把機械鍵盤入手,正式成為鍵盤富翁 XD

前兩把分別是 Ducky 2108s 和 Ducky ONE 2,都是青軸。以前覺得機械鍵盤就是只有分「青軸」跟「其他」,畢竟最接近小時候鍵盤的感覺。

但後來青軸打到精神疲勞。看到別人鍵盤和各種傳教影片就入坑這把狼蛛 F99,蝦皮 $1600 入手。中國鍵盤,堆料有誠意,但作工有些小瑕疵,開箱的時候有個鍵帽掉了下來,側面看也有些鍵帽安裝的高度不是很整齊,要按一下。鍵帽裝好後功能上沒什麼問題。
 
鍵盤內膽是 Gasket 結構,支援熱插拔,軸體是收割者軸(非 Cherry 軸),是線性軸,沒段落感,但打感卻意外脆爽,比紅軸好觸底很多,有點像茶軸但更乾脆些。重點是 HIFI 鍵盤聲,手速飆起來的話真的是麻將音 XD。

整體使用滿意,聲音和清脆省力的觸鍵很療癒。就 99 鍵布局還不習慣,暫時稍微影響打報告速度,有些功能鍵要找,鍵盤布局緊湊,常常要按 F4 卻按到 F5 去。另外中國鍵盤當然沒注音,目前注音全部靠盲打。等注音側刻貼紙到貨後再根據需要處理一下。原本的青軸就先暫時休息 XD

全文連結

師大李國瑋老師高等微積分講義

連結

最近為了研究高維度 R^n 上的微積分,開始學高等微積分。目前上清華大學高教授的線上課程。但哪怕仔細挑了老師,課程本身還是抽象到炸,根基不穩現在影片有點聽不懂了。決定複習一下,鞏固境界,再繼續上。

很遺憾高教授指定教材 Elementary Classical Analysis 對醬料生實在太難,看完 Introduction 集合理論的公理化還有數學史,就覺得腦袋開始生大病。

還好這時候發現李老師的講義,雖然頁數一樣都是 300 多頁,但是明顯比原文好啃不少。就先從這入手試試。

全文連結

星期一, 3月 04, 2024

Iwin 「兒童色情」事件目前小感

最近不斷看文章,iwin 「兒童色情」事件個人感覺逐步明朗。

這件事根本不是「反兒童色情 v.s 肥宅」之爭,而是「基督價值 v.s 台灣多數價值」之爭。看推動者宗教背景深厚就知道了。

天主教、基督教天然敵視「性」,認為「性」本身是獸行,只有在「主」准許的婚姻之中,「性」將男女雙方以愛結合並產生後代,這時候的「性」才是好的。天主教、基督教強調兒童和青年應該是純潔的,和污穢的「性」不可以連結在一起,哪怕是虛構的兒童和青年也不行。

從這角度看就可以解釋保守團體的過度反應。明明 ACG 造成兒少性剝削極低,我國根本沒有。交友軟體、甚至陌生人手中的糖果餅乾對兒少都比 ACG 危險的多,也有真實受害案例,但保守派卻只管虛擬人物有沒有露點(連靜香洗澡都算),對真正傷害兒少的兇手視而不見。這些保守團體背後還都有一神教背景。

原來目的是傳教,不是為了保護兒童。和同婚一樣,宗教團體反同婚,說同婚不能生小孩、可以同婚那也可以跟摩天輪作愛...都假的,他們反對的真實理由是這樣違背神和教會的教誨。但是他們知道神和教會不是能上檯面的理由,所以就弄各種表面上的藉口。這些藉口都假的,駁倒他們就換其他藉口。保守宗教團體只想大眾聽他們的,從來沒有想溝通,畢竟只有凡人向神認錯,哪有神對凡人退讓的道理?神旨到凡人下跪接著就對了!多少年過去了,他們還認為「別人」用保險套是有罪的,這種人是能溝通什麼?              

保守團體目前的作法,就是「販賣恐懼」,先說不怎樣怎樣做,真實小孩就會被害喔,然後再舉一些確實有問題的作品,例如重口味的漫畫(但這些重口本用現行妨害風化罪就可以法辦,根本不用曲解兒少法),引起民眾恐懼後就偷渡一竿子打翻一船人的提案,以實現天主教基督教國家兒童純潔化的宗教願景,連大雄偷看靜香洗澡都違法,名正言順的用思想罪打擊異教徒。

某些政治人物也不清醒,可能有人覺得之前得罪教會,導致選舉失利,乾脆擁抱極右派,但極右是遠離中間的死路。除非台灣伊朗化,倒退成一神教的地上神國,否則宗教保守派永遠不會滿足。

看美國共和黨墮胎權爭議就知道,宗教保守派的主張一直步步進逼,一開始說推翻全國墮胎權(Roe v. Wade)是為了尊重州權。推翻後發現各州公投一直輸,就推動調高公投門檻,不讓州民保護墮胎權。連這樣都失敗,就改口該由聯邦設定墮胎限制(這時候又不尊重州權了),一直亂下場就是共和黨被極右拖累,選舉一直失利。極右還要批評共和黨對生命的捍衛不夠。


我尊重他人信仰一神教的權利,但用強制的方式逼所有人接受一神教價值就是侵害他人。套釋 617 的話。ACG 就算要管理,也要基於「多數人普遍認同之性觀念或性道德感情」且「對少數性文化族群.....予以保障。」來管。色情的「性秩序」紅線應由多數人認定,不是一神教替全國所有人認定。                                

全文連結