RadLite：小型語言模型的多任務 LoRA 微調，實現 CPU 可部署的放射科 AI

研究團隊針對大型語言模型在放射科應用中因運算需求過高而難以在資源受限環境部署的問題，提出使用 30 億至 40 億參數的小型語言模型（SLMs）解決方案。研究團隊利用 LoRA 微調技術，在包含 162,000 個樣本的數據集上訓練了 Qwen2.5-3B-Instruct 與 Qwen3-4B 兩個模型，該數據集整合自 12 個公共數據庫，涵蓋影像分類、報告生成、時間比較、放射科自然語言推論（NLI）、命名實體識別（NER）、異常偵測、N/M 分期及放射科問答等 9 項任務。

實驗結果顯示，LoRA 微調顯著提升了模型性能，相較於零樣本基線，RADS 準確度提升 53%、NLI 提升 60%、N 分期提升 89%。在模型特性方面，Qwen2.5 在結構化生成任務上表現優異，而 Qwen3 則在提取式任務中佔據主導地位；研究進一步指出，結合兩者的任務外推（task-outed）神諭集成（oracle ensemble）在所有任務中達到了最佳性能。此外，研究發現對微調後的模型進行少樣本提示（few-shot prompting）反而會降低性能，證明在專業領域中 LoRA 適應比在上下文學習更有效。

為了實現消費級 CPU 部署，研究團隊將模型量化為 GGUF 格式，大小約為 1.8 至 2.4GB，可在消費級硬體上以每秒 4 至 8 個詞元的速度運行。這項被稱為 RadLite 的工作證明，小型且經過高效微調的模型可作為完全在消費級硬體上部署、無需 GPU 支援的實用多任務放射科 AI 助手。