| local_llm_serving |
✅ |
跨平台本地 LLM 部署,自動選 vLLM/Ollama 後端,展示 0.6B 小模型也能有出色工具呼叫 |
| attention_visualization |
✅ |
視覺化 LLM 完整 token 序列與注意力權重分佈,理解模型如何處理上下文、推理與呼叫工具 |
| kv-cache |
✅ |
探索不同上下文管理模式對 KV Cache 的影響,示範錯誤模式如何破壞快取效率 |
| context-compression |
✅ |
實作並對比摘要、關鍵資訊擷取、語意壓縮等多種策略,保持能力的同時減少 token |
| prompt-engineering |
✅ |
擴充 Tau-Bench,量化語氣風格、指令組織、工具描述等因素對任務完成率的影響 |
| system-hint |
✅ |
研究系統提示對 Agent 行為的影響,探索如何透過最佳化系統提示提升效能 |
| log-sanitization |
✅ |
智慧日誌脫敏系統,在保留除錯資訊的同時保護敏感資料 |
| prompt-injection |
✅ |
3 種攻擊場景 × 4 種防禦設定的對照實驗,直觀展示逐層疊加防禦後注入成功率下降 |
| agent-skills-ppt |
✅ |
復現 Agent Skills「漸進式揭露」,按需載入完整流程後用 python-pptx 產生真實 .pptx |