| local_llm_serving |
✅ |
跨平台本地 LLM 部署,自动选 vLLM/Ollama 后端,展示 0.6B 小模型也能有出色工具调用 |
| attention_visualization |
✅ |
可视化 LLM 完整 token 序列与注意力权重分布,理解模型如何处理上下文、推理与调用工具 |
| kv-cache |
✅ |
探索不同上下文管理模式对 KV Cache 的影响,演示错误模式如何破坏缓存效率 |
| context-compression |
✅ |
实现并对比摘要、关键信息提取、语义压缩等多种策略,保持能力的同时减少 token |
| prompt-engineering |
✅ |
扩展 Tau-Bench,量化语气风格、指令组织、工具描述等因素对任务完成率的影响 |
| system-hint |
✅ |
研究系统提示对 Agent 行为的影响,探索如何通过优化系统提示提升性能 |
| log-sanitization |
✅ |
智能日志脱敏系统,在保留调试信息的同时保护敏感数据 |
| prompt-injection |
✅ |
3 种攻击场景 × 4 种防御配置的对照实验,直观展示逐层叠加防御后注入成功率下降 |
| agent-skills-ppt |
✅ |
复现 Agent Skills「渐进式披露」,按需加载完整流程后用 python-pptx 生成真实 .pptx |