大模型部署:用 Ollama 对外提供 API 服务实操
从安装、拉取模型、启动服务到 REST/OpenAI 兼容 API 调用,说明如何用 Ollama 把本地大模型部署成可供局域网或公网访问的推理服务,并覆盖安全与常见接入方式。
SFTTrainer 详解:TRL 监督微调训练器
系统介绍 Hugging Face TRL 库中 SFTTrainer 的定位、数据格式、损失计算、SFTConfig 关键参数、与 PEFT 集成及常见踩坑,作为模型监督微调的技术参考。