跳到主要内容

文档导航（阅读须知）

本仓库的文档更像“工具箱手册”。写了很多脚本的详细情况，内容较多可以按照本页寻找重点。

阅读须知

每一份文档都有对应Github仓库内的一份或多份脚本
其余文件均为辅助性脚本，不影响评测最终得分，但是对于调试过程有很大的帮助
大部分脚本都设置了不少的环境变量和参数，本文档的作用在于查询参数作用和具体代码细节
注意！！！！能够保证正常运行的只有serve.py等核心文件（也就是同步进Gitee仓库用于提交的），辅助脚本有可能会存在硬编码，不一定全部环境都能正常使用！！！！

下一步

如果想直接启动，请看“快速启动”。
如果想查询具体参数，可以在以下卡片内寻找需要查询的文档进入
文件总览：见“文件与目录说明（全仓库）”。

入口（卡片导航）

导入参数、启动后端、跑一次本地评测，WebUI。

可以直接看见效果

文件与目录说明

全仓库文件/脚本用途索引：从入口脚本到调参/量化工具。

找文件先看这里

推理服务serve.py

主要推理代码的参数，逻辑，代码实现。

启动与脚本

run_model.sh / env_force.sh / judge.sh：本地复现评测流程与常用工具。

复现与调试

eval_local.py：按评测口径计算 RougeL-F1，并辅助观察吞吐。

本地测试模型得分

Gradio 调试入口：参数透传、batch 测试、RAG。

auto_tune：自动搜索推理参数组合，记录结果并选最优。

邮件+飞书通知

下载 / 融合 LoRA / 上传：围绕 ModelScope 的工程脚本与规范。

AWQ 量化 + 校准集生成：探索更高吞吐的路线之一。

失败了失败了失败了失败了失败了失败了失败了（准确率太低）

阅读须知
下一步
入口（卡片导航）