maskerprc /
阮老师好， 一直在读周刊，受益很多。最近业余时间做了一个小项目，想斗胆投个稿，若不合适请直接忽略就好。 项目叫 TinyBERT Pipeline，是一个 Agent 服务框架。我想强调的是：从「说一句话想要什么能力」到「线上真的用起来」，中间没有手工训练脚本、没有自己标数据、没有本地点下一步——整条链路都是程序自动跑的。 具体来说：意图分析、任务类型与模型架构选型、训练数据批量生成与校验、小模型训练与 ONNX 导出、工具注册、以及根…
阮老师好， 一直在读周刊，受益很多。最近业余时间做了一个小项目，想斗胆投个稿，若不合适请直接忽略就好。 项目叫 TinyBERT Pipeline，是一个 Agent 服务框架。我想强调的是：从「说一句话想要什么能力」到「线上真的用起来」，中间没有手工训练脚本、没有自己标数据、没有本地点下一步——整条链路都是程序自动跑的。 具体来说：意图分析、任务类型与模型架构选型、训练数据批量生成与校验、小模型训练与 ONNX 导出、工具注册、以及根据新能力自动重写核心流程代码（loop.js）并热替换，全部是自动化编排完成的；其中小模型训练也是由系统在后台调度 Python 训练流程、写完模型再注册进服务，不需要人单独开训练作业或填参数才能训一版。大模型主要负责请求兜底和驱动上述自动化流水线，高频重复的事会逐步被轻量推理接过去。 举个很简单的例子：在「进化」里用一句话写——「用户一开口就判断是否恶意，是的话直接回复：请好好说话」——系统会按意图选好任务类型和模型架构，自动生成训练数据、训好小模型并注册成工具，再改好 loop.js 让请求先过小模型分流。 流水线里不同步骤用不同模型，都在配置里可换（默认走 OpenRouter 统一接入）。大致分工是：GPT 系（如 openai/gpt-5.4） 负责进化侧的意图分析和任务形态 + 轻量模型架构选型（分类 / NER / 相似度 / 回归该走哪条、FastText 到 DistilBERT 选哪档）；Gemini 一路负责真实用户对话（如 google/gemini-3.1-pro-preview），另一路用偏快偏省的 Flash 系（如 google/gemini-2.5-flash-lite）做大批量训练数据生成与标注；Claude（如 anthropic/claude-opus-4.6）专门做 loop.js 的生成与迭代，保证流程代码可热替换。线上「小」的一侧则是配置里的候选架构列表（如 fasttext,tinybert,minilm,distilbert），由系统自动按任务复杂度选够用最小的一档，训完用 ONNX / FastText 推理。 技术栈是 Express + Vue 3，推理 ONNX / FastText，训练侧 PyTorch。代码还很粗糙，欢迎拍砖。
讨论这个产品