Cmpnd发布dspy-wsp:DSPy权重空间编程优化器
Cmpnd发布MIT许可的dspy-wsp,将权重空间编程引入DSPy:前沿LLM直接读取并编辑小模型权重,无需梯度、训练循环或微调数据,约5-10美元调用可提升决策模型。
要点
- MIT许可的原型优化器,可通过pip install dspy-wsp安装,需DSPy 3.5
- writer为前沿LLM,直接读取并编辑student模型权重,无梯度、训练循环或微调数据集
- 测试覆盖0.6B–9B开放决策模型;单次25轮,2B模型约需6GB内存,可在单台Mac运行
- WeightSpace单独提升Typed Decisions 1.9–16.1分,配合ReAnchor提升6.5–20.0分
- 最佳d1-omni-600M从50.9%升至69.1%;单次运行耗时78–167分钟,仍属实验性
阅读原文这里是中文要点整理,数字与细节以原文为准。
评论
还没有评论,来写第一条。