开发来源 MarkTechPost

Cmpnd发布dspy-wsp:DSPy权重空间编程优化器

Cmpnd发布MIT许可的dspy-wsp,将权重空间编程引入DSPy:前沿LLM直接读取并编辑小模型权重,无需梯度、训练循环或微调数据,约5-10美元调用可提升决策模型。

要点

  • MIT许可的原型优化器,可通过pip install dspy-wsp安装,需DSPy 3.5
  • writer为前沿LLM,直接读取并编辑student模型权重,无梯度、训练循环或微调数据集
  • 测试覆盖0.6B–9B开放决策模型;单次25轮,2B模型约需6GB内存,可在单台Mac运行
  • WeightSpace单独提升Typed Decisions 1.9–16.1分,配合ReAnchor提升6.5–20.0分
  • 最佳d1-omni-600M从50.9%升至69.1%;单次运行耗时78–167分钟,仍属实验性
阅读原文这里是中文要点整理,数字与细节以原文为准。

评论

还没有评论,来写第一条。

更多资讯

全部