林一二2023年08月04日 15:56
例如https://github.com/BlinkDL/ChatRWKV或更轻量的模型,做到人人可用,跑不动的可以用更简单的仅通过embedding提供语义搜索的模型。甚至回退到简单的全文搜索,探索这些作为 Electron 应用插件来加载的方式。
- LLaMA 是 Facebook 推出的开源语言模型,斯坦福的 Alpaca 模型基于 LLaMA-7B 和指令微调降低了调用成本,而且有 LoRA 版,也有 DaLai 这个提供 NodeJS 接口的库
- 调研CPU运行语言模型的结果
已接入 llama-node 并成功在 Electron 上打包
Undefined widget 'supertag-form'