chatRWKV是以RNN为基础的NLP模型
rwkv.cpp是一个用cpp部署chatRWKV的项目。
项目代码来源于https://github.com/saharNooby/rwkv.cpp
这份代码主要添加了模型后处理的一些细节,以支持中文,改善用词重复问题。
- 请参考原来的项目。
- 使用方法和原项目一样。
- 百度云链接: https://pan.baidu.com/s/1bZJGki62CMsWCItGjDFz7A 提取码: 1234
- 根据原来的项目转换模型。
- 模型下载地址是 https://huggingface.co/BlinkDL/rwkv-4-raven/tree/main
- B站视频介绍链接:https://www.bilibili.com/video/BV1KX4y1z7cM
- 注意是Raven模型也就是对话模型。bot.py里面只对话进行了处理。
- 祝你玩得愉快。