有没有关于此项目的微信交流群

[zhuipiaochen]

你好有没有关于此项目的微信交流群

[jeffzhou2000]

你好有没有关于此项目的微信交流群

您好，谢谢关注此项目。

抱歉6月4号下午7点左右才看到。

目前没有微信交流群（未来应该也不会有）。

对项目感兴趣的开发人员，可以提交issue report或者code PR.目前有两个重点方向：
1.通过开源社区协同的方式，完全实现ggml推理框架的Qualcomm backend，有如下几个问题需要解决：

• 量化数据的处理，只需要处理add,mul,mulmat。参考资料：explanation of k-quants, k-quants ggml-org/llama.cpp#1684
• NPU backend的完整实现（先略过GPU backend），目前NPU后端的性能太差

2.改进ggml推理框架的推理性能：现在的ggml backend subsystem有改进的空间，尤其不少backend实际上是单线程执行推理。

如果没有疑问，此issue将会被关闭。如您有需要，未来也可以再打开。谢谢。