• 在Mac m1运行ChatGLM3-6B cpu版本1-3秒出结果

  实测： 输入内容：295个字，1.9秒开始出结果，这个速度接近T4。 具体过程如下： 1.准备环境 git clone –recursive https://githu…

  移动开发 1天前
• 数据库

  【大模型知识库】（1）：系统架构设计思考/调研。开源项目llm-knowledge-system，部署mysql，seilisearch，milvus，fastchat的ChatGLM3，BGE-zh

  1，视频地址 https://www.bilibili.com/video/BV1N94y1n7UF/ 【大模型知识库】（1）：设计开源项目，docker部署mysql，seili…

  1天前