llama
-
LLM系列 | 19 : Llama 2实战(上篇)-本地部署(附代码)
简介 小伙伴们好，我是《小窗幽记机器学习》的小编：卖热干面的小女孩。紧接前文：万字长文细说ChatGPT的前世今生，后续会尝试以理论+实践的方式逐步对主流的各大LLM进行实测和汉化…
-
LLaMA-Factory使用V100微调ChatGLM2报错 RuntimeError: “addmm
微调命令 CUDA_VISIBLE_DEVICES=0 python /aaa/LLaMA-Factory/src/train_bash.py \ –stage sft \ –…
-
仅需5行代码，从HuggingFace到昇腾人工智能计算中心
今日话题 Optimum Ascend HuggingFace Transformers用户的福音来了，昇腾推出高阶迁移工具Optimum Ascend ，只需几行代码可以让Tr…
-
text-generation-webui加载codellama报错DLL load failed while importing flash
使用text-generation-webui加载codellama，报错： Traceback (most recent call last): File “C:\Users\M…
-
【AI】Chinese-LLaMA-Alpaca-2 7B llama.cpp 量化方法选择及推理速度测试 x86
环境 操作系统 CPU 内存 生成量化版本模型 转换出q4_0 q4_k q6_k q8_0模型 cd ~/Downloads/ai/llama.cpp sourvce venv…
-
text2sql：SQLCoder的简介、安装、使用方法之详细攻略
SQLCoder的简介 SQLCoder 是一个 15B 参数模型，在 sql-eval 框架上，它的性能优于自然语言到 SQL 生成任务，并且明显优于所有流行的开源模型。在给定架…
-
【AI实战】llama.cpp 量化部署 llama-33B
【AI实战】llama.cpp 量化部署 llama-33B llama.cpp 量化介绍 环境配置 安装 llama.cpp 拉取 llama.cpp 仓库代码 编译llama….
