分享

安装单机版大语言模型AI,基于LLaMA的斯坦福大学开源Alpaca

 dbn9981 2024-05-27 发布于北京

个人电脑即可,不需要GPU,但内存最好大于8G。我是在VM虚拟机中安装成功,且流程运行。

1. 首先使用如下命令下载 alpaca.cpp 项目


2.进入项目后,下载模型

cd alpaca.cpp

 下载模型到目录中,下载地址

3.然后编译

make chat

4.开始运行

./chat

如果运行时报错,有可能是内存或CPU性能不足。

英语场景很流畅,对中文的支持一般,不过这个不重要了。单机版AI安装成功

    本站是提供个人知识管理的网络存储空间,所有内容均由用户发布,不代表本站观点。请注意甄别内容中的联系方式、诱导购买等信息,谨防诈骗。如发现有害或侵权内容,请点击一键举报。
    转藏 分享 献花(0

    0条评论

    发表

    请遵守用户 评论公约

    类似文章 更多