LLaMA上手:离线运行在本地的类ChatGPT语言模型(文章生成+对话模式+续写DMC5名场面)运行在Windows和macOS下
网上有详细教程macOS的话很简单,GitHub项目llama.cpp直接下下来跟着指南走就行了,最好能确保50G可用空间Windows麻烦不少但是llama.cpp那里也有教程这个东西完全是CPU计算,不需要显卡。(显存不够的也可以用了)不过llama-7B实在是有一点让人感到差强人意(就是那种大体上,勉强地,有一种让人感到薛定谔的满意的),跟ChatGPT相比还是有不少差距。