大模型(LLMs)软硬件配置面

来自: AiGC面试宝典

扫码 查看更

1 建议的软件环境是什么?

python环境建议3.9,因为fastchat[4]等比较好的开源项目需要3.9及以上。
cuda环境越高越好, $\mathsf{c}\mathsf{+}\mathsf{+}$ 版本建议直接装9.1.0以上。