请教一下大家，自己搭建大模型的话，买硬件自己运行一些开源的模型有没有什么最佳实践
请教一下大家，自己搭建大模型的话，买硬件自己运行一些开源的模型有没有什么最佳实践。比如之前很火的A100，这个40G版本就要3万，而4090的24GB版本只要1.2万，那么用游戏级的显卡去跑大模型会比较有性价比吗？
欢迎讨论一下~
----------------------------------------------------------------------------
来源：知识星球
|
本帖子中包含更多资源
您需要 登录 才可以下载或查看，没有账号？立即注册
x
|
|
|
|
|
|
|
|
