平民炼丹我选择使用AWS竞价实例(抢占实例,spot instance)
如果不需要长时间使用GPU,使用公有云竞价实例并挂载额外的可持久化数据盘,可以在保证性能的同时节省成本。
在AWS上选择GPU实例和EBS Volume(云硬盘),可以最大程度地保证资源利用率,而且联网速度更快,价格也比较合理。我选择AWS的原因主要有以下几点:
1.AWS上提供的GPU Instance数量很多,基本可以满足各种需求。
2.在AWS选美国东部区域下载库和模型文件速度很快,实测达到100MB/s。
3.AWS提供免费带宽1Gbps以上,流入数据不收费,相比之下国内厂商的带宽或流量都要收费,而且价格比较高。
为了更方便地管理AWS GPU竞价实例,我还准备了一个脚本,可以省去控制台上繁琐的操作。详情请参见我的GitHub项目:
GitHub - cocomany/GPUSpot: manage GPU Spot instanc...
----------------------------------------------------------------------------
来源:知识星球
|
|
|
|
|