Ta好神秘,什么都没有留下。
注册8周年签到2590天
IP属地:浙江

芝麻信用评估

芝麻信用评分是合法独立的信用评估及信用管理机构,授权后得到分数越高,代表信用越好
爆料 更多
评论 更多

是的,70B要24G显存,64G内存
https://cheatsheet.md/llm-leaderboard/how-to-run-llama-3-locally.en#system-requirements-for-running-llama-3-locally

04-29 10:56

llama3 70B,可以和GPT4比,虽然某些原因中文一般
写的硬件要求是8G显存GPU和32G内存,不知道对支持AI的CPU要求怎样,也不知道这是微调要求还是使用要求,有高手知道吗?

04-28 16:56

这个值率比SER8高?因为这个不值得黑?

04-28 16:19
本周关注热点
原创达人榜 查看更多
1
292 2987
2
352 1780
3
676 257
4
792 732
5
578 421

关注数量超出限制,
请先删除部分内容再尝试