Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

Sign up for GitHub

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

Jump to bottom

运行时崩溃 #49

Open
ItsPeter999 opened this issue May 8, 2023 · 3 comments
Open

运行时崩溃 #49

ItsPeter999 opened this issue May 8, 2023 · 3 comments

Comments

@ItsPeter999
Copy link

这个项目我在ubuntu（i7，32g内存，3060ti）上面跑，我只选了4w条数据，内存占用特别高，读完训练验证集32G内存就满了，然后就崩溃。但是在macbook（m1，8g内存）上就可以跑，而且不卡，只是训练得慢一点。

数据量是4000左右的时候，ubuntu还是能跑，挺快的，内存在用在12-16G之间。

这是为什么呀，有什么解决办法吗？
@rjycty
Copy link

rjycty commented May 16, 2023

这个模型需要的内存非常大，作者也写了需要128G+的内存，4w条数据32G肯定是不够的的，我5W条数据64G内存都会out of memory。
mac我没试过，不过作者给了个时间换内存的方法，你可以试下效果#11

@ItsPeter999
Copy link
Author

这个模型需要的内存非常大，作者也写了需要128G+的内存，4w条数据32G肯定是不够的的，我5W条数据64G内存都会out of memory。 mac我没试过，不过作者给了个时间换内存的方法，你可以试下效果#11

谢谢你的回答。的确是这样的，我去研究一下。

@rjycty
Copy link

rjycty commented May 16, 2023

GPU显存的消耗你有研究过吗，我现在用的2张16G显存的显卡，5W数据显示HIP out of memory

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Assignees
No one assigned
Labels
None yet
Projects
None yet
Milestone
No milestone
Development

No branches or pull requests
2 participants
@rjycty @ItsPeter999