GPU内存需求是无限的

十年前我的macbook就已经16GB内存了，现在主流也就32GB。原因是够用就行。

但是LLM不一样，随便改个模型尺寸，就是double。Context也是越长越好。

所以美光，海力士，三星永远涨！

纯个人浅薄观点

未来有没有可能随着技术进步， 不需要占用那么多内存也能达到差不多的效果？

匿名用户 发表于 2026-07-06 09:26:37
未来有没有可能随着技术进步， 不需要占用那么多内存也能达到差不多的效果？

有；neuromorphic computing

主要未来机器人，无人驾驶车这些，也需要内存。会让GPU，内存从耐用品变成消耗品。