关于follow up里关于多线程和多机器的套路

在coding面试里，经常性的在解决了一个算法题后，面试官会follow up一些关于多线程或者多机器的问题， 比如说：

• 这个程序在多线程的情况下，会出现什么问题？race condition怎么解决？
• 这个matrix太大了，一个机器内存不够，怎么解决？
  

不知道大佬们怎么系统性的回答这类问题，有套路可寻么？

这类问题在共享memory的时候是concurrent and synchronization，在不共享memory的时候成为distributed computing。多线程和多机器的处理方式有所不同。

第一个问题常见的就是一个variable，会有concurrent read/write。 例如setter/getter， 两个线程同时写的时候，你要保证数据的完整性。又例如producer/consumer，在没有东西的时候consumer要等着，在容量满了的时候producer要等着。如果两个线程都只是read only就没有任何问题，
需要找出critical section，然后用合适的，efficient的synchronization mechanism。
第二个问题主要是看如何能divide and conquer，或者on the fly process。一个庞大的数据，如果能分成独立的小部分，然后再汇总结果的话就可以轻易地分到多个机器解决。或者要把一个问题分成多步进行处理，例如用多个机器进行sorting

https://blog.csdn.net/v_july_v/article/details/7382693 这个贴子还不错

同好奇，我只能从hashmap到分个文件处理然后提一下map reduce。。。后面的不会了

浴火羽腾YZCR 发表于 2020-4-30 20:16
这类问题在共享memory的时候是concurrent and synchronization，在不共享memory的时候成为distributed comp ...

多谢多谢，很有帮助！

mikezhao1993 发表于 2020-5-2 02:31
多谢多谢，很有帮助！

这玩意其实真深究下去是和架构息息相关的，比如多线程的话，一个thread sleep了以后可能会在另外一个numa node被wake up，然后直接hard error需要去硬盘读取数据，性能暴降。
所以我一般是一开始的时候就直接问，需不需要考虑多线程多进程，等确定了要不要以后再设计class。有的会有lock free solution，可以设计的时候就考虑进去

第一个问题，单机多线程的时候可以聊，比如synchronize, reentrant lock, volatile, ThreadLocal, CAS...多机的话没太明白，是指多机操作比如share的DB吗？如果不是DB的话，别的资源都是在各自的JVM上，每个Host都是share-nothing architecture互相之间应该没影响.

建议找个讲系统设计的网课上上，imooc/某章/百度云都行，盗版的也无所谓，上完基本就对这种题的所有问法都清楚了。

非常有帮助的帖子Mark一下
除了面试想知道实际工作中怎么分布处理海量数据的技巧和经验？