可见实现非常简单,首先调用SparkPlan.execute得到结果的RDD,然后从每个partition中取前limit个row得到一个新的RDD,然后再将这个新的RDD变成一个分区,然后再取前limit个,这样就得到最终的结果。
【原创】经验分享(15)spark sql limit实现原理
标签:https test tor div table intern ide 原创 from
可见实现非常简单,首先调用SparkPlan.execute得到结果的RDD,然后从每个partition中取前limit个row得到一个新的RDD,然后再将这个新的RDD变成一个分区,然后再取前limit个,这样就得到最终的结果。
【原创】经验分享(15)spark sql limit实现原理
标签:https test tor div table intern ide 原创 from