UDF是SQL中很常見的功能，但在Spark-1.6及之前的版本，只能創(chuàng)建臨時(shí)UDF，不支持創(chuàng)建持久化的UDF，除非修改Spark源碼。從Spark-2.0開始，SparkSQL終于支持持久化的UDF。本文基于當(dāng)前最新的Spark-2.0.2版本，講解SparkSQL中使用UDF和底層實(shí)現(xiàn)的原理。
轉(zhuǎn)載注明原文http://www.cnblogs.com/shenh062326/p/6189672.html
1. 臨時(shí)UDF
創(chuàng)建和使用方法:
create temporary function tmp_trans_array as ''com.test.spark.udf.TransArray' using jar 'spark-test-udf-1.0.0.jar'; select tmp_trans_array (1, '\\|' , id, position) as (id0, position0) from test_udf limit 10;
實(shí)現(xiàn)原理，在org.apache.spark.sql.execution.command.CreateFunctionCommand類的run方法中，會判斷創(chuàng)建的Function是否是臨時(shí)方法，若是，則會創(chuàng)建一個(gè)臨時(shí)Function。從下面的代碼我可以看到，臨時(shí)函數(shù)直接注冊到functionRegistry(實(shí)現(xiàn)類是SimpleFunctionRegistry)，即內(nèi)存中。
延伸閱讀
- ssh框架 2016-09-30
- 阿里移動(dòng)安全 [無線安全]玩轉(zhuǎn)無線電——不安全的藍(lán)牙鎖 2017-07-26
- 消息隊(duì)列NetMQ 原理分析4-Socket、Session、Option和Pipe 2024-03-26
- Selective Search for Object Recognition 論文筆記【圖片目標(biāo)分割】 2017-07-26
- 詞向量-LRWE模型-更好地識別反義詞同義詞 2017-07-26
- 從棧不平衡問題 理解 calling convention 2017-07-26
- php imagemagick 處理 圖片剪切、壓縮、合并、插入文本、背景色透明 2017-07-26
- Swift實(shí)現(xiàn)JSON轉(zhuǎn)Model - HandyJSON使用講解 2017-07-26
- 阿里移動(dòng)安全 Android端惡意鎖屏勒索應(yīng)用分析 2017-07-26
- 集合結(jié)合數(shù)據(jù)結(jié)構(gòu)來看看(二) 2017-07-26
學(xué)習(xí)是年輕人改變自己的最好方式