Spark如何处理中文字符串

最近工作中需要用spark对中文的字符提取,由于环境一直是英文的,发现打印出来是乱码。后经研究,需要做一个UTF-8的转换
大概如下:

val data_file = sc.textFile(“test.txt”)
val item1 = data_file.map(p => new String(p.getBytes, 0, p.getLength, "UTF-8")).map{
    item => XXX
    }

分享文章:Spark如何处理中文字符串
本文地址:http://csruizhi.cn/article/ghghgc.html

其他资讯

Copyright © 2007-2024 成都优众联杰科技有限公司 All Rights Reserved 蜀ICP备2024116266号
友情链接: 成都网站建设 LED网站设计方案 成都做网站建设公司 成都定制网站建设 成都网站设计 成都网站制作 成都品牌网站设计 手机网站设计 成都商城网站建设 盐亭网站设计 成都网站设计 品牌网站建设 响应式网站设计 高端网站设计 成都网站设计 成都网站制作 外贸营销网站建设 成都网站建设 成都网站建设 阿坝网站设计 成都企业网站建设 网站设计