查看: 4950| 回复: 5
跳转到指定楼层
上一主题 下一主题
收起左侧

[学Python/Perl] 关于合并用python导入spark,RDD中的CSV数据的问题

全局:

注册一亩三分地论坛,查看更多干货!

您需要 登录 才可以下载或查看附件。没有帐号?注册账号

x
#数据说明:
#Stage1_train_label.CSV         400X7(400行7列),无用数据只有第一列的序列号,
#Stage1_train_feature.CSV     400X73(400行73列),无用数据第一列是序列号


#将RDD元素转换成float型函数
def converttofloat(s):   
    l = (float(i) for i in s)

    return l

#读取数据 sc.textFile 并去掉label、feature第一列无用数据
Data_train_label = sc.textFile(r'Stage1_train_label.CSV',6,0).map(lambda row:row.split(',')).map(lambda s:s[1:])          #不明白6,0是什么意思
Data_train_feature = sc.textFile(r'Stage1_train_feature.CSV',72,0).map(lambda row:row.split(',').map(lambda s:s[1:])

Data_train_label_Sum = Data_train_label.map(lambda s:(int(s[0])+2*int(s[1])+4*int(s[2])+10*int(s[3])+20*int(s[4])+40*int(s[5]))) #多标签转换成单标签 各标签的权值分别是 1,2,4,10,20,40
Data_train_feature =Data_train_feature.map(converttofloat)

#合并数据 的目标是:
#将Data_train_label_Sum的400个元素依次添加到Data_train_feature 400个RDD内最后一个位置
Data_train = Data_train_feature.union(Data_train_label_Sum)
print Data_train.collect()

#结果:Data_train_label_Sum的400个元素 直接添加到 Data_train_feature 后面




对于这样简单问题,我也不会,查阅资料尝试许久还是没有解决,最终鼓起勇气发帖求救!!
求各位师兄师姐前辈指点指点
怎么实现添加到数列最后一个位置的合并
谢谢了





上一篇:问两道google的原题
下一篇:求问google那个maximize vacation day的题目具体
🔗
luochen01 2016-2-29 21:24:11 | 只看该作者
全局:
合并数据应该可以用zip,然后有必要的话再map一下……
回复

使用道具 举报

🔗
dangyue 2016-2-29 23:36:33 | 只看该作者
全局:
textfile里面的参数是数据分片的参数吧,我看官网上是minPartition,应该有默认值。union为啥不能用呢?我想试一下~你有QQ吗,我的857739226,可以交流一下~我也刚学Spark,不知这部分好找工作吗~
回复

使用道具 举报

🔗
wwk55551111 2016-3-1 00:11:53 | 只看该作者
全局:
嘿嘿,想把最后一列弄成目标,弄机器学习是吧。可以把两个先打散再union
回复

使用道具 举报

🔗
 楼主| CraigZhang 2016-3-1 14:11:21 | 只看该作者
全局:
dangyue 发表于 2016-2-29 23:36
textfile里面的参数是数据分片的参数吧,我看官网上是minPartition,应该有默认值。union为啥不能用呢?我 ...

union 直接将第二个RDD全部连接到最后面了  我也是正开始学 q 1602735534
回复

使用道具 举报

🔗
 楼主| CraigZhang 2016-3-1 14:14:34 | 只看该作者
全局:
wwk55551111 发表于 2016-3-1 00:11
嘿嘿,想把最后一列弄成目标,弄机器学习是吧。可以把两个先打散再union

怎么打散??
恩恩  想做机器学习  打标签什么方法算法还没有思路啊。。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 注册账号
隐私提醒:
  • ☑ 禁止发布广告,拉群,贴个人联系方式:找人请去🔗同学同事飞友,拉群请去🔗拉群结伴,广告请去🔗跳蚤市场,和 🔗租房广告|找室友
  • ☑ 论坛内容在发帖 30 分钟内可以编辑,过后则不能删帖。为防止被骚扰甚至人肉,不要公开留微信等联系方式,如有需求请以论坛私信方式发送。
  • ☑ 干货版块可免费使用 🔗超级匿名:面经(美国面经、中国面经、数科面经、PM面经),抖包袱(美国、中国)和录取汇报、定位选校版
  • ☑ 查阅全站 🔗各种匿名方法

本版积分规则

>
快速回复 返回顶部 返回列表