免费注册 查看新帖 |

Chinaunix

  平台 论坛 博客 文库
最近访问板块 发新帖
查看: 3869 | 回复: 9
打印 上一主题 下一主题

[文本处理] 请问如何去掉文本某一列中含有的换行符 [复制链接]

论坛徽章:
0
跳转到指定楼层
1 [收藏(0)] [报告]
发表于 2017-09-29 21:04 |只看该作者 |倒序浏览
RT,例如一个TXT文件,字段间分隔符是||,其中若干条记录中第三个字段含有换行符,如何去掉?
111||222||33
33||44
1111||2222||33333||444

希望替换成:
111||222||3333||44
1111||2222||33333||444


谢谢!

论坛徽章:
307
程序设计版块每周发帖之星
日期:2016-04-08 00:41:33操作系统版块每日发帖之星
日期:2015-09-02 06:20:00每日论坛发贴之星
日期:2015-09-02 06:20:00程序设计版块每日发帖之星
日期:2015-09-04 06:20:00每日论坛发贴之星
日期:2015-09-04 06:20:00每周论坛发贴之星
日期:2015-09-06 22:22:00程序设计版块每日发帖之星
日期:2015-09-09 06:20:00程序设计版块每日发帖之星
日期:2015-09-19 06:20:00程序设计版块每日发帖之星
日期:2015-09-20 06:20:00每日论坛发贴之星
日期:2015-09-20 06:20:00程序设计版块每日发帖之星
日期:2015-09-22 06:20:00程序设计版块每日发帖之星
日期:2015-09-24 06:20:00
2 [报告]
发表于 2017-09-29 23:20 |只看该作者
  1. #!/usr/bin/perl
  2. use strict;
  3. use warnings;

  4. my $c = '';
  5. while(<DATA>){
  6.         s/\s*\z//;
  7.         if($c ne substr($_, 0, 1)){
  8.                 $_ = "\n$_" if(length($c));
  9.         }
  10.         print;
  11.         $c = substr($_, -1, 1);
  12. }

  13. __DATA__
  14. 111||222||33
  15. 33||44
  16. 1111||2222||33333||444
复制代码

论坛徽章:
2
2016科比退役纪念章
日期:2017-09-30 10:47:3315-16赛季CBA联赛之福建
日期:2017-10-13 09:46:21
3 [报告]
发表于 2017-09-30 10:44 |只看该作者
按楼主要求,字段分隔符是||, 假设只有三个字段的行才是有问题的行,才需要合并下一行。四个字段的行是正确的行,不用任何处理。a1.awk如下:
BEGIN{
        FS="\\|\\|";
        last="";
}
{       if(last!="")
        {       print last$0;
                last="";
        }
        if(NF==3)
        {       last=$0;
                next;
        }
        if(NF==4)
        {       print $0;
                last="";
        }
}

abc.txt是待处理数据文件
111||222||33
33||44
1111||2222||33333||444

执行脚本:
$awk -f a1.awk abc.txt

论坛徽章:
25
程序设计版块每日发帖之星
日期:2016-05-03 06:20:0015-16赛季CBA联赛之八一
日期:2018-07-05 10:34:09黑曼巴
日期:2018-07-06 15:19:5015-16赛季CBA联赛之佛山
日期:2018-08-03 13:19:3315-16赛季CBA联赛之山西
日期:2018-08-07 19:46:2315-16赛季CBA联赛之广夏
日期:2018-08-08 19:31:5015-16赛季CBA联赛之青岛
日期:2018-11-26 15:21:5015-16赛季CBA联赛之上海
日期:2018-12-11 09:45:3219周年集字徽章-年
日期:2020-04-18 23:54:5215-16赛季CBA联赛之深圳
日期:2020-04-19 21:40:19黑曼巴
日期:2022-04-03 17:55:1315-16赛季CBA联赛之八一
日期:2018-07-03 16:56:46
4 [报告]
发表于 2017-09-30 12:06 |只看该作者
回复 1# reallytrue

文件1内容如下:
111||222||33
33
||44
55||66
111||222||33
77
||88
1111||2222||33333||444
  1. awk -F"[|]+" '{if(NF==3){split($0,t,"||",s);a=$0;getline b;print a""s[1]""b}else{print}}' 1
  2. awk -F"[|]+" '{f=NF==3?1:0}f{a=$0}!f{b=a?a""$0:$0;print b;a=""}' 1
复制代码

输出:
111||222||3333||44
55||66
111||222||3377||88
1111||2222||33333||444

论坛徽章:
0
5 [报告]
发表于 2017-09-30 14:46 |只看该作者
提示: 作者被禁止或删除 内容自动屏蔽

论坛徽章:
2
2016科比退役纪念章
日期:2017-09-30 10:47:3315-16赛季CBA联赛之福建
日期:2017-10-13 09:46:21
6 [报告]
发表于 2017-09-30 14:57 |只看该作者
回复 5# 本友会机友会摄友会

如果超过4列的,看看对不对? 把代码改下:
BEGIN{
        FS="\\|\\|";
        last="";
}
{       if(last!="")
        {       print last$0;
                last="";
        }
        if(NF==3)
        {       last=$0;
                next;
        }
        if(NF>=4)
        {       print $0;
                last="";
        }
}

论坛徽章:
0
7 [报告]
发表于 2017-09-30 15:35 |只看该作者
提示: 作者被禁止或删除 内容自动屏蔽

论坛徽章:
28
15-16赛季CBA联赛之八一
日期:2016-02-22 19:10:4215-16赛季CBA联赛之深圳
日期:2016-12-01 10:34:0415-16赛季CBA联赛之新疆
日期:2016-12-07 10:24:2915-16赛季CBA联赛之同曦
日期:2016-12-15 12:06:43CU十四周年纪念徽章
日期:2016-12-18 13:03:4415-16赛季CBA联赛之吉林
日期:2017-01-03 15:52:2515-16赛季CBA联赛之辽宁
日期:2017-01-04 14:58:2415-16赛季CBA联赛之辽宁
日期:2017-01-15 09:42:512016科比退役纪念章
日期:2017-02-06 17:21:50黑曼巴
日期:2017-02-10 15:46:1215-16赛季CBA联赛之上海
日期:2017-03-18 10:14:5415-16赛季CBA联赛之青岛
日期:2017-03-18 22:00:44
8 [报告]
发表于 2017-09-30 16:08 |只看该作者

  1. sed -r ':a;/(.*\|\|){3}/!N;s/\r?\n//;ta'
复制代码

论坛徽章:
24
申猴
日期:2014-10-10 15:56:39射手座
日期:2014-10-10 15:57:18黑曼巴
日期:2018-05-14 11:05:122016科比退役纪念章
日期:2018-05-14 11:05:0715-16赛季CBA联赛之北控
日期:2018-05-14 11:05:0015-16赛季CBA联赛之江苏
日期:2017-02-27 18:11:0715-16赛季CBA联赛之上海
日期:2018-08-15 09:48:5415-16赛季CBA联赛之佛山
日期:2018-07-20 17:14:2315-16赛季CBA联赛之佛山
日期:2019-09-10 18:08:4615-16赛季CBA联赛之山西
日期:2020-03-26 09:40:5115-16赛季CBA联赛之佛山
日期:2020-05-08 09:03:54
9 [报告]
发表于 2017-09-30 17:28 |只看该作者
  1. [root@iZuf617rrh39krd2ux1mejZ tmp]# sed -r '1h;1!H;$!d;${g;s/([0-9]+\|\|[0-9]+\|\|[0-9]+)\n/\1/g}' aa.log
  2. 111||222||3333||44
  3. 1111||2222||33333||444
复制代码

论坛徽章:
2
2016科比退役纪念章
日期:2017-09-30 10:47:3315-16赛季CBA联赛之福建
日期:2017-10-13 09:46:21
10 [报告]
发表于 2017-09-30 18:47 |只看该作者
回复 7# 本友会机友会摄友会

是的。 还要优化下的话,应该要看楼主要求,是不是有可能是第三列分为多行的情况。
您需要登录后才可以回帖 登录 | 注册

本版积分规则 发表回复

  

北京盛拓优讯信息技术有限公司. 版权所有 京ICP备16024965号-6 北京市公安局海淀分局网监中心备案编号:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年举报专区
中国互联网协会会员  联系我们:huangweiwei@itpub.net
感谢所有关心和支持过ChinaUnix的朋友们 转载本站内容请注明原作者名及出处

清除 Cookies - ChinaUnix - Archiver - WAP - TOP