a亚洲精品_精品国产91乱码一区二区三区_亚洲精品在线免费观看视频_欧美日韩亚洲国产综合_久久久久久久久久久成人_在线区

首頁 > 編程 > Perl > 正文

perl去除重復內容的腳本代碼(重復行+數組重復字段)

2020-10-31 15:17:05
字體:
來源:轉載
供稿:網友

假如有這樣的一段序列:
1 2 
1 2 
2 1 
1 3 
1 4 
1 5 
4 1
我們需要得到如下的結果:
1 3 
1 5 
2 1 
4 1
那么,請借助以下的perl腳本來實現。

代碼一:

復制代碼 代碼如下:

#!/bin/perl
use strict; 
use warnings; 
my $filename; 
my %hash; 
my @information; 
my $key1; 
my $key2; 
print "please put in the file like this f:////perl////data.txt/n"; 
chomp($filename=<STDIN>); 
open(IN,"$filename")||die("can not open"); 
while(<IN>) 

   chomp; 
   @information=split//s+/,$_; 
   if(exists $hash{$information[0]}{$information[1]}) 
   { 
       next; 
   } 
   else 
   { 
       $hash{$information[0]}{$information[1]}='A'; 
    } 
   } 
   close IN; 
   open(IN,"$filename")||die("can not open"); 
   while(<IN>) 
   { 
       @information=split//s+/,$_; 
       if(exists $hash{$information[1]}{$information[0]}) 
       { 
           delete $hash{$information[0]}{$information[1]} 
       } 
       else 
       { 
           next; 
       } 
   } 
   close IN; 
   open(OUT,">f://A_B_result.txt")||die("can not open"); 
   foreach $key1 (sort{$a<=>$b} keys %hash) 
   { 
       foreach $key2 (sort{$a<=>$b} keys %{$hash{$key1}}) 
       { 
           print OUT "$key1 $key2/n"; 
       } 
   } 
close OUT;


代碼二:

如果有一個文件data有10G大,但是有好多行都是重復的,需要將該文件中重復的行合并為一行,那么我們需要用什么辦法來實現
cat data |sort|uniq > new_data #該方法可以實現,但是你需要花上好幾個小時。結果才能出來。
下面是一個使用perl腳本來完成此功能的小工具。原理很簡單,創建一個hash,每行的內容為鍵,值由每行出現的次數來填充,腳本如下;

復制代碼 代碼如下:

#!/usr/bin/perl
# Author :CaoJiangfeng
# Date:2011-09-28
# Version :1.0
use warnings;
use strict;

my %hash;
my $script = $0; # Get the script name

sub usage
{
        printf("Usage:/n");
        printf("perl $script <source_file> <dest_file>/n");

}

# If the number of parameters less than 2 ,exit the script
if ( $#ARGV+1 < 2) {

        &usage;
        exit 0;
}


my $source_file = $ARGV[0]; #File need to remove duplicate rows
my $dest_file = $ARGV[1]; # File after remove duplicates rows

open (FILE,"<$source_file") or die "Cannot open file $!/n";
open (SORTED,">$dest_file") or die "Cannot open file $!/n";

while(defined (my $line = <FILE>))
{
        chomp($line);
        $hash{$line} += 1;
        # print "$line,$hash{$line}/n";
}

foreach my $k (keys %hash) {
        print SORTED "$k,$hash{$k}/n";#改行打印出列和該列出現的次數到目標文件
}
close (FILE);
close (SORTED);

代碼三:

通過perl腳本,刪除數據組中重復的字段

復制代碼 代碼如下:

#!/usr/bin/perl
use strict;
my %hash;
my @array = (1..10,5,20,2,3,4,5,5);
#grep 保存符合條件的元素
@array = grep { ++$hash{$_} < 2 } @array;
print join(" ",@array);
print "/n";

發表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發表
主站蜘蛛池模板: 精品国产乱码久久久久夜 | 免费福利视频一区 | 欧美一区二区三区四区五区 | 一区二区三区国产精品 | 一区不卡在线 | 国产高清av在线一区二区三区 | 97久久精品人人做人人爽50路 | 欧美三级 欧美一级 | 国产成人久久 | 黄色网址免费 | 国产精品无码专区在线观看 | 黄色一级毛片在线观看 | 日韩国产在线观看 | 欧美精品网站 | 伊人在线 | 日本高清一区 | 男人天堂中文字幕 | 成人久久久精品国产乱码一区二区 | 日韩欧美在线播放 | 国产高清一区二区 | 四虎影视库 | 色呦呦在线看 | 男人的天堂视频网站 | www.污污视频| 亚洲精品乱码久久久久久蜜桃图片 | 国产一区二区三区在线免费观看 | 久久999 | 亚洲免费网站在线观看 | 亚洲免费视频网站 | av大片网| 欧美日韩中文字幕在线 | 久久在线视频 | 成人不卡一区二区 | 99久久日韩精品视频免费在线观看 | 一区二区在线免费观看 | 在线观看免费毛片视频 | 久久久国产精品 | 九一亚洲精品 | 四色成人av永久网址 | 久久久久国产一区二区三区 | 久久久久久久久免费视频 |