我要评论前言
大家都知道shell在文本处理上确有极大优势，比如多文本合并、去重等，但是最近遇到了一个难搞的问题，即两个大数据量文件去重。下面来看看详细的介绍吧。
要求
有txt文件a.txt和b.txt。
其中a为关键词和搜索量，以逗号分隔，约90万行。
b为关键词，约400万行。
需要从a中找出与b重复的关键词。
我试了n种姿势，但结果都不尽人意，最奇怪的是有些方法对小数据量的测试文件有用，一旦用在a与b上就会失败，真叫人百思不得其解。
姿势一：
awk -f, '{print $1}' a >keywords.txt
cat keywords.txt b.txt | sort | uniq -d
#先从a.txt种取出关键词，然后与b.txt一起打开，用sort排序，uniq -d 取出重复的行
姿势二：
awk -f, '{print $1}' a >keywords.txt
#照例先取出关键词
comm -1 -2 keywords.txt b.txt
#利用comm命令，显示两个文件都存在的行
姿势三：
awk -f, '{print $1}' a >keywords.txt
for i in `cat keywords.txt`
do
a=`egrep -c "^$i$" b.txt`
if [ $a != 0 ]
then
echo $i >>重复关键词.txt
fi
done
#这种姿势就稍微复杂点
#首先取出关键词，然后利用for循环逐个去b.txt里面匹配（注意正则写法^$i$），如果匹配到的结果数不为0，说明这个关键词是重复的，然后输出
#这种方法的优点是稳妥，缺点是效率太tm低了，90万个词逐一与400万词匹配，shell默认又没有多线程，耗时太长。
姿势四：
awk -f, '{print $1}' a >keywords.txt
cat keywords.txt b.txt | awk '!a[$1]++'
#这个方法的原理其实我不太懂，awk命令实在太强大太高深了，但是这种方法又简洁又快速
其实还有一种grep -v 、grep -f 的方法，但是我没有试过，所以不在这里列出了。
总结
以上就是这篇文章的全部内容了，希望本文的内容对大家的学习或者工作能带来一定的帮助，如果有疑问大家可以留言交流。
您可能感兴趣的文章:
如您对本文有疑问或者有任何想说的，请 点击进行留言回复，万千网友为您解惑！
网友评论