シーン:テキストファイル、数百万行のデータを持つLinuxサーバ上で、私はこの文書をお知りになりたい、それを行う方法重複行は、存在しませんか?
考えは上記の問題を解決することができるコマンドが感じるのgrep、wcは、awkのようなので、Linux上で多くの小さなツールを、持っている、Baiduは、本当に、本当に、ハハ。
$ソートファイル名| uniqの-d
上記コマンドは、もちろん、何も出力ない重複行(UNIX哲学)を表していない、直接複製端末にコンテンツを表示することができ
$ソートファイル名| UNIQ> res.txt
重複排除した後、その後、結果をファイルにリダイレクトします:
$トイレ-l res.txt
重複排除を提出する行数を確認した、以前に比べて、我々は、重複行があるかどうかを判断することができます。