単語リストを結合するにはどうすればいいですか(重複を削除)?

単語リストを結合するにはどうすればいいですか(重複を削除)?

1 つのテキスト ファイルで、一意の単語の長いリスト (1 行に 1 つの単語) を編集しています。

私は Notepad++ と TextFXTools を使用して単語リストを結合しましたが、問題なく動作しました。リストの最後に新しい単語を追加し、FXTools を使用して重複を削除しました。リストが数百万語と大きくなるまでは動作しました。Notepad++ は、これほど大きなリストでは頻繁にクラッシュします。

1 つの大きなリストに新しい単語リストを追加し、重複を削除して一意の単語のみを保持する方法が必要です。どうすればこれを実現できますか?

答え1

このツールは HTML5 ブラウザから使用できます。 http://textmechanic.com/Big-File-Tool-Remove-Duplicate-Lines.html

答え2

  1. Excelを開いてA1セルに移動し、見出しとして何かを入力します
  2. 記録をA2、A3、A4などのセルに貼り付けます
  3. A1セルを選択し、Data-> Advance->OKプロンプトが表示されたらクリックします。
  4. クリックUnique Data OnlyしてクリックOK
  5. これでリストに重複データがなくなるはずです

関連情報