知乎回答_如何用python对一个大的txt文件进行逐行查重,并将查重过的数据存到一个新的txt文件中?

摘要:给一种不太体面的做法:用python的集合这种数据类型来做。


创建日期: 2022-07-22
修改时间:
标签: 备份,python


本文是我在如何用python对一个大的txt文件进行逐行查重,并将查重过的数据存到一个新的txt文件中? - 知乎 (zhihu.com)的回答。

再给一种不太体面的做法:用python的集合这种数据类型来做。

之所以说不太体面,因为集合中的数据在保存时并不会按照写入的顺序。

如果数据的顺序很重要,请不要用这种方法

import os

ProessPath = os.getcwd()
InputFile = r'temp.md'
OutpurFile = r'save.md'
FileContextSet =set()
with open(InputFile,encoding="UTF-8") as f:
    for line in f:
        FileContextSet.add(line)

OutpurFileContext = list (FileContextSet)
with open(OutpurFile,'w',encoding='UTF-8') as s:
    for i in OutpurFileContext:
        s.writelines(i)