全球主机交流论坛

 找回密码
 注册

QQ登录

只需一步,快速开始

IP归属甄别会员请立即修改密码
查看: 1602|回复: 15
打印 上一主题 下一主题

[疑问] txt怎么去重最高效

[复制链接]
跳转到指定楼层
1#
发表于 2023-10-14 08:25:20 来自手机 | 只看该作者 回帖奖励 |正序浏览 |阅读模式
提示: 作者被禁止或删除 内容自动屏蔽
16#
发表于 2023-10-14 19:55:40 | 只看该作者
裤子吗,紫薯布丁
15#
发表于 2023-10-14 19:51:53 | 只看该作者
几个T,光读取就得几个小时了吧
14#
发表于 2023-10-14 18:55:02 | 只看该作者
一个txt 里面 重复标准是什么? 同一个字算重复吗
13#
发表于 2023-10-14 17:59:23 | 只看该作者
用 EmEditor
12#
发表于 2023-10-14 16:49:02 | 只看该作者
用工具导入数据库就行了 记得设置成主键就行了
迟早要进库的
11#
发表于 2023-10-14 15:48:00 | 只看该作者
先切割为若干小文件,然后再逐一处理
10#
发表于 2023-10-14 14:51:37 | 只看该作者
租个大杜甫
9#
发表于 2023-10-14 11:53:29 | 只看该作者
以前试过python写的. 10亿的数据才几百G.. 你这信封牛
8#
发表于 2023-10-14 11:52:20 来自手机 | 只看该作者
。几个T的txt
您需要登录后才可以回帖 登录 | 注册

本版积分规则

Archiver|手机版|小黑屋|全球主机交流论坛

GMT+8, 2025-9-26 09:25 , Processed in 0.178752 second(s), 11 queries , Gzip On, MemCache On.

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表