分割xml/html等文件必备：xmlsplit

hyln9 · 发表于 2013-11-24 17:50:00

本帖最后由 hyln9 于 2013-11-24 22:55 编辑

之前打算制作英文维基20131104（https://www.pdawiki.com/forum/thread-11455-1-1.html），47.2GB的xml实在是让我无语，后来在o大的指导下找见了不错的replace pioneer,但是分割处理这么大的文件依然不给力。几经周折，找见了这款鲜为人知但是功能极为强大的xml分割工具，可以分割我的47.2gb的xml。售价貌似99刀，我只是想试用一下，没想到有1gb限制，所以自编程序怒破解之，分享给大家，但是仅限私下使用哦

此软件为英文，但是功能确实很强大，截几张图给大家吧：

ps:不知道为什么i-wiki大大的引擎出了什么问题，无法转换。问题是我随便转了某个较小的外语xml成功，转换这个却失败，悲催啊，求教

所以先放出这个工具给大家带来点方便。

破解方法：先安装程序。之后把XmlSplit_Crack.exe改名为XmlSplit.exe放入程序文件夹内覆盖原文件（源文件必须备份），运行程序，随便输XXX就注册成功了，然后恢复原来的XmlSplit.exe即可。天杀的360竟然报毒！请关闭360，注册完以后就可以打开360了。

http://pan.baidu.com/s/1eQoIY
密码pqw4

hyln9 · 发表于 2013-11-24 22:45:37

此楼备用

Oeasy · 发表于 2013-11-24 22:50:06

关于图片显示，论坛有bug，我是先把图片上传到相册（你看我https://pdawiki.com/forum/space-uid-147948.html相册里都100+张图了），再从相册中选择图片插入，注意验证回答上方“本地化远程图片”前的复选框不要勾选！！！这样图片就能大大地显示出来了。{:5_227:}

hyln9 · 发表于 2013-11-24 22:51:41

Oeasy 发表于 2013-11-24 22:50
6 v8 E7 o& ^. [7 F2 W关于图片显示，论坛有bug，我是先把图片上传到相册（你看我https://pdawiki.com/forum/space-uid-147948.htm ...

我说是怎么回事，谢谢了！

yisdict · 发表于 2013-11-24 22:55:32

可以试试superfan89的引擎，转出效果应该和aard一样，不过我没试过。

hyln9 · 发表于 2013-11-24 23:05:42

yisdict 发表于 2013-11-24 22:55 ( B8 C4 S7 n$ r" X/ N- Q/ ?# Y; a K0 n. W
可以试试superfan89的引擎，转出效果应该和aard一样，不过我没试过。

谢谢，我试试！不过aard是什么？

hyln9 · 发表于 2013-11-24 23:08:59

本帖最后由 hyln9 于 2013-11-24 23:16 编辑

hyln9 发表于 2013-11-24 23:05
5 F" o/ z! g8 B: q& _谢谢，我试试！不过aard是什么？

哦，aard查到了，比我现在用的好啊！我现在用fastwiki和kiwix，前者有公式制作工具不过排版一般，后这简直是完美的无图wiki，但是英文版太大了只更新到了2012年，中文有2013的，不过有mdict版的了，也就不用了。

现在没有linux环境，看来得过一段时间再说了。另外期待唯吾无为老大的新引擎！

STFU · 发表于 2013-11-25 01:37:03

lz可以寫破解的程式?!
那怎麼沒試試寫解析的引擎?!

hyln9 · 发表于 2013-11-25 17:20:44

STFU 发表于 2013-11-25 01:37 / G( Y) k3 k$ V" O9 ]5 p9 G9 ]
lz可以寫破解的程式?!/ B7 O( W! }* v" t* |$ S
那怎麼沒試試寫解析的引擎?!

引擎太复杂，我又没时间

其实这个程序破解起来还是比较容易的,我就是把它的验证给替换了一下而已。

hyln9 · 发表于 2013-12-3 18:52:58

图片算是显示完整了

louislaolu · 发表于 2013-12-3 19:28:37

凡是能够编写程序，我都100分的崇拜。

163.wangg · 发表于 2014-11-26 11:07:25

辛苦支持

blueyi · 发表于 2014-12-29 13:56:42

能不能再发分享一次，谢谢

blueyi · 发表于 2014-12-31 13:10:51

楼主能不能把那XMLSPLIT再给我分享一份，谢谢

timrabin · 发表于 2018-5-14 00:42:57

求分享xmlsplit，打不开了。谢谢！

GL_n · 发表于 2018-5-14 06:21:32

请问楼主@hyln9能否重新分享一下你的百度盘链接？

zengjatzau · 发表于 2018-11-16 20:03:31

网盘链接已失效，能否再分享一次?

mikeee · 发表于 2018-11-16 21:27:49

'''. G g- A; H+ m( V2 M, X1 n
Based on xmllarge.py; `4 _! _1 ~5 |$ F
'''
$ X& I* f) ^) s2 _ O# u' p6 C( O
# from pyquery import PyQuery as pq
; t3 P0 Q [9 `4 B! S
from pathlib import Path
7 T4 j: _. O& _: d8 z
& \" |- b9 p, M! ?4 F7 i7 f
, |! m1 x$ i* K! {/ d3 B+ x
def xml_iter(file, tag):
0 R( i ^- n! @
'''
! m: `0 G, M9 q2 Q/ J1 S6 h
Process huge xml files2 s/ r/ M0 T6 x {, E# [4 v; O( h
<tag> </tag> need to be in separate lines b) B# K V" E5 r) H) c( y4 A/ z
# TODO: in the middle of lines
& u; |' x. I( i# @; q' q5 P
d6 `5 Q; \, s O6 c( c0 ?8 |
:file: file path& Q7 H) o# G' a R$ l! s" q% K% k
:tag: element to retrieve
3 u8 R6 q% l6 S
'''; E8 O. }' R+ P- z; J" Y( O
tagb1 = '<' + tag + '>'0 d$ h9 k: |7 u( n/ l
tagb1 = tagb1.encode()9 }. t6 t5 b" X
t/ Q% b, q, @0 N! J' v
+ b# K$ P0 H+ X. l* C+ |
tagb2 = '<' + tag + ' '
! J5 P7 T) L1 Z0 ~1 ~) H
tagb2 = tagb2.encode()
. N4 _* s/ v+ F+ T Q
$ |2 a1 j# V$ F
tagb3 = '</' + tag + '>'9 e9 z* C \. a8 {+ z/ t* H4 w
tagb3 = tagb3.encode()% L% i7 F" Q, u$ d5 U+ @# K0 y) ^3 S
8 Q9 u _" p7 e K2 V
with open(file, 'rb') as inputfile:: T! F! U e0 U! X5 @
append = False
, G2 X; G2 {" R
for line in inputfile:
/ @! [4 [9 i4 B3 G% K% }
#~ if b'<tu>' in line or b'<tu ' in line:
2 B, ?' O7 u- j. ]' ?3 T
if tagb1 in line:
2 n( t0 k& U( D8 O3 t
inputbuffer = line[line.index(tagb1):]
5 r3 [! R# ^' O: r% t
append = True5 C* q* h p2 u$ Y, v5 S6 [
elif tagb2 in line:3 F/ a4 h- r m! j! s/ R
inputbuffer = line[line.index(tagb2):]9 ]) Q- K& W+ E6 Y, _ _
append = True
1 u- U1 q9 S3 [; a; p% n; v
#~ elif b'</tu>' in line:
" @' `* Q( M6 y( L0 w! P
elif tagb3 in line:7 [; I6 d0 T1 N# _
inputbuffer += line[:line.index(tagb3) + len(tagb3)]# |- s6 ]% E, v/ E
append = False
* i S, M* F+ w8 c, B, M
yield inputbuffer
. c+ W6 w0 M7 O
#~ docitem = process_buffer(inputbuffer, id_num)
; y$ G0 I. f A9 K R0 G
#~ print(id_num)
2 c1 _5 D% k7 U
#~ id_num += 1
2 Z9 e' N4 l! z) t
inputbuffer = b''
/ ]+ ^" N7 z+ j
elif append:: i5 z6 e# b& M/ Y2 W0 L
inputbuffer += line

复制代码

这么多人找这东西？我过一阵打包发个小工具。

上面的python3函数用法
resu = ''
for elm in xml_iter(filename, 'tu'):
resu += elm

内存足迹极小……不管文件多大。

jonah_w · 发表于 2019-1-19 18:47:48

这个工具链接失效了，可以再分享下么

jonah_w · 发表于 2019-1-19 18:48:19

mikeee 发表于 2018-11-16 21:27
7 }! Y- j! H' d) r% _1 j! ]$ h3 v这么多人找这东西？我过一阵打包发个小工具。" [( D) }2 M/ v
+ x' J! ]0 a: n8 b7 y3 L
上面的python3函数用法

就喜欢这种一言不合自己写工具的，后面看看你的代码

		自动登录	找回密码
密码			免费注册

[工具] 分割xml/html等文件必备：xmlsplit

本帖子中包含更多资源