掌上百科 - PDAWIKI

 找回密码
 免费注册

QQ登录

只需一步,快速开始

查看: 5041|回复: 18

[索引] 双语对齐工具网页版radiobee aligner

[复制链接]
  • TA的每日心情
    开心
    2019-8-21 08:44
  • 签到天数: 163 天

    [LV.7]常住居民III

    发表于 2021-12-28 14:13:22 | 显示全部楼层 |阅读模式
    本帖最后由 mikeee 于 2022-1-18 01:00 编辑 2 M( t; e+ X" {! i8 W. q
    9 X7 Q3 c6 [# i4 W5 p8 @+ \
    https://huggingface.co/spaces/mikeee/radiobee-aligner% G4 ^1 _( P4 f0 f/ l. |" Q
    9 Q2 @! M6 _' r7 }6 {+ \' u
    7 `7 Q" @& b) c# H, _+ i8 d
    《呼哮山莊》第一章对齐结果片段
    1 [+ X8 a% l; Z
    . A- V' p7 D5 q* J0 j工具仍处在开发初期,但基本可以用了,个人认为效果不错,而且速度很快,几千段几秒钟可以出结果。目前仅支持 中英 英中 上传文件。可预览(上图),可以下载对齐后的 csv、xlsx 格式文档。
    " e  d, V; [" ?5 G界面是英文的,但很简单,点击FILE 1, FILE 2 处上传或将文件拖到FILE 1、FILE 2处。点击 SUBMIT。(参数微调无需理会)几秒钟后就有结果。点击 CLICK TO DOWNLOAD CSV 下载文本文档或点击 CLICK TO DOWNLOAD XLSX下载 xlsx文档。
    . R. O8 C  Z% G9 {5 [
    1 W$ e2 V  T7 V0 h; f. P$ f也可点击 Examples 里的文档做对齐看效果:含《呼哮山莊》第一章、莎士比亚全集前500段以及《红楼梦》第一章。
    + R: c$ s  w2 ]9 }# M# ^& B! ]+ h7 R$ I
    网页由机器学习公司Huggingface托管,我并不能看到或保存用户上传的内容。但仍需注意去掉文件里的敏感信息。
    ' l- h! g  x% }; s
    " J) E  w( V3 T; t3 W* g# gradiobee aligner和 Abbyy Aligner 无任何关系。radiobee aligner全部源码(除了一个文件外)可以在Huggingface网站点击Files and versions(https://huggingface.co/spaces/mikeee/radiobee-aligner/tree/main)查看。# r  ]% f7 S, @

    本帖子中包含更多资源

    您需要 登录 才可以下载或查看,没有账号?免费注册

    x

    评分

    1

    查看全部评分

  • TA的每日心情

    2025-6-19 17:53
  • 签到天数: 643 天

    [LV.9]以坛为家II

    发表于 2021-12-28 15:54:12 | 显示全部楼层
    感谢分享!意思是以后会出软件PC版?
  • TA的每日心情
    开心
    2019-8-21 08:44
  • 签到天数: 163 天

    [LV.7]常住居民III

     楼主| 发表于 2021-12-28 16:03:50 | 显示全部楼层
    wiray 发表于 2021-12-28 15:544 a3 p9 t* ^1 X* ?; U( {
    感谢分享!意思是以后会出软件PC版?
    4 d* U1 @' ~. i  ?+ L. P
    有这个打算…… 因为自动对齐后手动交互编辑好像是不可避免的,不可能做到100%准确。网页版做交互编辑好像很困难,所以最终得回归桌面app。
  • TA的每日心情

    2025-6-19 17:53
  • 签到天数: 643 天

    [LV.9]以坛为家II

    发表于 2021-12-28 16:30:17 | 显示全部楼层
    mikeee 发表于 2021-12-28 16:03# N, C7 M  ~7 i2 `7 E
    有这个打算…… 因为自动对齐后手动交互编辑好像是不可避免的,不可能做到100%准确。网页版做交互编辑好 ...

    3 R. b  a1 e' S5 j/ h很好!期待!
  • TA的每日心情
    开心
    3 天前
  • 签到天数: 592 天

    [LV.9]以坛为家II

    发表于 2021-12-28 23:23:46 | 显示全部楼层
    似乎有类似产品,但是终归是躲不开手动调节哒,人机相互协作!
  • TA的每日心情
    开心
    2019-8-21 08:44
  • 签到天数: 163 天

    [LV.7]常住居民III

     楼主| 发表于 2021-12-29 10:37:40 | 显示全部楼层
    本帖最后由 mikeee 于 2021-12-29 11:08 编辑
      [, }0 N, @8 F
    Shiny2020 发表于 2021-12-28 23:23- M+ h  A( G( n/ S  U
    似乎有类似产品,但是终归是躲不开手动调节哒,人机相互协作!

    ( t* _( M5 s8 E/ f) K! l* i8 w, g8 _/ t; Q, D+ `
    类似产品里A bbyy Aligner可能是最优秀的。不过 radiobee aligner基本上可以甩a bbyy aligner几条街,不信可以让a bbyy aligner去对齐一下https://huggingface.co/spaces/mikeee/radiobee-aligner Examples 里的shakespeare500及红楼梦ch1
  • TA的每日心情
    开心
    3 天前
  • 签到天数: 592 天

    [LV.9]以坛为家II

    发表于 2021-12-29 10:41:26 | 显示全部楼层
    mikeee 发表于 2021-12-29 10:37$ ~! w/ v3 V- c4 w" h9 N$ _
    类似产品里Abbyy Aligner可能是最优秀的。不过 radio aligner基本上可以甩a bbyy aligner几条街 ...

    1 P% u  y; \4 W9 i3 D( d! r哈哈哈,好的,等假期细细研究,谢谢分享。
  • TA的每日心情
    开心
    2020-3-8 09:14
  • 签到天数: 1 天

    [LV.1]初来乍到

    发表于 2021-12-29 19:21:42 | 显示全部楼层
    本帖最后由 louislaolu 于 2021-12-29 19:42 编辑 9 L2 Z- r* k# t( \
    * }8 K- m1 U( |! C5 `1 P- o- y7 H
    这么拽!那一定要试试。
  • TA的每日心情
    开心
    2020-3-8 09:14
  • 签到天数: 1 天

    [LV.1]初来乍到

    发表于 2021-12-29 19:43:37 | 显示全部楼层
    本帖最后由 louislaolu 于 2021-12-29 19:44 编辑
    $ {: ?$ O1 s7 D. t) C8 P9 [
      U: V5 J2 P! s, I各位大咖,有没有靠谱的双语术语提取软件给推荐下,尤其是能够处理英汉对齐语料那种。
  • TA的每日心情
    开心
    2019-8-21 08:44
  • 签到天数: 163 天

    [LV.7]常住居民III

     楼主| 发表于 2021-12-29 20:33:56 | 显示全部楼层
    louislaolu 发表于 2021-12-29 19:43
    / t8 U: H, ^- G  w各位大咖,有没有靠谱的双语术语提取软件给推荐下,尤其是能够处理英汉对齐语料那种。 ...

    2 p  e" [# A3 G/ V: a术语提取其实是另一个层次上的对齐——找对应的词组对。句句对齐后再做,有个python包叫 simaligner https://github.com/cisnlp/simalign 做这事的,不过速度很慢。我做完radiobee aligner或许做个数据提取工具。请期待
  • TA的每日心情
    开心
    2020-3-8 09:14
  • 签到天数: 1 天

    [LV.1]初来乍到

    发表于 2021-12-29 22:50:12 | 显示全部楼层
    mikeee 发表于 2021-12-29 20:338 J; ~  p4 L+ g6 T) D
    术语提取其实是另一个层次上的对齐——找对应的词组对。句句对齐后再做,有个python包叫 simaligner http ...

    ( @  |& I( K; w# q哈哈,就冲你这句话,我对2022已经满是期待。提取工具用什么办法把词汇层面对齐的术语和一般词语区分开来?
  • TA的每日心情
    开心
    2019-8-21 08:44
  • 签到天数: 163 天

    [LV.7]常住居民III

     楼主| 发表于 2022-1-12 11:23:19 | 显示全部楼层
    本帖最后由 mikeee 于 2022-1-12 11:36 编辑
    7 u4 a( C. H, h2 _, @3 l5 e  Y7 D+ P& K9 s9 c
      
    ! W* _$ g8 E5 N( _托马斯·潘恩《常识》 整本书撂给 radiobee 压测结果(上图仅显示对齐线)。/ b5 b3 Q9 j3 K' w. k
    ( q* ~2 R4 a8 C( m- r1 x( u: W
    有兴趣的网友自己动手试试* B; X9 L& V. U
    8 y! H5 s1 T- \$ H8 n$ V. a) Q: A" c
    # m2 o, o6 H$ m* j' `7 @
    用时仅 3.2秒!! f7 B. }1 a' j, m8 {

    9 l4 P9 d% o4 M. f7 {附上 epub 版 + [$ r$ F9 {+ K& ^+ l; a) P
    - ~  c+ W+ @" i7 T2 j3 N. f
    PS:个人认为,此书值得对政治有点兴趣的群友一读,即便对政治没有兴趣读一读此书也有助于拓展视野。

    本帖子中包含更多资源

    您需要 登录 才可以下载或查看,没有账号?免费注册

    x
  • TA的每日心情
    开心
    2019-8-21 08:44
  • 签到天数: 163 天

    [LV.7]常住居民III

     楼主| 发表于 2022-1-18 01:12:44 | 显示全部楼层
    本帖最后由 mikeee 于 2022-1-18 01:15 编辑 # O4 E. n$ O) [

    6 C0 }* K9 o' b0 I9 q* e% Q https://huggingface.co/spaces/mikeee/radiobee-aligner & B& b. t; D5 K' p9 F
    radiobee 对齐已经支持多种语言对并支持自动分离。
    8 r, @1 L6 ^& {: `9 e& N/ V& ]; v& F
    + K3 q9 ~' A8 d$ Q9 z有兴趣的网友可以从 Examples 表里选定 德中 日中 对齐的例子,再点击 Submit。对齐一本书只需 30 秒左右!所有的测试文件都在  data 目录里 https://huggingface.co/spaces/mi ... gner/tree/main/data ,可以右击文件名下载。不妨用 A bbyy Aligner 对齐及比较一下结果。
  • TA的每日心情
    开心
    2022-3-5 22:04
  • 签到天数: 88 天

    [LV.6]常住居民II

    发表于 2022-2-12 11:06:57 | 显示全部楼层
    楼主真是太厉害了,我用了之后,感觉比国内的在线对齐质量高很多啊,特别是在小语种的准确率上面。多谢多谢
  • TA的每日心情
    开心
    2019-8-21 08:44
  • 签到天数: 163 天

    [LV.7]常住居民III

     楼主| 发表于 2022-2-13 18:14:50 | 显示全部楼层
    周海龙99220 发表于 2022-2-12 11:06( g* j5 B- `! `: \0 X2 D' }, V
    楼主真是太厉害了,我用了之后,感觉比国内的在线对齐质量高很多啊,特别是在小语种的准确率上面。多谢多谢 ...
    " y3 [- X: h- K# l4 u
    感谢反馈。
    4 ^' z+ h) q( b0 ?# b
    2 s$ X1 v6 |( \5 x( K, }  s有兴趣可以试试其他版本。都支持多语种# q0 c# Y0 H7 E' i
    演示版句句对齐: https://huggingface.co/spaces/mikeee/radiobee-dev3 r5 ?' n) f0 M0 b
    演示版乱序对齐!全元宇宙独家技术 https://huggingface.co/spaces/mikeee/ultimatumbee
  • TA的每日心情
    开心
    2022-3-5 22:04
  • 签到天数: 88 天

    [LV.6]常住居民II

    发表于 2022-2-14 09:06:28 | 显示全部楼层
    真的智能,可以节省很多精力。想请问句句对齐是需要自己先把文本处理成一句一句的对吧?
  • TA的每日心情
    开心
    2019-8-21 08:44
  • 签到天数: 163 天

    [LV.7]常住居民III

     楼主| 发表于 2022-2-14 12:16:24 | 显示全部楼层
    周海龙99220 发表于 2022-2-14 09:06, t" u8 B6 J8 Z4 ?/ m
    真的智能,可以节省很多精力。想请问句句对齐是需要自己先把文本处理成一句一句的对吧? ...
    ! j# L) }% p' ]& O% K. G
    不用自己处理, https://huggingface.co/spaces/mikeee/radiobee-dev 下面有个选项
    8 Q' ]* [9 ]+ |# `  c
    1. sent ali algo1 q- l  B  z9 W; c* ?# j5 |! H: A
    2. None fast slow
    复制代码

    1 a/ H4 q2 @0 \" v* |9 `( S9 }
    , h. x/ f: t2 G. z& Q
    / j1 u" w3 J1 C  m$ eNone: 不分句
    4 h! I5 [$ D, R! Y  [: rFast:对齐分句的方法A,快一些但可能性能稍差一点, F& l/ |+ R8 N  }: q. N" b
    Slow:对齐分句的方法B,慢一些
    / ^* v% Q8 c+ ?4 I- n5 B8 K' e1 \
    由于分句用的是一个不可定制的方法(例如,有些人可能希望在分号处分句),有特殊需要的分句就需要自己分句后作为段段对齐(选None,预设)或用 一些 的段段对齐。 2 Z  N/ |# e0 k" O# V
      

    本帖子中包含更多资源

    您需要 登录 才可以下载或查看,没有账号?免费注册

    x
  • TA的每日心情
    开心
    2022-3-5 22:04
  • 签到天数: 88 天

    [LV.6]常住居民II

    发表于 2022-2-14 20:12:05 | 显示全部楼层
    收到,多谢,马上试验一番
  • TA的每日心情
    开心
    2022-3-5 22:04
  • 签到天数: 88 天

    [LV.6]常住居民II

    发表于 2022-2-14 20:48:58 | 显示全部楼层
    mikeee 发表于 2022-2-14 12:16
    % h* q& s: j( _不用自己处理, https://huggingface.co/spaces/mikeee/radiobee-dev 下面有个选项$ r, h/ v8 S2 n4 s
      
    7 t5 J4 b$ d" s7 g
    社科类的双语材料对齐,完全可以适用。太感谢了
    您需要登录后才可以回帖 登录 | 免费注册

    本版积分规则

    小黑屋|手机版|Archiver|PDAWIKI |网站地图

    GMT+8, 2026-9-7 23:27 , Processed in 0.025092 second(s), 21 queries .

    Powered by Discuz! X3.4

    © 2001-2023 Discuz! Team.

    快速回复 返回顶部 返回列表