掌上百科 - PDAWIKI

 找回密码
 免费注册

QQ登录

只需一步,快速开始

楼主: garypang

[专有词库] [6.7]urbandictionary.com城市俚语在线词典 [python]

    [复制链接]
  • TA的每日心情
    慵懒
    2018-8-25 12:29
  • 签到天数: 91 天

    [LV.6]常住居民II

     楼主| 发表于 2018-6-7 12:27:23 | 显示全部楼层
    hyqq2015 发表于 2018-5-20 21:20
    : d0 I; D( i  f; |0 ?8 V同步更新:
    ! B, Y0 D& O: a) p! a" Y# L0 T+ @# ?
    1. 修正多余的换行,使排版更紧凑;
    4 D" Z. \$ z; P8 F7 n. C
    原来空行你早就修复了,赞!

    该用户从未签到

    发表于 2018-6-7 13:17:45 来自手机 | 显示全部楼层
    Thank you so much for sharing.
  • TA的每日心情
    开心
    2020-10-25 03:32
  • 签到天数: 395 天

    [LV.9]以坛为家II

    发表于 2018-6-7 15:10:31 | 显示全部楼层
    garypang 发表于 2018-6-7 12:27
    4 n4 i& v# {. ~! E" U- D. {原来空行你早就修复了,赞!
    $ z- f. n1 A; S; ^# n9 }2 ~; D5 a: A+ c
    你有没有发现这个脚本最多只能显示10条释义,你抓取的离线版也是。你查下 beautiful 或 good 试下。
  • TA的每日心情
    慵懒
    2018-8-25 12:29
  • 签到天数: 91 天

    [LV.6]常住居民II

     楼主| 发表于 2018-6-7 15:21:32 | 显示全部楼层
    hyqq2015 发表于 2018-6-7 15:10* U1 I" C8 A5 _" W8 i5 b- v, t
    你有没有发现这个脚本最多只能显示10条释义,你抓取的离线版也是。你查下 beautiful 或 good 试下。 ...
    ) ^, q0 G! @1 D2 H/ C: L
    是的,离线版和在线版都是用的http://api.urbandictionary.com/v0/define?term= 这个接口的数据 这个接口只能显示10条,
  • TA的每日心情
    开心
    2020-10-25 03:32
  • 签到天数: 395 天

    [LV.9]以坛为家II

    发表于 2018-6-7 15:31:28 | 显示全部楼层
    garypang 发表于 2018-6-7 15:21: _6 v  ~& S& Y0 H" |7 O
    是的,离线版和在线版都是用的http://api.urbandictionary.com/v0/define?term= 这个接口的数据 这个接口 ...
    % j8 [3 f! f: b0 W7 {/ ~/ ~9 W3 a
    因为发现2015年的 dsl 版将近1个G,所以对比了下才发现最多只显示10条。不过10条也够了。
  • TA的每日心情
    擦汗
    2023-11-29 11:30
  • 签到天数: 335 天

    [LV.8]以坛为家I

    发表于 2018-6-7 16:55:32 | 显示全部楼层
    感谢更新,试试看
  • TA的每日心情
    开心
    2020-10-25 03:32
  • 签到天数: 395 天

    [LV.9]以坛为家II

    发表于 2018-6-7 18:13:39 | 显示全部楼层
    garypang 发表于 2018-6-7 15:21
    0 }6 H4 f  d6 C' o, |. Y" d6 j5 \2 I是的,离线版和在线版都是用的http://api.urbandictionary.com/v0/define?term= 这个接口的数据 这个接口 ...

    % u9 g; p' c: D8 [, P在网上找到一个1.9G的Urban Dictionary数据资源:
    4 t. t! d4 F4 i( K! n' xhttps://www.reddit.com/r/dataset ... ions_1999_may_2016/
    2 `3 R6 Z; |7 P& a8 p0 L0 p7 n) U( C下载数据看了下,这个2016年5月份的数据中,beautiful的释义有195条,看来作者抓取的时候抓到的释义很全。, S8 U4 f: D: o

    ' K* |0 n8 r4 F% P作者介绍可以利用 defid 来抓取,1 w6 ]; ], k) V  B) r2 y! x0 c2 B
    You can scrape word ids from here: http://www.urbandictionary.com/y ... 17-03-29&page=2 (note that each date has many pages) and then just throw them into the urbandictionary api link above.

    " w- I! c' T/ R2 w& }其实我并不是很懂Python,不知这种方法是否可以完整抓取?
  • TA的每日心情
    慵懒
    2018-8-25 12:29
  • 签到天数: 91 天

    [LV.6]常住居民II

     楼主| 发表于 2018-6-8 13:46:53 | 显示全部楼层
    hyqq2015 发表于 2018-6-7 18:135 \3 v7 V5 D  L1 }0 ~7 _2 M( k  V. Y
    在网上找到一个1.9G的Urban Dictionary数据资源:9 x8 N, x; ~/ _9 P7 \. g, }
    https://www.reddit.com/r/datasets/comments/63spoc/1 ...

    6 t  Y( G: I' U2 m8 U. [, i里面作者所说的 http://www.urbandictionary.com/y ... 17-03-29&page=2 这个接口已经失效了,不然可以抓取到更全的wordlists,至于释义,十条其实完全够用了,我这抓取的txt源文件也有2G多了.
  • TA的每日心情
    郁闷
    2018-7-26 12:11
  • 签到天数: 2 天

    [LV.1]初来乍到

    发表于 2018-6-8 14:15:37 | 显示全部楼层
    在线的urban确实是比离线的更好的解决方案……
  • TA的每日心情
    开心
    2020-10-25 03:32
  • 签到天数: 395 天

    [LV.9]以坛为家II

    发表于 2018-6-8 17:06:11 | 显示全部楼层
    本帖最后由 hyqq2015 于 2018-6-8 17:15 编辑 / b* @4 R: \, B1 Z
    garypang 发表于 2018-6-8 13:46
    3 [5 c# ~' R! v  R5 _" g: _- J里面作者所说的 http://www.urbandictionary.com/y ... 17-03-29&page=2 这个接口已经失 ...
    . p5 [( l$ R9 K( g( Q: Z  i$ K: i* H

    ( {/ [, M  D8 M* ~' n2 z" X  b& \并没有失效,是按照日期来的,一天一天来,比如:: H6 W/ E  y, B6 m/ |0 [* J
    https://www.urbandictionary.com/yesterday.php?date=2018-06-079 T# n' x. N+ p
    https://www.urbandictionary.com/yesterday.php?date=2018-06-06, p, z5 Z1 i" u8 u. e# \% j
    https://www.urbandictionary.com/yesterday.php?date=2018-06-05
    3 H: l8 g) I$ w( C
    ! y' L, w! _8 D) f. D- w作者抓取的数据是从1999年到2016年5月的。
    * ]$ j4 Y0 b0 w' M3 n7 P' L9 l; `. t# M% |# K! L4 p0 M
    * ]7 e  p/ ^% j) O& y
    urban的数据也是1999年开始,看下图:& k; ?* {% C2 n7 o4 O

    本帖子中包含更多资源

    您需要 登录 才可以下载或查看,没有账号?免费注册

    x
  • TA的每日心情
    慵懒
    2018-8-25 12:29
  • 签到天数: 91 天

    [LV.6]常住居民II

     楼主| 发表于 2018-6-8 17:23:55 | 显示全部楼层
    hyqq2015 发表于 2018-6-8 17:06& L/ o0 y3 e: P4 c1 B+ V# [) f2 f
    并没有失效,是按照日期来的,一天一天来,比如:" j* h4 }' @8 h% G) v! a3 Y
    https://www.urbandictionary.com/yesterday.php?date= ...

    $ Z8 s4 }) p! v1 m- }8 V只有2018年最近一两个月的有效,其他年份都失效了的.
  • TA的每日心情
    开心
    2020-10-25 03:32
  • 签到天数: 395 天

    [LV.9]以坛为家II

    发表于 2018-6-8 18:08:39 | 显示全部楼层
    garypang 发表于 2018-6-8 17:23
    9 l8 d# c) v! ]- M: W- d3 u+ ]) N只有2018年最近一两个月的有效,其他年份都失效了的.

    ; }  A7 }" y1 `! o) g( t# Q估计也是一种限制。抓不了也只能作罢,现有离线版和在线版用着也挺好。
  • TA的每日心情
    难过
    2023-8-12 13:37
  • 签到天数: 415 天

    [LV.9]以坛为家II

    发表于 2018-6-8 22:08:21 | 显示全部楼层
    谢谢这么认真完善词典,很喜欢这部词典。
  • TA的每日心情
    开心
    2020-3-25 07:07
  • 签到天数: 5 天

    [LV.2]偶尔看看I

    发表于 2018-6-11 20:57:55 | 显示全部楼层
    感谢Garypang。

    该用户从未签到

    发表于 2018-6-12 13:42:59 | 显示全部楼层
    好棒的操作。试试哈。不知道能不能用哦。
  • TA的每日心情
    擦汗
    2018-8-19 10:30
  • 签到天数: 24 天

    [LV.4]偶尔看看III

    发表于 2018-6-14 10:41:31 | 显示全部楼层
    已经开始用了,谢谢楼主慷慨分享,thank you for your sharing
  • TA的每日心情
    开心
    2018-6-14 14:41
  • 签到天数: 1 天

    [LV.1]初来乍到

    发表于 2018-6-14 11:23:25 | 显示全部楼层
    谢谢,1111111111111111111111111111111111111111111111111111
  • TA的每日心情
    开心
    2018-8-24 20:37
  • 签到天数: 58 天

    [LV.5]常住居民I

    发表于 2018-6-18 12:11:15 | 显示全部楼层
    謝谢楼主分享,下载试用!俚語對於英語水平是一個很大的進步
  • TA的每日心情
    开心
    2020-5-23 22:47
  • 签到天数: 128 天

    [LV.7]常住居民III

    发表于 2018-6-20 18:52:12 | 显示全部楼层
    很好,电脑版上的goldendict确实很省事,这份也收集一个
  • TA的每日心情
    开心
    2020-5-30 23:08
  • 签到天数: 690 天

    [LV.9]以坛为家II

    发表于 2018-6-21 11:17:25 | 显示全部楼层
    感谢楼主分享,下载试用!                              
  • TA的每日心情

    2019-2-16 11:33
  • 签到天数: 56 天

    [LV.5]常住居民I

    发表于 2018-6-28 08:51:16 | 显示全部楼层
    这个排版比较好看

    该用户从未签到

    发表于 2018-7-1 00:29:14 | 显示全部楼层
    Thanks million times
  • TA的每日心情
    开心
    2020-10-2 23:14
  • 签到天数: 28 天

    [LV.4]偶尔看看III

    发表于 2018-7-1 06:47:18 来自手机 | 显示全部楼层
    不错的东东
  • TA的每日心情
    慵懒
    2018-7-16 20:54
  • 签到天数: 10 天

    [LV.3]偶尔看看II

    发表于 2018-7-1 19:33:30 | 显示全部楼层
    兄弟,感谢感谢哈。
    您需要登录后才可以回帖 登录 | 免费注册

    本版积分规则

    小黑屋|手机版|Archiver|PDAWIKI |网站地图

    GMT+8, 2024-4-26 17:15 , Processed in 0.085926 second(s), 7 queries , MemCache On.

    Powered by Discuz! X3.4

    Copyright © 2001-2023, Tencent Cloud.

    快速回复 返回顶部 返回列表