7
26
2013
6

飞速中文网小说下载脚本

本文来自依云's Blog，转载请注明。

  • JavaScript 加密什么的最讨厌了 :-(
    • eval 一个不依赖外部变量的函数立即调用很天真，看我 nodejs 来干掉你！
    • HTTP 请求的验证首先尝试 Referer，「小甜饼」没有想像中的那么重要。
    • curl 和各命令行工具处理起文本很顺手呢
    • 但是 Python 也没多几行呢
  • Requests 效率比 lxml 自己那个好太多
  • progressbar 太先进了，我还是自个儿写吧……
  • argparse 写 Python 命令行程序必备啊～
  • string.Template也很好用哦
  • 以下是主代码啦，除了标准库以及 lxml 和 requests，没有的模块都在无所不能的 winterpy 仓库里。其实主代码也在的。
?
dl_feisuzw
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
#!/usr/bin/env python3
# vim:fileencoding=utf-8
 
import sys
from functools import partial
from string import Template
import argparse
import base64
from urllib.parse import unquote
 
from lxml.html import fromstring
import requests
 
from htmlutils import extractText
from termutils import foreach
 
session = requests.Session()
 
def main(index, filename='$name-$author.txt', start=0):
  r = session.get(index)
  r.encoding = 'gb18030'
  doc = fromstring(r.text, base_url=index)
  doc.make_links_absolute()
  name = doc.xpath('//div[@class="info"]/p[1]/a/text()')[0]
  author = doc.xpath('//div[@class="info"]/p[1]/span/text()')[0].split()[-1]
 
  nametmpl = Template(filename)
  fname = nametmpl.substitute(name=name, author=author)
  with open(fname, 'w') as f:
    sys.stderr.write('下载到文件 %s。\n' % fname)
    links = doc.xpath('//div[@class="chapterlist"]/ul/li/a')
    try:
      foreach(links, partial(gather_content, f.write), start=start)
    except KeyboardInterrupt:
      sys.stderr.write('\n')
      sys.exit(130)
 
  sys.stderr.write('\n')
  return True
 
def gather_content(write, i, l):
  # curl -XPOST -F bookid=2747 -F chapterid=2098547 'http://www.feisuzw.com/skin/hongxiu/include/fe1sushow.php'
  #      --referer http://www.feisuzw.com/Html/2747/2098547.html
  # tail +4
  # base64 -d
  # sed 's/&#&/u/g'
  # ascii2uni -qaF
  # ascii2uni -qaJ
  # <p> paragraphs
  url = l.get('href')
  _, _, _, _, bookid, chapterid = url.split('/')
  chapterid = chapterid.split('.', 1)[0]
  r = session.post('http://www.feisuzw.com/skin/hongxiu/include/fe1sushow.php', data={
    'bookid': bookid, 'chapterid': chapterid,
  }, headers={'Referer': url})
 
  text = r.content[3:] # strip BOM
  text = base64.decodebytes(text).replace(b'&#&', br'\u')
  text = text.decode('unicode_escape')
  text = unquote(text)
  text = text.replace('<p>', '').replace('</p>', '\n\n')
 
  title = l.text
  write(title)
  write('\n\n')
  write(text)
  write('\n')
  return title
 
if __name__ == '__main__':
  parser = argparse.ArgumentParser(description='下载飞速中文网小说')
  parser.add_argument('url',
                      help='小说首页链接')
  parser.add_argument('name', default='$name-$author.txt', nargs='?',
                      help='保存文件名模板（支持 $name 和 $author')
  parser.add_argument('-s', '--start', default=1, type=int, metavar='N',
                      help='下载起始页位置（以 1 开始）')
  args = parser.parse_args()
  main(args.url, args.name, args.start-1)

发送到 Kindle

Category: python | Tags: python 网页 爬虫 | Read Count: 36868
Small_feed 评论 (6)
1
[回复]
jiazhoulvke 说:
12 年前

飞速中文网 > 架空穿越 > 帝凰：神医弃妃 > 帝凰：神医弃妃最新章节列表
原来依云好这口，嘿嘿……

[回复]
eleven.i386 说:
12 年前

我也才知道呢.. 原来小百合君也喜欢看小说吖? 总感觉这篇文章语气很萌的说.... 百合君萌化?

[回复]
Avatar_small
依云 说:
12 年前

果然被人挖出来了 >_<

[回复]
eleven.i386 说:
12 年前

萌化的小百合,嗷呜....

5
[回复]
float 说:
12 年前

萌化的小百合,嗷呜....

[回复]
Avatar_small
依云 说:
12 年前

你也来了喵=w=


登录 *


loading captcha image...
(输入验证码)
or Ctrl+Enter

Mastodon | Theme: Aeros 2.0 by TheBuckmaker.com