Python实现多线程HTTP下载器示例

本文将介绍使用Python编写多线程HTTP下载器，并生成.exe可执行文件。

环境：windows/Linux + Python2.7.x

单线程

在介绍多线程之前首先介绍单线程。编写单线程的思路为：

1.解析url；

2.连接web服务器；

3.构造http请求包；

4.下载文件。

接下来通过代码进行说明。

解析url

通过用户输入url进行解析。如果解析的路径为空，则赋值为'/'；如果端口号为空，则赋值为"80”；下载文件的文件名可根据用户的意愿进行更改（输入'y'表示更改，输入其它表示不需要更改）。

下面列出几个解析函数：

#解析host和path
def analyHostAndPath(totalUrl):
  protocol,s1 = urllib.splittype(totalUrl)
  host, path = urllib.splithost(s1)
  if path == '':
    path = '/'
  return host, path

#解析port
def analysisPort(host):
  host, port = urllib.splitport(host)
  if port is None:
    return 80
  return port

#解析filename
def analysisFilename(path):
  filename = path.split('/')[-1]
  if '.' not in filename:
    return None
  return filename 

连接web服务器

使用socket模块，根据解析url得到的host和port连接web服务器，代码如下：

import socket
from analysisUrl import port,host

ip = socket.gethostbyname(host)
s = socket.socket(socket.AF_INET,socket.SOCK_STREAM)
s.connect((ip, port))

print "success connected webServer！！"

构造http请求包

根据解析url得到的path, host, port构造一个HTTP请求包。 

from analysisUrl import path, host, port

packet = 'GET ' + path + ' HTTP/1.1\r\nHost: ' + host + '\r\n\r\n'　 

下载文件

根据构造的http请求包，向服务器发送文件，抓取响应报文头部的"Content-Length"。 

def getLength(self):
    s.send(packet)
    print "send success!"
    buf = s.recv(1024)
    print buf
    p = re.compile(r'Content-Length: (\d*)')
    length = int(p.findall(buf)[0])
    return length, buf

下载文件并计算下载所用的时间。 

def download(self):
    file = open(self.filename,'wb')
    length,buf = self.getLength()
    packetIndex = buf.index('\r\n\r\n')
    buf = buf[packetIndex+4:]
    file.write(buf)
    sum = len(buf)
    while 1:
      buf = s.recv(1024)
      file.write(buf)
      sum = sum + len(buf)
      if sum >= length:
        break
    print "Success!!"

if __name__ == "__main__":
  start = time.time()
  down = downloader()
  down.download()
  end = time.time()
  print "The time spent on this program is %f s"%(end - start) 

多线程

抓取响应报文头部的"Content-Length"字段，结合线程个数，加锁分段下载。与单线程的不同，这里将所有代码整合为一个文件，代码中使用更多的Python自带模块。

得到"Content-Length"：

def getLength(self):
    opener = urllib2.build_opener()
    req = opener.open(self.url)
    meta = req.info()
    length = int(meta.getheaders("Content-Length")[0])
    return length

根据得到的Length，结合线程个数划分范围：

def get_range(self):
    ranges = []
    length = self.getLength()
    offset = int(int(length) / self.threadNum)
    for i in range(self.threadNum):
      if i == (self.threadNum - 1):
        ranges.append((i*offset,''))
      else:
        ranges.append((i*offset,(i+1)*offset))
    return ranges

实现多线程下载，在向文件写入内容时，向线程加锁，并使用with lock代替lock.acquire( )...lock.release( );使用file.seek( )设置文件偏移地址，保证写入文件的准确性。

def downloadThread(self,start,end):
    req = urllib2.Request(self.url)
    req.headers['Range'] = 'bytes=%s-%s' % (start, end)
    f = urllib2.urlopen(req)
    offset = start
    buffer = 1024
    while 1:
      block = f.read(buffer)
      if not block:
        break
      with lock:
        self.file.seek(offset)
        self.file.write(block)
        offset = offset + len(block)

  def download(self):
    filename = self.getFilename()
    self.file = open(filename, 'wb')
    thread_list = []
    n = 1
    for ran in self.get_range():
      start, end = ran
      print 'starting:%d thread '% n
      n += 1
      thread = threading.Thread(target=self.downloadThread,args=(start,end))
      thread.start()
      thread_list.append(thread)

    for i in thread_list:
      i.join()
    print 'Download %s Success!'%(self.file)
    self.file.close()

运行结果：

将(*.py)文件转化为(*.exe)可执行文件

当写好了一个工具，如何让那些没有安装Python的人使用这个工具呢？这就需要将.py文件转化为.exe文件。

这里用到Python的py2exe模块，初次使用，所以对其进行介绍：

py2exe是一个将Python脚本转换成windows上可独立执行的可执行文件（*.exe）的工具，这样，就可以不用装Python在windows上运行这个可执行程序。

接下来，在multiThreadDownload.py的同目录下，创建mysetup.py文件，编写：

from distutils.core import setup
import py2exe

setup(console=["multiThreadDownload.py"]) 

接着执行命令：Python mysetup.py py2exe

生成dist文件夹，multiTjhreadDownload.exe文件位于其中，点击运行即可：

demo下载地址：HttpFileDownload_jb51.rar

以上就是本文的全部内容，希望对大家的学习有所帮助，也希望大家多多支持。

# python  # 多线程  # http  # python编写http下载器  # python多线程下载文件  # 利用Python多线程实现图片下载器  # Python实现多线程下载脚本的示例代码  # python 实现多线程下载视频的代码  # python 多线程将大文件分开下载后在合并的实例  # Python多线程下载文件的方法  # 使用Python实现可恢复式多线程下载器  # 单线程  # 可执行文件  # 转化为  # 值为  # 为空  # 的人  # 加锁  # 是一个  # 几个  # 好了  # 下载地址  # 不需要  # 这就  # 对其  # 自带  # 转换成  # 使用这个  # 可执行  # 大家多多 

相关文章： 高防服务器：AI智能防御DDoS攻击与数据安全保障  建站之星后台管理：高效配置与模板优化提升用户体验  制作无缝贴图网站有哪些,3dmax无缝贴图怎么调？  c++23 std::expected怎么用 c++优雅处理函数错误返回【详解】  建站10G流量真的够用吗？如何应对访问高峰？  C#如何使用XPathNavigator高效查询XML  php条件判断怎么写_ifelse和switchcase的使用区别【对比】  外贸公司网站制作,外贸网站建设一般有哪些步骤？  北京制作网站的公司排名,北京三快科技有限公司是做什么？北京三快科技？  专业制作网站的公司哪家好,建立一个公司网站的费用.有哪些部分,分别要多少钱？  高端智能建站公司优选：品牌定制与SEO优化一站式服务  怎么制作一个起泡网,水泡粪全漏粪育肥舍冬季氨气超过25ppm，可以有哪些措施降低舍内氨气水平？  我的世界制作壁纸网站下载,手机怎么换我的世界壁纸？  广东企业建站网站优化与SEO营销核心策略指南  建站之星备案流程有哪些注意事项？  如何高效配置IIS服务器搭建网站？  建站之星CMS五站合一模板配置与SEO优化指南  购物网站制作公司有哪些,哪个购物网站比较好？  建站之星客服服务时间及联系方式如何？  建站之星后台管理系统如何操作？  如何彻底删除建站之星生成的Banner？  如何通过云梦建站系统实现SEO快速优化？  建站之星安装路径如何正确选择及配置？  如何在阿里云虚拟服务器快速搭建网站？  股票网站制作软件,网上股票怎么开户？  香港服务器网站搭建教程-电商部署、配置优化与安全稳定指南  如何通过虚拟主机快速完成网站搭建？  如何设计高效校园网站？  ,在苏州找工作，上哪个网站比较好？  临沂网站制作企业,临沂第三中学官方网站？  广德云建站网站建设方案与建站流程优化指南  昆明网站制作哪家好,昆明公租房申请网上登录入口？  小说建站VPS选用指南：性能对比、配置优化与建站方案解析  高端企业智能建站程序：SEO优化与响应式模板定制开发  高性能网站服务器配置指南：安全稳定与高效建站核心方案  建站主机是否属于云主机类型？  如何用景安虚拟主机手机版绑定域名建站？  建站之星各版本价格是多少？  官网建站费用明细查询_企业建站套餐价格及收费标准指南  学校免费自助建站系统：智能生成+拖拽设计+多端适配  建站之星伪静态规则如何正确配置？  如何选择香港主机高效搭建外贸独立站？  详解jQuery停止动画——stop()方法的使用  建站主机选哪种环境更利于SEO优化？  香港代理服务器配置指南：高匿IP选择、跨境加速与SEO优化技巧  公司网站制作费用多少,为公司建立一个网站需要哪些费用？  建站之星如何优化SEO以实现高效排名？  新网站制作渠道有哪些,跪求一个无线渠道比较强的小说网站，我要发表小说？  黑客如何利用漏洞与弱口令入侵网站服务器？  ,巨量百应是干嘛的？