Python并发和并行的新手指南.docxVIP

Python并发与并行的新手指南 在批评Python的讨论中，常常说起Python多线程是多么的难用。还有人对 global interpreter lock(也被亲切的称为“GIL”)指指点点，说它阻碍了Python的多线程程序同时运行。因此，如果你是从其他语言（比如C++或Java）转过来的话，Python线程模块并不会像你想象的那样去运行。必须要说明的是，我们还是可以用Python写出能并发或并行的代码，并且能带来性能的显著提升，只要你能顾及到一些事情。如果你还没看过的话，我建议你看看Eqbal Quran的文章《 HYPERLINK /ruby/ruby-concurrency-and-parallelism-a-practical-primer \t _blank Ruby中的并发和并行》。 在本文中，我们将会写一个小的Python脚本，用于下载Imgur上最热门的图片。我们将会从一个按顺序下载图片的版本开始做起，即一个一个地下载。在那之前，你得注册一个 HYPERLINK /oauth2/addclient Imgur上的应用。如果你还没有Imgur账户，请先注册一个。 本文中的脚本在Python3.4.2中测试通过。稍微改一下，应该也能在Python2中运行——urllib是两个版本中区别最大的部分。 开始动手 让我们从创建一个叫“download.py”的Python模块开始。这个文件包含了获取图片列表以及下载这些图片所需的所有函数。我们将这些功能分成三个单独的函数： get_links download_link setup_download_dir 第三个函数，“setup_download_dir”，用于创建下载的目标目录（如果不存在的话）。 Imgur的API要求HTTP请求能支持带有client ID的“Authorization”头部。你可以从你注册的Imgur应用的面板上找到这个client ID，而响应会以JSON进行编码。我们可以使用Python的标准JSON库去解码。下载图片更简单，你只需要根据它们的URL获取图片，然后写入到一个文件即可。 代码如下： import json import logging import os from pathlib import Path from urllib.request import urlopen, Request ? logger = logging.getLogger(__name__) ? def get_links(client_id): ???headers = {Authorization: Client-ID {}.format(client_id)} ???req = Request(/3/gallery/, headers=headers, method=GET) ???with urlopen(req) as resp: ???????data = json.loads(resp.readall().decode(utf-8)) ???return map(lambda item: item[link], data[data]) ? def download_link(directory, link): ???(Downloading %s, link) ???download_path = directory / os.path.basename(link) ???with urlopen(link) as image, download_path.open(wb) as f: ???????f.write(image.readall()) ? def setup_download_dir(): ???download_dir = Path(images) ???if not download_dir.exists(): ???????download_dir.mkdir() ???return download_dir接下来，你需要写一个模块，利用这些函数去逐个下载图片。我们给它命名为“single.py”。它包含了我们最原始版本的Imgur图片下载器的主要函数。这个模块将会通过环境变量“IMGUR_CLIENT_ID”去获取Imgur的client ID。它将会调用“setup_download_dir”去创建下载目录。最后，使用get_links函数去获取图片的列表，过滤掉所有的GIF和专辑URL，然后用“download_link”去将图片下载并保存在磁盘中。下面是“single.py”的代码： import logging import os from time import time ? fro