您当前的位置:首页 > IT编程 > python
| C语言 | Java | VB | VC | python | Android | TensorFlow | C++ | oracle | 学术与代码 | cnn卷积神经网络 | gnn | 图像修复 | Keras | 数据集 | Neo4j | 自然语言处理 | 深度学习 | 医学CAD | 医学影像 | 超参数 | pointnet | pytorch | 异常检测 | Transformers | 情感分类 | 知识图谱 |

自学教程:python线程池的四种好处总结

51自学网 2021-10-30 22:43:16
  python
这篇教程python线程池的四种好处总结写得很实用,希望能帮到您。

1、使用好处

提高性能:由于减去了大量新建终止线程的费用,重用了线程资源;

适用场景:适用于处理大量突发请求或需要大量线程完成任务,但实际任务处理时间短。

防御功能:可以有效避免系统因线程过多而导致系统负载过大而相应变慢的问题。

代码优势:使用线程池的语法比创建自己的线程更简单。

2、实例

"""@file   : 004-线程池的使用.py@author : xiaolu@email  : luxiaonlp@163.com@time   : 2021-02-01"""import concurrent.futuresimport requestsfrom bs4 import BeautifulSoup  def craw(url):    # 爬取网页内容    r = requests.get(url)    return r.text  def parse(html):    # 解析其中的内容    soup = BeautifulSoup(html, "html.parser")    links = soup.find_all("a", class_="post-item-title")    return [(link["href"], link.get_text()) for link in links]   # 那链接和标题拿出来  if __name__ == '__main__':    # 待爬取的网页链接    urls = [        "https://www.cnblogs.com/sitehome/p/{}".format(page) for page in range(1, 50 + 1)    ]            # craw    with concurrent.futures.ThreadPoolExecutor() as pool:        htmls = pool.map(craw, urls)        htmls = list(zip(urls, htmls))        for url, html in htmls:            print(url, len(html))    print("craw over")        # parse    with concurrent.futures.ThreadPoolExecutor() as pool:        futures = {}        for url, html in htmls:            future = pool.submit(parse, html)            futures[future] = url            # for future, url in futures.items():        #     print(url, future.result())            for future in concurrent.futures.as_completed(futures):            url = futures[future]            print(url, future.result())

知识点补充:

线程池的使用

线程池的基类是 concurrent.futures 模块中的 Executor,Executor 提供了两个子类,即 ThreadPoolExecutor 和ProcessPoolExecutor,其中 ThreadPoolExecutor 用于创建线程池,而 ProcessPoolExecutor 用于创建进程池。

如果使用线程池/进程池来管理并发编程,那么只要将相应的 task 函数提交给线程池/进程池,剩下的事情就由线程池/进程池来搞定。

Exectuor 提供了如下常用方法:

submit(fn, *args, **kwargs):将 fn 函数提交给线程池。*args 代表传给 fn 函数的参数,*kwargs 代表以关键字参数的形式为 fn 函数传入参数。

map(func, *iterables, timeout=None, chunksize=1):该函数类似于全局函数 map(func, *iterables),只是该函数将会启动多个线程,以异步方式立即对 iterables 执行 map 处理。

shutdown(wait=True):关闭线程池。

程序将 task 函数提交(submit)给线程池后,submit 方法会返回一个 Future 对象,Future 类主要用于获取线程任务函数的返回值。由于线程任务会在新线程中以异步方式执行,因此,线程执行的函数相当于一个“将来完成”的任务,所以 Python 使用 Future 来代表。

到此这篇关于python线程池的四种好处总结的文章就介绍到这了,更多相关python线程池的四种好处归纳内容请搜索51zixue.net以前的文章或继续浏览下面的相关文章希望大家以后多多支持51zixue.net!


Python爬虫框架-scrapy的使用
pygame多种方式实现屏保操作(自动切换、鼠标切换、键盘切换)
万事OK自学网:51自学网_软件自学网_CAD自学网自学excel、自学PS、自学CAD、自学C语言、自学css3实例,是一个通过网络自主学习工作技能的自学平台,网友喜欢的软件自学网站。