开发者社区> 问答> 正文

爬虫代理池测试代理异常报错:concurrent.futures._base.T?400报错

代码来看自崔庆才《python3网络爬虫开发实战》书中第九章代理的使用,里面有三个模块一个获取代理 ,一个api,还有一个就是测试代理是否可用,出问题的就是这个测试,运行后不一会就报异常,但是奇怪的是这个测试还是会运行并且整理出可以用的代理,只是会报异常,不清楚具体是什么原因?我如何才能处理这个异常???知道原因请告知,谢谢!!

异常代码:

代理池开始运行 
Task exception was never retrieved
future: <Task finished coro=<Tester.test_single_proxy() done, defined at K:\mycode\proxy_demo\src\tester.py:21> exception=TimeoutError()>
Traceback (most recent call last):
  File "K:\mycode\proxy_demo\src\tester.py", line 36, in test_single_proxy
    async with session.get(TEST_URL,proxy=real_proxy,timeout=15) as response:
  File "D:\Program Files\Python37\lib\site-packages\aiohttp\client.py", line 1005, in __aenter__
    self._resp = await self._coro
  File "D:\Program Files\Python37\lib\site-packages\aiohttp\client.py", line 575, in _request
    break
  File "D:\Program Files\Python37\lib\site-packages\aiohttp\helpers.py", line 585, in __exit__
    raise asyncio.TimeoutError from None
concurrent.futures._base.TimeoutError

本地环境是python3.7.2,虚拟机用的是redis数据库

展开
收起
爱吃鱼的程序员 2020-06-06 09:30:56 948 0
1 条回答
写回答
取消 提交回答
  • https://developer.aliyun.com/profile/5yerqm5bn5yqg?spm=a2c6h.12873639.0.0.6eae304abcjaIB
                        <p>不知道你解决了没有, 刚好遇到同样的问题,刚好看到你的问题  我讲一下我这里的情况:</p> 
    

    返回的异常信息是并行执行的那些出问题又没有被except捕获的任务,所以在所有任务执行结束后,会传播给调用者,只需在被调用的函数里做异常处理就好了,

    2020-06-06 09:31:09
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
用AI 高效测试移动应用 立即下载
移动互联网测试到质量的转变 立即下载
给ITer的技术实战进阶课-阿里CIO学院独家教材(四) 立即下载