摘要: 1:列表: Python的列表比C语言的数组强大的多,数组只能存放相同类型的数据,而列表则像一个大集装箱可以存放整形、浮点型、字符串、对象等 2:创建列表的方法 #创建一个普通列表 list1=[1,2,3,4,5] #创建一个空列表 empty=[] #创建一个混合列表 list2=['电子','123... 阅读原文
2018-01-24 17:27:03 阅读(799) 评论(0)
摘要: 一 背景知识     爬虫的本质就是一个socket客户端与服务端的通信过程,如果我们有多个url待爬取,只用一个线程且采用串行的方式执行,那只能等待爬取一个结束后才能继续下一个,效率会非常低。 需要强调的是:对于单线程下串行N个任务,并不完全等同于低效,如果这N个任务都是纯计算的任务,那么该线程对cpu的利用率仍... 阅读原文
2018-01-24 15:42:12 阅读(796) 评论(0)
摘要: 在腾讯云上搭建了一个Jupyter Notebook 还是很好用的, 这里总结了一些看到的小技巧及快捷键使得我们更加快捷的完成工作。 Notebook 与 Vim 有些类似,有两种键盘输入模式,即命令模式和编辑模式。命令模式与编辑模式切换为 Enter / Esc 。 一、一些魔法 魔法中的魔法,查看所有魔法功能... 阅读原文
2018-01-24 14:26:02 阅读(697) 评论(0)
摘要: 就我个人在学习Python的过程中,经常会出现学习了新方法后,如果隔上几天不用,就忘了的情况,或者刚学习的更好的方法没有得到应用,还是沿用已有的方法,这样很不利于学习和掌握新姿势,从而拉长学习时间,增加学习成本。 为此,我觉得有必要把各种方法或者技巧的用处和其典型例子记录下来,方便在空闲时间翻阅,并在实操上合理应用,... 阅读原文
2018-01-24 12:34:02 阅读(763) 评论(0)
摘要: 本篇导航: 背景知识 同步、异步、回调机制 高性能   一、背景知识 爬虫的本质就是一个socket客户端与服务端的通信过程,如果我们有多个url待爬取,只用一个线程且采用串行的方式执行,那只能等待爬取一个结束后才能继续下一个,效率会非常低。 需要强调的是:对于单线程下串行N个任务,并不完全等同于低效,如果这N个... 阅读原文
2018-01-24 10:09:13 阅读(808) 评论(0)
摘要: Python多线程 Python 提供了多个模块来支持多线程编程,包括 thread、threading 和 Queue 模块等。程序是可以使用 thread 和 threading 模块来创建与管理线程。 thread 模块提供了基本的线程和锁定支持;而 threading 模块提供了更高级别、功能更全面的线程管理... 阅读原文
2018-01-24 09:37:04 阅读(827) 评论(0)
摘要: import sys; import time; import os; #from huoche import PythonTickt; from splinter.browser import Browser; #from splinter.driver.webdriver import BaseWe... 阅读原文
2018-01-24 09:28:02 阅读(789) 评论(0)
摘要: 一。 1.计算机的编码历史由来与转换关系: 计算机的编码是由二进制编码0101方式来进行工作,  ascii码         00000001         01000001 01000010 01000011   ABC ASCII码由于全球语言多 受限所以由ascii基础有了。   unicode码: Uni... 阅读原文
2018-01-24 08:54:01 阅读(742) 评论(0)
摘要:  一、介绍    Scrapy一个开源和协作的框架,其最初是为了页面抓取 (更确切来说, 网络抓取 )所设计的,使用它可以以快速、简单、可扩展的方式从网站中提取所需的数据。但目前Scrapy的用途十分广泛,可用于如数据挖掘、监测和自动化测试等领域,也可以应用在获取API所返回的数据(例如 Amazon Associa... 阅读原文
2018-01-24 06:56:09 阅读(801) 评论(0)
摘要: 1、环境搭建 1.1 下载或拷贝整个PyAuthoTest到指定的目录,如D:\PyAuthoTest 1.2 安装Python2.7以及需要使用到的安装包列表如下 requests-2.10.0.tar.gz #;用于发送http数据报文 PyQt4-4.11.4-gpl-Py2.7-Qt4.8.7-x32... 阅读原文
2018-01-24 00:27:04 阅读(790) 评论(0)