Python网络爬虫及数据采集技术培训_公开课

培训受众:

1，系统架构师、系统分析师、高级程序员、资深开发人员。2，牵涉到网络采集、处理和规划的负责人、设计人员。3，政府机关，金融保险、移动等以互联网信息为数据来源单位的负责人。4，高校、科研院所牵涉到网络数据采集与数据处理的项目负责人。

课程大纲

第一讲网络爬虫基础
1.什么是网络爬虫
2.浏览网页的过程
3.URL的含义
4. 环境的配置
第二讲 Python爬虫基础知识
1.Python爬虫基础学习
2.Python urllib和urllib2 库的用法
3.Python 正则表达式
4.BeautifulSoup简介
5.爬虫框架Scrapy
第三讲 Urllib库的基本使用
1.网页爬取示例
2.网页爬取方法
3.构造Requset
4.POST和GET数据传送
第四讲 Urllib库的高级用法
1.设置Headers
2. Proxy（代理）的设置
3.Timeout 设置
4.HTTP的PUT和DELETE方法
5.使用DebugLog
第五讲正则表达式
1.了解正则表达式
2.正则表达式的语法规则
3.正则表达式相关注解
4.Python Re模块
第六讲 Beautiful Soup的用法
1. Beautiful Soup的简介
2. Beautiful Soup 安装
3. 创建 Beautiful Soup 对象
4. Beautiful Soup对象种类
5. 遍历文档树
第七讲开始采集
1.遍历单个域名
2.采集整个网站
3.通过互联网采集
4.用Scrapy采集
5.几个示例
第八讲存储数据和读取文档
1.媒体文件
2.把数据存储到CSV
3.MySQL与Python整合
4.读取纯文本和CSV文档
5.读取Word和.docx
第九讲自然语言处理基础
1.概括数据
2.马尔可夫模型
3.自然语言工具包
4.用NLTK做统计分析
5.用NLTK做词性分析
第十讲用爬虫测试网站
1.测试简介
2.Python单元测试
3.Selenium单元测试
4.Python单元测试与Selenium单元测试的选择

培训师介绍

杨老师。
主要研究网络信息分析以及云计算相关技术，长期从事通信网管系统、网络信息处理、商务智能(BI)以及电信决策支持系统的研究开发工作，主持和参与了多个国家和省部级基金项目，具有丰富的工程实践及软件研发经验。

课程介绍评价详情(0)