python爬取贴吧内容实例,这次结合实际例子讲解
方法/步骤
1、打开python开发工具IDLE,新建‘tieba.py’文件,并写代码如下:importurllib.requestimportbs4导入urllib请求包和beautifulsoup处理包
2、创建发送请求的函数,函数返回网页源码,代码如下:defopenWeb(url):s罕铞泱殳c=urll足毂忍珩ib.request.urlopen(url)bc=sc.read()returnbc.decode('utf8')
3、打开python
4、F12打开开发者模式,观察所有title的结构
5、编写处理网页源码的函数,代码如下:defsaveContent(html):咯悝滩镞soup=bs4.BeautifulSoup(html,'html.p锾攒揉敫arser')link=soup.find_all('a',class_='j_th_tit')forlinlink:print(l['title'])
6、编写程序入口函数,调度上面的两个函数,代码如下:
7、F5运行代码,打印出所有title