爬取python書籍一百頁
- 2019 年 10 月 6 日
- 筆記
概要:利用selenium庫爬取京東python書籍一百頁存入csv
如果不知道selenium的基本操作,這裡獻上鏈接:selenium的使用(有點意思)
1、分析頁面。
我們以前利用requests庫等獲取獲取很麻煩。
利用selenium庫可以省很多事情,我們只需要獲取點擊到下一頁,
爬取我們需要的商品資訊,存入csv。
所以我們要寫三個方法來實現。
2、實現獲取商品資訊get_products方法。
我們需要抓取,編號,書名,價格,評價數量,出版社,
我們打開京東頁面,切換到開發者模式,如圖:

- 所有的商品都有一個類名:gl-item
- data-sku為一個編號,後面的class名需要用到。
- 價格的class是J_加上編號
- 評價數的id是J_comment_加上編號
- 書名的class是p-name
- 出版社的class是curr-shop
於是乎我們可以實現get_products獲取商品的資訊:

3、實現點擊下一頁

4、存入csv

存數據鏈接:數據的存儲(一)
5、完咯