小爬蟲pos機(jī)

 新聞資訊2  |   2023-07-15 12:25  |  投稿人:pos機(jī)之家

網(wǎng)上有很多關(guān)于小爬蟲pos機(jī),python爬蟲及數(shù)據(jù)分析的知識(shí),也有很多人為大家解答關(guān)于小爬蟲pos機(jī)的問題,今天pos機(jī)之家(www.bulldancerbisonranch.com)為大家整理了關(guān)于這方面的知識(shí),讓我們一起來看下吧!

本文目錄一覽:

1、小爬蟲pos機(jī)

小爬蟲pos機(jī)

當(dāng)今社會(huì),速度已經(jīng)深入人心了,“快”成了大家默認(rèn)的辦事境界,看機(jī)器上一件件飛一般傳遞著的產(chǎn)品,聽辦公室一族打電話時(shí)那種無人能及的語速……休閑的概念已日漸模糊,大家似乎都變成了在“快咒”控制下的小人兒,似乎連騰出點(diǎn)時(shí)間來松口氣的時(shí)間都沒有了,看得見的、看不見的規(guī)則約束著我們;有形的、無形的的鞭子驅(qū)趕著我們,我們馬不停蹄追求事業(yè)、愛情、地位、財(cái)富,似乎自己慢一拍,就會(huì)被這個(gè)世界拋棄

工作僅僅是生活的一部分,千萬不要忽略了其他樂趣,人生本是一幅美麗的風(fēng)景畫,不必對(duì)所有的事情都抱有強(qiáng)烈的目的性,人的一生總有做不完的事情,只要我們有一個(gè)平和之心,就不會(huì)錯(cuò)過沿途風(fēng)景。

一個(gè)陽光明媚的早晨,手拿一杯咖啡,翻開一本喜歡的書,也不失為一種人生樂趣,作為IT一族,我們不能只是局限于IT類的數(shù)據(jù),要廣大自己的視野,提升自己的內(nèi)在,今天這篇文章我們會(huì)給你推薦幾本不錯(cuò)的文學(xué)書籍,大家一起來看下。

作為一名程序猿,我們不用為該讀什么書發(fā)愁,因?yàn)槲覀冇衟ython,一個(gè)號(hào)稱除了生孩子,什么都可以做的語言。下面進(jìn)入正題。

關(guān)注,轉(zhuǎn)發(fā),私信小編“01”即可獲取python書籍!

本文大概涉及兩個(gè)方法:

1.書籍信息爬取

1.1 requests 抓取網(wǎng)頁

1.2 BeautifulSoup ,re正則分析網(wǎng)頁結(jié)構(gòu)

2.信息分析

2.1 pandas 處理文件

2.2 pyecharts 可視化分析

1.網(wǎng)頁抓取

目標(biāo)URL : https://book.douban.com/tag/文學(xué)?start=0&type=T

注意start=0,網(wǎng)頁的offset是20,后面代碼里有體現(xiàn)

我們還是用requests 庫來抓取網(wǎng)頁信息,下面說下requests 庫大致用法

1.常用方法

requests.get()

requests.post()

requests.put()

requests.delete()

2.參數(shù)

下面正式開始抓取網(wǎng)頁信息

右擊網(wǎng)頁----->檢查------->network------->按F5刷新網(wǎng)頁 就會(huì)出現(xiàn)下面的界面(我用的Chrome瀏覽器)

經(jīng)過上面的幾行代碼,我能就可以抓取頁面的內(nèi)容了

2.分析網(wǎng)頁,抓取數(shù)據(jù)

這次我們要抓取的信息包括:

書名,鏈接,作者,出版社,出版日期,價(jià)格,評(píng)分,評(píng)論數(shù),評(píng)論內(nèi)容

我們下面看看怎么獲取信息

我們可以選擇我們想要抓取的信息,下面顯示在 div class=\'article\' 這個(gè)標(biāo)簽下,到這里先別急寫代碼,我們可以繼續(xù)往下看幾層,是不是可以搜小我們選擇的范圍

我們向下看了幾層,發(fā)現(xiàn)其實(shí)我們想要的數(shù)據(jù)都在 li class = "subject-item" 這樣的標(biāo)簽下,下面我們就可以用BeautifulSoup來分析了

#用lxml方法來解析網(wǎng)頁,默認(rèn)是html.parsesoup = BeautifulSoup(response,\'lxml\')#找到所有<li class = "subject-item">這樣的標(biāo)簽,注意find_all方法返回的是list類型,下面使用的時(shí)候要用for循環(huán),find是只找到第一個(gè)符合條件的標(biāo)簽,返回的是bs4.element類型,可以直接調(diào)用方法artiche = soup.find_all(\'li\',\'subject-item\')

下面分別看下我們想要的數(shù)據(jù)的具體位置,選擇第一個(gè) li class = "subject-item" 標(biāo)簽

下面所有要的信息,以及標(biāo)簽我在圖上做了標(biāo)識(shí)

下面看代碼

抓取完信息我們要用pandas的to_csv方法把數(shù)據(jù)存入csv文件里方便后續(xù)分析

這樣我們的數(shù)據(jù)抓取就算大功告成了。

3.數(shù)據(jù)分析

數(shù)據(jù)分析這段我們使用pyecharts工具,我們大概分析幾個(gè)方面,自我感覺分析的不是太到位,哈哈,大家主要還是用來學(xué)習(xí)下怎么使用pyecharts和pandas。

首先我們用pandas分析上面的csv文件,處理下等到我們想要的格式

1.根據(jù)評(píng)論數(shù)量和評(píng)分,分析大家對(duì)那些書敢興趣,評(píng)分比較高

bar = Bar("豆瓣文學(xué)類圖書", "評(píng)價(jià)數(shù)量")bar.add("評(píng)論數(shù)排名", dfn_book_name, dfn_comment_nums, is_more_utils=True)# bar.print_echarts_options() # 該行只為了打印配置項(xiàng),方便調(diào)試時(shí)使用bar.render(\'豆瓣文學(xué)評(píng)論數(shù)分析.html\') # 生成本地 HTML 文件#bar = Bar("豆瓣文學(xué)類圖書", "評(píng)價(jià)數(shù)量")bar.add("評(píng)分排名", dfn_book_name_score, dfn_comment_score, is_more_utils=True)# bar.print_echarts_options() # 該行只為了打印配置項(xiàng),方便調(diào)試時(shí)使用bar.render(\'豆瓣文學(xué)書籍評(píng)分分析.html\') # 生成本地 HTML 文件

從上面看的出來,<<風(fēng)箏的人>>,<<活著>>,<<解憂雜貨店>>,<<小王子>>,<<白夜行>>等書,還是值得我們一看的,大家也可以上豆瓣讀書上看下,網(wǎng)站自己有個(gè)綜合排名,感覺和我分析的差不多,有興趣可以自己看下。

2.各年份出版的書籍?dāng)?shù)量

pie = Pie("各年份出版書籍?dāng)?shù)量分布餅圖", title_pos=\'center\')pie.add("", dfn_n_year, dfn_n_count, radius=[40, 75], label_text_color=None, is_label_show=True, legend_orient="vertical", legend_pos="left")# pie.show_config()pie.render(\'年份出版書籍?dāng)?shù)量分布餅圖.html\')

我們看隨著時(shí)間的推進(jìn),人們對(duì)書籍的需求也越來越大,從1999-2019,書籍的出版數(shù)量呈上升趨勢(shì)。

3.各大出版的發(fā)行書籍?dāng)?shù)據(jù)占比

pie = Pie("各出版社出版書籍?dāng)?shù)量分布餅圖", title_pos=\'center\')pie.add("", dfn_n_pub_name, dfn_n_pub_count, radius=[40, 75], label_text_color=None, is_label_show=True, legend_orient="vertical", legend_pos="left")# pie.show_config()pie.render(\'各出版社出版書籍?dāng)?shù)量分布餅圖.html\')

出版社的分析,大家自己看下就行。

最后還是那句話,工作再忙,也要享受片刻的讀書時(shí)光,減少焦慮。

大家如果有興趣可以拿的代碼自己執(zhí)行抓取數(shù)據(jù),自己做點(diǎn)自己想要知道的分析。

以上就是關(guān)于小爬蟲pos機(jī),python爬蟲及數(shù)據(jù)分析的知識(shí),后面我們會(huì)繼續(xù)為大家整理關(guān)于小爬蟲pos機(jī)的知識(shí),希望能夠幫助到大家!

轉(zhuǎn)發(fā)請(qǐng)帶上網(wǎng)址:http://www.bulldancerbisonranch.com/newsone/85224.html

你可能會(huì)喜歡:

版權(quán)聲明:本文內(nèi)容由互聯(lián)網(wǎng)用戶自發(fā)貢獻(xiàn),該文觀點(diǎn)僅代表作者本人。本站僅提供信息存儲(chǔ)空間服務(wù),不擁有所有權(quán),不承擔(dān)相關(guān)法律責(zé)任。如發(fā)現(xiàn)本站有涉嫌抄襲侵權(quán)/違法違規(guī)的內(nèi)容, 請(qǐng)發(fā)送郵件至 babsan@163.com 舉報(bào),一經(jīng)查實(shí),本站將立刻刪除。