如何爬蟲電影

A. python 爬蟲求教

python爬蟲，requests非常好用，建議使用。匹配結果使用re正則，列：

#-*-coding:utf-8-*-

importre


str1="""
<spanclass="title">尋夢環游記</span>
...
<spanclass="rating_num"property="v:average">9.0</span>
"""

title=re.search(r'<spanclass="title">(.*?)</span>',str1)
iftitle:
print(title.group(1))
rating=re.search(r'<spanclass="rating_num"property="v:average">(.*?)</span>',str1)
ifrating:
print(rating.group(1))

B. python爬蟲抓取電影top20排名怎麼寫

初步接觸python爬蟲(其實python也是才起步)，發現一段代碼研究了一下，覺得還比較有用處，Mark下。
上代碼：

#!/usr/bin/python#coding=utf-8#Author: Andrew_liu#mender：cy"""
一個簡單的Python爬蟲, 用於抓取豆瓣電影Top前100的電影的名稱
Anthor: Andrew_liu
mender：cy
Version: 0.0.2
Date: 2017-03-02
Language: Python2.7.12
Editor: JetBrains PyCharm 4.5.4
"""import stringimport reimport urllib2import timeclass DouBanSpider(object) :
"""類的簡要說明
主要用於抓取豆瓣Top100的電影名稱

Attributes:
page: 用於表示當前所處的抓取頁面
cur_url: 用於表示當前爭取抓取頁面的url
datas: 存儲處理好的抓取到的電影名稱
_top_num: 用於記錄當前的top號碼
"""

def __init__(self):
self.page = 1
self.cur_url = "h0?start={page}&filter=&type="
self.datas = []
self._top_num = 1
print u"豆瓣電影爬蟲准備就緒, 准備爬取數據..."

def get_page(self, cur_page):
"""
根據當前頁碼爬取網頁HTML
Args:
cur_page: 表示當前所抓取的網站頁碼
Returns:
返回抓取到整個頁面的HTML(unicode編碼)
Raises:
URLError:url引發的異常
"""
url = self.cur_url try:
my_page = urllib2.urlopen(url.format(page=(cur_page - 1) * 25)).read().decode("utf-8") except urllib2.URLError, e: if hasattr(e, "code"): print "The server couldn't fulfill the request."
print "Error code: %s" % e.code elif hasattr(e, "reason"): print "We failed to reach a server. Please check your url and read the Reason"
print "Reason: %s" % e.reason return my_page def find_title(self, my_page):
"""
通過返回的整個網頁HTML, 正則匹配前100的電影名稱

Args:
my_page: 傳入頁面的HTML文本用於正則匹配
"""
temp_data = []
movie_items = re.findall(r'<span.*?class="title">(.*?)</span>', my_page, re.S) for index, item in enumerate(movie_items): if item.find("&nbsp") == -1:
temp_data.append("Top" + str(self._top_num) + " " + item)
self._top_num += 1
self.datas.extend(temp_data) def start_spider(self):
"""
爬蟲入口, 並控制爬蟲抓取頁面的范圍
"""
while self.page <= 4:
my_page = self.get_page(self.page)
self.find_title(my_page)
self.page += 1def main():
print u"""
###############################
一個簡單的豆瓣電影前100爬蟲
Author: Andrew_liu
mender: cy
Version: 0.0.2
Date: 2017-03-02
###############################
"""
my_spider = DouBanSpider()
my_spider.start_spider()
fobj = open('/data/moxiaokai/HelloWorld/cyTest/blogcode/top_move.txt', 'w+') for item in my_spider.datas: print item
fobj.write(item.encode("utf-8")+' ')
time.sleep(0.1) print u"豆瓣爬蟲爬取完成"if __name__ == '__main__':
main()

運行結果：

C. 爬蟲爬取的豆瓣電影排行數據怎麼轉換為柱狀圖

建議可以使用前嗅的ForeSpider數據採集軟體可以採集，我之前就采過豆瓣的影評，可以設置各種過濾規律，比如我只要豆瓣評分6.0以上的電影，就可以精確的過濾。
新浪的內容也是可以採到的。
你先去一個免費版的試試，沒有功能和使用時長限制。
希望對你的問題有幫助

D. Python爬蟲，爬取豆瓣電影檢測到ip異常請求，怎麼辦解決，現在爬取不了豆瓣電影了

ip估計被封了，換個ip

E. 用Python爬蟲爬取愛奇藝上的VIP電影視頻，是違法行為嗎

屬於違法行為，情節嚴重者，愛奇藝將有權對您追究法律責任

F. 請問那些賣最新電影得，用的什麼軟體搜索出來得，聽說還是同步更新，知道得人回答，

最新的電影都是要在電影院上映一段時間後才會出現在網上，否則電影一出來網上就有了，誰還去電影院看，電影投資方怎麼賺錢，不過很多軟體可以比較快的弄到授權，要錢才能看，或者沖會員

G. 怎樣解析出HTML標簽中的數據，也就是說提取數據，我做了一個爬蟲，爬取豆瓣前250的電影。

用的是什麼語言？一般通用的可以用正則表達式解析，不過會麻煩一點。

如果用nodejs，可以用cheerio，類似jquery的用法。

H. python爬蟲抓取電影top20排名怎麼用

日長籬落無人過,唯有蜻蜓蛺蝶飛.

I. 怎樣避開豆瓣對爬蟲的封鎖，從而抓取豆瓣上電影內容

用前嗅的ForeSpider數據採集軟體可以採集，我之前采過豆瓣的影評，可以設置各種過濾規律，比如我只要豆瓣評分6.0以上的電影，就可以精確的過濾。ForeSpider可以智能模擬瀏覽器和用戶行為，突破反爬蟲限制。可以設置代理IP，並且可以自動過濾優質IP代理，提高使用代理的速度。
對於一些高難度的網站，反爬蟲措施比較多，可以使用ForeSpider內部自帶的爬蟲腳本語言系統，簡單幾行代碼就可以採集到高難度的網站。
可以去下載免費版，免費版不限制採集功能。有詳細的操作手冊可以學習。如果自己不想學習，可以讓前嗅進行配置。
而且客服可以教你怎樣用，有問題出錯了客服會遠程操作，非常好的服務態度。

J. python scrapy爬蟲豆瓣的「載入更多」 應該怎麼爬到所有的電影

不說具體，說思路。
你要分析 當你點擊 載入更多 時，瀏覽器都做了什麼（他是怎麼取回 "更多數據"的）
然後在scrapy中模擬這一過程！