這是我見過最牛逼,最全面的Beautiful Soup 4.2 教程!沒有之一

NO IMAGE

進群:125240963    即可獲取數十套PDF!

Beautiful Soup 是一個可以從HTML或XML檔案中提取資料的Python庫.它能夠通過你喜歡的轉換器實現慣用的文件導航,查詢,修改文件的方式.Beautiful Soup會幫你節省數小時甚至數天的工作時間.

這篇文件介紹了BeautifulSoup4中所有主要特性,並且有小例子.讓我來向你展示它適合做什麼,如何工作,怎樣使用,如何達到你想要的效果,和處理異常情況.

文件中出現的例子在Python2.7和Python3.2中的執行結果相同

你可能在尋找 Beautiful Soup3 的文件,Beautiful Soup 3 目前已經停止開發,我們推薦在現在的專案中使用Beautiful Soup 4, 移植到BS4

尋求幫助

如果你有關於BeautifulSoup的問題,可以傳送郵件到 討論組 .如果你的問題包含了一段需要轉換的HTML程式碼,那麼確保你提的問題描述中附帶這段HTML文件的 程式碼診斷 [1]

快速開始

下面的一段HTML程式碼將作為例子被多次用到.這是 愛麗絲夢遊仙境的 的一段內容(以後內容中簡稱為 愛麗絲 的文件):

html_doc = “””

<html><head><title>The Dormouse’s story</title></head>

<body>

<p class=”title”><b>The Dormouse’s story</b></p>

<p class=”story”>Once upon a time there were three little sisters; and their names were

<a href=”http://example.com/elsie” class=”sister” id=”link1″>Elsie</a>,

<a href=”http://example.com/lacie” class=”sister” id=”link2″>Lacie</a> and

<a href=”http://example.com/tillie” class=”sister” id=”link3″>Tillie</a>;

and they lived at the bottom of a well.</p>

<p class=”story”>…</p>

“””

使用BeautifulSoup解析這段程式碼,能夠得到一個 BeautifulSoup 的物件,並能按照標準的縮排格式的結構輸出:

from bs4 import BeautifulSoup

soup = BeautifulSoup(html_doc)

print(soup.prettify())

# <html>

# <head>

# <title>

# The Dormouse’s story

# </title>

# </head>

# <body>

# <p class=”title”>

# <b>

# The Dormouse’s story

# </b>

# </p>

# <p class=”story”>

# Once upon a time there were three little sisters; and their names were

# <a class=”sister” href=”http://example.com/elsie” id=”link1″>

# Elsie

# </a>

# ,

# <a class=”sister” href=”http://example.com/lacie” id=”link2″>

# Lacie

# </a>

# and

# <a class=”sister” href=”http://example.com/tillie” id=”link2″>

# Tillie

# </a>

# ; and they lived at the bottom of a well.

# </p>

# <p class=”story”>

# …

# </p>

# </body>

# </html>

幾個簡單的瀏覽結構化資料的方法:

soup.title

# <title>The Dormouse’s story</title>

soup.title.name

# u’title’

soup.title.string

# u’The Dormouse’s story’

soup.title.parent.name

# u’head’

soup.p

# <p class=”title”><b>The Dormouse’s story</b></p>

soup.p[‘class’]

# u’title’

soup.a

# <a class=”sister” href=”http://example.com/elsie” id=”link1″>Elsie</a>

soup.find_all(‘a’)

# [<a class=”sister” href=”http://example.com/elsie” id=”link1″>Elsie</a>,

# <a class=”sister” href=”http://example.com/lacie” id=”link2″>Lacie</a>,

# <a class=”sister” href=”http://example.com/tillie” id=”link3″>Tillie</a>]

soup.find(id=”link3″)

# <a class=”sister” href=”http://example.com/tillie” id=”link3″>Tillie</a>

從文件中找到所有<a>標籤的連結:

for link in soup.find_all(‘a’):

print(link.get(‘href’))

# http://example.com/elsie

# http://example.com/lacie

# http://example.com/tillie

從文件中獲取所有文字內容:

print(soup.get_text())

# The Dormouse’s story

#

# The Dormouse’s story

#

# Once upon a time there were three little sisters; and their names were

# Elsie,

# Lacie and

# Tillie;

# and they lived at the bottom of a well.

#

# …

這是你想要的嗎?彆著急,還有更好用的

安裝 Beautiful Soup

如果你用的是新版的Debain或ubuntu,那麼可以通過系統的軟體包管理來安裝:

$ apt-get install Python-bs4

Beautiful Soup 4 通過PyPi釋出,所以如果你無法使用系統包管理安裝,那麼也可以通過 easy_install 或 pip 來安裝.包的名字是 beautifulsoup4 ,這個包相容Python2和Python3.

$ easy_install beautifulsoup4

$ pip install beautifulsoup4

(在PyPi中還有一個名字是 BeautifulSoup 的包,但那可能不是你想要的,那是 Beautiful Soup3 的釋出版本,因為很多專案還在使用BS3, 所以 BeautifulSoup 包依然有效.但是如果你在編寫新專案,那麼你應該安裝的beautifulsoup4 )

如果你沒有安裝 easy_install 或 pip ,那你也可以 下載BS4的原始碼 ,然後通過setup.py來安裝.

$ Python setup.py install

如果上述安裝方法都行不通,Beautiful Soup的釋出協議允許你將BS4的程式碼打包在你的專案中,這樣無須安裝即可使用.

作者在Python2.7和Python3.2的版本下開發Beautiful Soup, 理論上Beautiful Soup應該在所有當前的Python版本中正常工作

安裝完成後的問題

Beautiful Soup釋出時打包成Python2版本的程式碼,在Python3環境下安裝時,會自動轉換成Python3的程式碼,如果沒有一個安裝的過程,那麼程式碼就不會被轉換.

如果程式碼丟擲了 ImportError 的異常: “No module named HTMLParser”, 這是因為你在Python3版本中執行Python2版本的程式碼.

如果程式碼丟擲了 ImportError 的異常: “No module named html.parser”, 這是因為你在Python2版本中執行Python3版本的程式碼.

如果遇到上述2種情況,最好的解決方法是重新安裝BeautifulSoup4.

如果在ROOT_TAG_NAME = u’[document]’程式碼處遇到 SyntaxError “Invalid syntax”錯誤,需要將把BS4的Python程式碼版本從Python2轉換到Python3. 可以重新安裝BS4:

$ Python3 setup.py install

或在bs4的目錄中執行Python程式碼版本轉換指令碼

$ 2to3-3.2 -w bs4

安裝解析器

Beautiful Soup支援Python標準庫中的HTML解析器,還支援一些第三方的解析器,其中一個是 lxml .根據作業系統不同,可以選擇下列方法來安裝lxml:

$ apt-get install Python-lxml

$ easy_install lxml

$ pip install lxml

另一個可供選擇的解析器是純Python實現的 html5lib , html5lib的解析方式與瀏覽器相同,可以選擇下列方法來安裝html5lib:

$ apt-get install Python-html5lib

$ easy_install html5lib

$ pip install html5lib

下表列出了主要的解析器,以及它們的優缺點:

  • 解析器使用方法優勢劣勢Python標準庫BeautifulSoup(markup, “html.parser”)Python的內建標準庫
  • 執行速度適中
  • 文件容錯能力強
  • Python 2.7.3 or 3.2.2)前 的版本中文件容錯能力差
  • lxml HTML 解析器BeautifulSoup(markup, “lxml”)速度快
  • 文件容錯能力強
  • 需要安裝C語言庫

lxml XML 解析器BeautifulSoup(markup, [“lxml”, “xml”])

BeautifulSoup(markup, “xml”)

  • 速度快
  • 唯一支援XML的解析器
  • 需要安裝C語言庫
  • html5libBeautifulSoup(markup, “html5lib”)最好的容錯性
  • 以瀏覽器的方式解析文件
  • 生成HTML5格式的文件
  • 速度慢
  • 不依賴外部擴充套件

推薦使用lxml作為解析器,因為效率更高. 在Python2.7.3之前的版本和Python3中3.2.2之前的版本,必須安裝lxml或html5lib, 因為那些Python版本的標準庫中內建的HTML解析方法不夠穩定.

提示: 如果一段HTML或XML文件格式不正確的話,那麼在不同的解析器中返回的結果可能是不一樣的,檢視 解析器之間的區別 瞭解更多細節

如何使用

將一段文件傳入BeautifulSoup 的構造方法,就能得到一個文件的物件, 可以傳入一段字串或一個檔案控制代碼.

from bs4 import BeautifulSoup

soup = BeautifulSoup(open(“index.html”))

soup = BeautifulSoup(“<html>data</html>”)

首先,文件被轉換成Unicode,並且HTML的例項都被轉換成Unicode編碼

BeautifulSoup(“Sacré bleu!”)

<html><head></head><body>Sacré bleu!</body></html>

然後,Beautiful Soup選擇最合適的解析器來解析這段文件,如果手動指定解析器那麼Beautiful Soup會選擇指定的解析器來解析文件.(參考 解析成XML ).

物件的種類

Beautiful Soup將複雜HTML文件轉換成一個複雜的樹形結構,每個節點都是Python物件,所有物件可以歸納為4種: Tag , NavigableString , BeautifulSoup , Comment .

Tag

Tag 物件與XML或HTML原生文件中的tag相同:

soup = BeautifulSoup(‘<b class=”boldest”>Extremely bold</b>’)

tag = soup.b

type(tag)

# <class ‘bs4.element.Tag’>

Tag有很多方法和屬性,在 遍歷文件樹 和 搜尋文件樹 中有詳細解釋.現在介紹一下tag中最重要的屬性: name和attributes

Name

每個tag都有自己的名字,通過 .name 來獲取:

tag.name

# u’b’

如果改變了tag的name,那將影響所有通過當前Beautiful Soup物件生成的HTML文件:

tag.name = “blockquote”

tag

# <blockquote class=”boldest”>Extremely bold</blockquote>

Attributes

一個tag可能有很多個屬性. tag <b class=”boldest”> 有一個 “class” 的屬性,值為 “boldest” . tag的屬性的操作方法與字典相同:

tag[‘class’]

# u’boldest’

也可以直接”點”取屬性, 比如: .attrs :

tag.attrs

# {u’class’: u’boldest’}

tag的屬性可以被新增,刪除或修改. 再說一次, tag的屬性操作方法與字典一樣

tag[‘class’] = ‘verybold’

tag[‘id’] = 1

tag

# <blockquote class=”verybold” id=”1″>Extremely bold</blockquote>

del tag[‘class’]

del tag[‘id’]

tag

# <blockquote>Extremely bold</blockquote>

tag[‘class’]

# KeyError: ‘class’

print(tag.get(‘class’))

# None

多值屬性

HTML 4定義了一系列可以包含多個值的屬性.在HTML5中移除了一些,卻增加更多.最常見的多值的屬性是 class (一個tag可以有多個CSS的class). 還有一些屬性 rel , rev , accept-charset , headers , accesskey . 在Beautiful Soup中多值屬性的返回型別是list:

css_soup = BeautifulSoup(‘<p class=”body strikeout”></p>’)

css_soup.p[‘class’]

# [“body”, “strikeout”]

css_soup = BeautifulSoup(‘<p class=”body”></p>’)

css_soup.p[‘class’]

# [“body”]

如果某個屬性看起來好像有多個值,但在任何版本的HTML定義中都沒有被定義為多值屬性,那麼Beautiful Soup會將這個屬性作為字串返回

id_soup = BeautifulSoup(‘<p id=”my id”></p>’)

id_soup.p[‘id’]

# ‘my id’

將tag轉換成字串時,多值屬性會合併為一個值

rel_soup = BeautifulSoup(‘<p>Back to the <a rel=”index”>homepage</a></p>’)

rel_soup.a[‘rel’]

# [‘index’]

rel_soup.a[‘rel’] = [‘index’, ‘contents’]

print(rel_soup.p)

# <p>Back to the <a rel=”index contents”>homepage</a></p>

如果轉換的文件是XML格式,那麼tag中不包含多值屬性

xml_soup = BeautifulSoup(‘<p class=”body strikeout”></p>’, ‘xml’)

xml_soup.p[‘class’]

# u’body strikeout’

可以遍歷的字串

字串常被包含在tag內.Beautiful Soup用 NavigableString 類來包裝tag中的字串:

tag.string

# u’Extremely bold’

type(tag.string)

# <class ‘bs4.element.NavigableString’>

一個 NavigableString 字串與Python中的Unicode字串相同,並且還支援包含在 遍歷文件樹 和 搜尋文件樹 中的一些特性. 通過 unicode() 方法可以直接將 NavigableString 物件轉換成Unicode字串:

unicode_string = unicode(tag.string)

unicode_string

# u’Extremely bold’

type(unicode_string)

# <type ‘unicode’>

tag中包含的字串不能編輯,但是可以被替換成其它的字串,用 replace_with() 方法:

tag.string.replace_with(“No longer bold”)

tag

# <blockquote>No longer bold</blockquote>

NavigableString 物件支援 遍歷文件樹 和 搜尋文件樹 中定義的大部分屬性, 並非全部.尤其是,一個字串不能包含其它內容(tag能夠包含字串或是其它tag),字串不支援 .contents 或 .string 屬性或 find() 方法.

如果想在Beautiful Soup之外使用 NavigableString 物件,需要呼叫 unicode() 方法,將該物件轉換成普通的Unicode字串,否則就算Beautiful Soup已方法已經執行結束,該物件的輸出也會帶有物件的引用地址.這樣會浪費記憶體.

BeautifulSoup

BeautifulSoup 物件表示的是一個文件的全部內容.大部分時候,可以把它當作 Tag 物件,它支援 遍歷文件樹 和 搜尋文件樹 中描述的大部分的方法.

因為 BeautifulSoup 物件並不是真正的HTML或XML的tag,所以它沒有name和attribute屬性.但有時檢視它的 .name 屬性是很方便的,所以 BeautifulSoup 物件包含了一個值為 “[document]” 的特殊屬性 .name

soup.name

# u'[document]’

註釋及特殊字串

Tag , NavigableString , BeautifulSoup 幾乎覆蓋了html和xml中的所有內容,但是還有一些特殊物件.容易讓人擔心的內容是文件的註釋部分:

markup = “<b><!–Hey, buddy. Want to buy a used parser?–></b>”

soup = BeautifulSoup(markup)

comment = soup.b.string

type(comment)

# <class ‘bs4.element.Comment’>

Comment 物件是一個特殊型別的 NavigableString 物件:

comment

# u’Hey, buddy. Want to buy a used parser’

但是當它出現在HTML文件中時, Comment 物件會使用特殊的格式輸出:

print(soup.b.prettify())

# <b>

# <!–Hey, buddy. Want to buy a used parser?–>

# </b>

Beautiful Soup中定義的其它型別都可能會出現在XML的文件中: CData , ProcessingInstruction , Declaration , Doctype .與 Comment 物件類似,這些類都是 NavigableString 的子類,只是新增了一些額外的方法的字串獨享.下面是用CDATA來替代註釋的例子:

from bs4 import CData

cdata = CData(“A CDATA block”)

comment.replace_with(cdata)

print(soup.b.prettify())

# <b>

# <![CDATA[A CDATA block]]>

# </b>

遍歷文件樹

還拿”愛麗絲夢遊仙境”的文件來做例子:

html_doc = “””

<html><head><title>The Dormouse’s story</title></head>

<p class=”title”><b>The Dormouse’s story</b></p>

<p class=”story”>Once upon a time there were three little sisters; and their names were

<a href=”http://example.com/elsie” class=”sister” id=”link1″>Elsie</a>,

<a href=”http://example.com/lacie” class=”sister” id=”link2″>Lacie</a> and

<a href=”http://example.com/tillie” class=”sister” id=”link3″>Tillie</a>;

and they lived at the bottom of a well.</p>

<p class=”story”>…</p>

“””

from bs4 import BeautifulSoup

soup = BeautifulSoup(html_doc)

通過這段例子來演示怎樣從文件的一段內容找到另一段內容

子節點

一個Tag可能包含多個字串或其它的Tag,這些都是這個Tag的子節點.Beautiful Soup提供了許多操作和遍歷子節點的屬性.

注意: Beautiful Soup中字串節點不支援這些屬性,因為字串沒有子節點

tag的名字

操作文件樹最簡單的方法就是告訴它你想獲取的tag的name.如果想獲取 <head> 標籤,只要用 soup.head :

soup.head

# <head><title>The Dormouse’s story</title></head>

soup.title

# <title>The Dormouse’s story</title>

這是個獲取tag的小竅門,可以在文件樹的tag中多次呼叫這個方法.下面的程式碼可以獲取<body>標籤中的第一個<b>標籤:

soup.body.b

# <b>The Dormouse’s story</b>

通過點取屬性的方式只能獲得當前名字的第一個tag:

soup.a

# <a class=”sister” href=”http://example.com/elsie” id=”link1″>Elsie</a>

如果想要得到所有的<a>標籤,或是通過名字得到比一個tag更多的內容的時候,就需要用到 Searching the tree 中描述的方法,比如: find_all()

soup.find_all(‘a’)

# [<a class=”sister” href=”http://example.com/elsie” id=”link1″>Elsie</a>,

# <a class=”sister” href=”http://example.com/lacie” id=”link2″>Lacie</a>,

# <a class=”sister” href=”http://example.com/tillie” id=”link3″>Tillie</a>]

.contents 和 .children

tag的 .contents 屬性可以將tag的子節點以列表的方式輸出:

head_tag = soup.head

head_tag

# <head><title>The Dormouse’s story</title></head>

head_tag.contents

[<title>The Dormouse’s story</title>]

title_tag = head_tag.contents[0]

title_tag

# <title>The Dormouse’s story</title>

title_tag.contents

# [u’The Dormouse’s story’]

BeautifulSoup 物件本身一定會包含子節點,也就是說<html>標籤也是 BeautifulSoup 物件的子節點:

len(soup.contents)

# 1

soup.contents[0].name

# u’html’

字串沒有 .contents 屬性,因為字串沒有子節點:

text = title_tag.contents[0]

text.contents

# AttributeError: ‘NavigableString’ object has no attribute ‘contents’

通過tag的 .children 生成器,可以對tag的子節點進行迴圈:

for child in title_tag.children:

print(child)

# The Dormouse’s story

.descendants

.contents 和 .children 屬性僅包含tag的直接子節點.例如,<head>標籤只有一個直接子節點<title>

head_tag.contents

# [<title>The Dormouse’s story</title>]

但是<title>標籤也包含一個子節點:字串 “The Dormouse’s story”,這種情況下字串 “The Dormouse’s story”也屬於<head>標籤的子孫節點. .descendants 屬性可以對所有tag的子孫節點進行遞迴迴圈 [5] :

for child in head_tag.descendants:

print(child)

# <title>The Dormouse’s story</title>

# The Dormouse’s story

上面的例子中, <head>標籤只有一個子節點,但是有2個子孫節點:<head>節點和<head>的子節點, BeautifulSoup 有一個直接子節點(<html>節點),卻有很多子孫節點:

len(list(soup.children))

# 1

len(list(soup.descendants))

# 25

.string

如果tag只有一個 NavigableString 型別子節點,那麼這個tag可以使用 .string 得到子節點:

title_tag.string

# u’The Dormouse’s story’

如果一個tag僅有一個子節點,那麼這個tag也可以使用 .string 方法,輸出結果與當前唯一子節點的 .string 結果相同:

head_tag.contents

# [<title>The Dormouse’s story</title>]

head_tag.string

# u’The Dormouse’s story’

如果tag包含了多個子節點,tag就無法確定 .string 方法應該呼叫哪個子節點的內容, .string 的輸出結果是 None :

print(soup.html.string)

# None

.strings 和 stripped_strings

如果tag中包含多個字串 [2] ,可以使用 .strings 來迴圈獲取:

for string in soup.strings:

print(repr(string))

# u”The Dormouse’s story”

# u’ ‘

# u”The Dormouse’s story”

# u’ ‘

# u’Once upon a time there were three little sisters; and their names were ‘

# u’Elsie’

# u’, ‘

# u’Lacie’

# u’ and ‘

# u’Tillie’

# u’; and they lived at the bottom of a well.’

# u’ ‘

# u’…’

# u’ ‘

輸出的字串中可能包含了很多空格或空行,使用 .stripped_strings 可以去除多餘空白內容:

for string in soup.stripped_strings:

print(repr(string))

# u”The Dormouse’s story”

# u”The Dormouse’s story”

# u’Once upon a time there were three little sisters; and their names were’

# u’Elsie’

# u’,’

# u’Lacie’

# u’and’

# u’Tillie’

# u’; and they lived at the bottom of a well.’

# u’…’

全部是空格的行會被忽略掉,段首和段末的空白會被刪除

父節點

繼續分析文件樹,每個tag或字串都有父節點:被包含在某個tag中

.parent

通過 .parent 屬性來獲取某個元素的父節點.在例子“愛麗絲”的文件中,<head>標籤是<title>標籤的父節點:

title_tag = soup.title

title_tag

# <title>The Dormouse’s story</title>

title_tag.parent

# <head><title>The Dormouse’s story</title></head>

文件title的字串也有父節點:<title>標籤

title_tag.string.parent

# <title>The Dormouse’s story</title>

文件的頂層節點比如<html>的父節點是 BeautifulSoup 物件:

html_tag = soup.html

type(html_tag.parent)

# <class ‘bs4.BeautifulSoup’>

BeautifulSoup 物件的 .parent 是None:

print(soup.parent)

# None

.parents

通過元素的 .parents 屬性可以遞迴得到元素的所有父輩節點,下面的例子使用了 .parents 方法遍歷了<a>標籤到根節點的所有節點.

link = soup.a

link

# <a class=”sister” href=”http://example.com/elsie” id=”link1″>Elsie</a>

for parent in link.parents:

if parent is None:

print(parent)

else:

print(parent.name)

# p

# body

# html

# [document]

# None

兄弟節點

看一段簡單的例子:

sibling_soup = BeautifulSoup(“<a><b>text1</b><c>text2</c></b></a>”)

print(sibling_soup.prettify())

# <html>

# <body>

# <a>

# <b>

# text1

# </b>

# <c>

# text2

# </c>

# </a>

# </body>

# </html>

因為<b>標籤和<c>標籤是同一層:他們是同一個元素的子節點,所以<b>和<c>可以被稱為兄弟節點.一段文件以標準格式輸出時,兄弟節點有相同的縮排級別.在程式碼中也可以使用這種關係.

.next_sibling 和 .previous_sibling

在文件樹中,使用 .next_sibling 和 .previous_sibling 屬性來查詢兄弟節點:

sibling_soup.b.next_sibling

# <c>text2</c>

sibling_soup.c.previous_sibling

# <b>text1</b>

<b>標籤有 .next_sibling 屬性,但是沒有 .previous_sibling 屬性,因為<b>標籤在同級節點中是第一個.同理,<c>標籤有 .previous_sibling 屬性,卻沒有 .next_sibling 屬性:

print(sibling_soup.b.previous_sibling)

# None

print(sibling_soup.c.next_sibling)

# None

例子中的字串“text1”和“text2”不是兄弟節點,因為它們的父節點不同:

sibling_soup.b.string

# u’text1′

print(sibling_soup.b.string.next_sibling)

# None

實際文件中的tag的 .next_sibling 和 .previous_sibling 屬性通常是字串或空白. 看看“愛麗絲”文件:

<a href=”http://example.com/elsie” class=”sister” id=”link1″>Elsie</a>

<a href=”http://example.com/lacie” class=”sister” id=”link2″>Lacie</a>

<a href=”http://example.com/tillie” class=”sister” id=”link3″>Tillie</a>

如果以為第一個<a>標籤的 .next_sibling 結果是第二個<a>標籤,那就錯了,真實結果是第一個<a>標籤和第二個<a>標籤之間的頓號和換行符:

link = soup.a

link

# <a class=”sister” href=”http://example.com/elsie” id=”link1″>Elsie</a>

link.next_sibling

# u’, ‘

第二個<a>標籤是頓號的 .next_sibling 屬性:

link.next_sibling.next_sibling

# <a class=”sister” href=”http://example.com/lacie” id=”link2″>Lacie</a>

.next_siblings 和 .previous_siblings

通過 .next_siblings 和 .previous_siblings 屬性可以對當前節點的兄弟節點迭代輸出:

for sibling in soup.a.next_siblings:

print(repr(sibling))

# u’, ‘

# <a class=”sister” href=”http://example.com/lacie” id=”link2″>Lacie</a>

# u’ and ‘

# <a class=”sister” href=”http://example.com/tillie” id=”link3″>Tillie</a>

# u’; and they lived at the bottom of a well.’

# None

for sibling in soup.find(id=”link3″).previous_siblings:

print(repr(sibling))

# ‘ and ‘

# <a class=”sister” href=”http://example.com/lacie” id=”link2″>Lacie</a>

# u’, ‘

# <a class=”sister” href=”http://example.com/elsie” id=”link1″>Elsie</a>

# u’Once upon a time there were three little sisters; and their names were ‘

# None

回退和前進

看一下“愛麗絲” 文件:

<html><head><title>The Dormouse’s story</title></head>

<p class=”title”><b>The Dormouse’s story</b></p>

HTML解析器把這段字串轉換成一連串的事件: “開啟<html>標籤”,”開啟一個<head>標籤”,”開啟一個<title>標籤”,”新增一段字串”,”關閉<title>標籤”,”開啟<p>標籤”,等等.Beautiful Soup提供了重現解析器初始化過程的方法.

.next_element 和 .previous_element

.next_element 屬性指向解析過程中下一個被解析的物件(字串或tag),結果可能與 .next_sibling 相同,但通常是不一樣的.

這是“愛麗絲”文件中最後一個<a>標籤,它的 .next_sibling 結果是一個字串,因為當前的解析過程 [2] 因為當前的解析過程因為遇到了<a>標籤而中斷了:

last_a_tag = soup.find(“a”, id=”link3″)

last_a_tag

# <a class=”sister” href=”http://example.com/tillie” id=”link3″>Tillie</a>

last_a_tag.next_sibling

# ‘; and they lived at the bottom of a well.’

但這個<a>標籤的 .next_element 屬性結果是在<a>標籤被解析之後的解析內容,不是<a>標籤後的句子部分,應該是字串”Tillie”:

last_a_tag.next_element

# u’Tillie’

這是因為在原始文件中,字串“Tillie” 在分號前出現,解析器先進入<a>標籤,然後是字串“Tillie”,然後關閉</a>標籤,然後是分號和剩餘部分.分號與<a>標籤在同一層級,但是字串“Tillie”會被先解析.

.previous_element 屬性剛好與 .next_element 相反,它指向當前被解析的物件的前一個解析物件:

last_a_tag.previous_element

# u’ and ‘

last_a_tag.previous_element.next_element

# <a class=”sister” href=”http://example.com/tillie” id=”link3″>Tillie</a>

.next_elements 和 .previous_elements

通過 .next_elements 和 .previous_elements 的迭代器就可以向前或向後訪問文件的解析內容,就好像文件正在被解析一樣:

for element in last_a_tag.next_elements:

print(repr(element))

# u’Tillie’

# u’; and they lived at the bottom of a well.’

# u’ ‘

# <p class=”story”>…</p>

# u’…’

# u’ ‘

# None

搜尋文件樹

Beautiful Soup定義了很多搜尋方法,這裡著重介紹2個: find() 和 find_all() .其它方法的引數和用法類似,請讀者舉一反三.

再以“愛麗絲”文件作為例子:

html_doc = “””

<html><head><title>The Dormouse’s story</title></head>

<p class=”title”><b>The Dormouse’s story</b></p>

<p class=”story”>Once upon a time there were three little sisters; and their names were

<a href=”http://example.com/elsie” class=”sister” id=”link1″>Elsie</a>,

<a href=”http://example.com/lacie” class=”sister” id=”link2″>Lacie</a> and

<a href=”http://example.com/tillie” class=”sister” id=”link3″>Tillie</a>;

and they lived at the bottom of a well.</p>

<p class=”story”>…</p>

“””

from bs4 import BeautifulSoup

soup = BeautifulSoup(html_doc)

使用 find_all() 類似的方法可以查詢到想要查詢的文件內容

過濾器

介紹 find_all() 方法前,先介紹一下過濾器的型別 [3] ,這些過濾器貫穿整個搜尋的API.過濾器可以被用在tag的name中,節點的屬性中,字串中或他們的混合中.

字串

最簡單的過濾器是字串.在搜尋方法中傳入一個字串引數,Beautiful Soup會查詢與字串完整匹配的內容,下面的例子用於查詢文件中所有的<b>標籤:

soup.find_all(‘b’)

# [<b>The Dormouse’s story</b>]

如果傳入位元組碼引數,Beautiful Soup會當作UTF-8編碼,可以傳入一段Unicode 編碼來避免Beautiful Soup解析編碼出錯

正規表示式

如果傳入正規表示式作為引數,Beautiful Soup會通過正規表示式的 match() 來匹配內容.下面例子中找出所有以b開頭的標籤,這表示<body>和<b>標籤都應該被找到:

import re

for tag in soup.find_all(re.compile(“^b”)):

print(tag.name)

# body

# b

下面程式碼找出所有名字中包含”t”的標籤:

for tag in soup.find_all(re.compile(“t”)):

print(tag.name)

# html

# title

列表

如果傳入列表引數,Beautiful Soup會將與列表中任一元素匹配的內容返回.下面程式碼找到文件中所有<a>標籤和<b>標籤:

soup.find_all([“a”, “b”])

# [<b>The Dormouse’s story</b>,

# <a class=”sister” href=”http://example.com/elsie” id=”link1″>Elsie</a>,

# <a class=”sister” href=”http://example.com/lacie” id=”link2″>Lacie</a>,

# <a class=”sister” href=”http://example.com/tillie” id=”link3″>Tillie</a>]

True

True 可以匹配任何值,下面程式碼查詢到所有的tag,但是不會返回字串節點

for tag in soup.find_all(True):

print(tag.name)

# html

# head

# title

# body

# p

# b

# p

# a

# a

# a

# p

方法

如果沒有合適過濾器,那麼還可以定義一個方法,方法只接受一個元素引數 [4] ,如果這個方法返回 True 表示當前元素匹配並且被找到,如果不是則反回 False

下面方法校驗了當前元素,如果包含 class 屬性卻不包含 id 屬性,那麼將返回 True:

def has_class_but_no_id(tag):

return tag.has_attr(‘class’) and not tag.has_attr(‘id’)

將這個方法作為引數傳入 find_all() 方法,將得到所有<p>標籤:

soup.find_all(has_class_but_no_id)

# [<p class=”title”><b>The Dormouse’s story</b></p>,

# <p class=”story”>Once upon a time there were…</p>,

# <p class=”story”>…</p>]

返回結果中只有<p>標籤沒有<a>標籤,因為<a>標籤還定義了”id”,沒有返回<html>和<head>,因為<html>和<head>中沒有定義”class”屬性.

下面程式碼找到所有被文字包含的節點內容:

from bs4 import NavigableString

def surrounded_by_strings(tag):

return (isinstance(tag.next_element, NavigableString)

and isinstance(tag.previous_element, NavigableString))

for tag in soup.find_all(surrounded_by_strings):

print tag.name

# p

# a

# a

# a

# p

現在來了解一下搜尋方法的細節

find_all()

find_all( name , attrs , recursive , text , **kwargs )

find_all() 方法搜尋當前tag的所有tag子節點,並判斷是否符合過濾器的條件.這裡有幾個例子:

soup.find_all(“title”)

# [<title>The Dormouse’s story</title>]

soup.find_all(“p”, “title”)

# [<p class=”title”><b>The Dormouse’s story</b></p>]

soup.find_all(“a”)

# [<a class=”sister” href=”http://example.com/elsie” id=”link1″>Elsie</a>,

# <a class=”sister” href=”http://example.com/lacie” id=”link2″>Lacie</a>,

# <a class=”sister” href=”http://example.com/tillie” id=”link3″>Tillie</a>]

soup.find_all(id=”link2″)

# [<a class=”sister” href=”http://example.com/lacie” id=”link2″>Lacie</a>]

import re

soup.find(text=re.compile(“sisters”))

# u’Once upon a time there were three little sisters; and their names were ‘

有幾個方法很相似,還有幾個方法是新的,引數中的 text 和 id 是什麼含義? 為什麼 find_all(“p”, “title”) 返回的是CSS Class為”title”的<p>標籤? 我們來仔細看一下 find_all() 的引數

name 引數

name 引數可以查詢所有名字為 name 的tag,字串物件會被自動忽略掉.

簡單的用法如下:

soup.find_all(“title”)

# [<title>The Dormouse’s story</title>]

重申: 搜尋 name 引數的值可以使任一型別的 過濾器 ,字元竄,正規表示式,列表,方法或是 True .

keyword 引數

如果一個指定名字的引數不是搜尋內建的引數名,搜尋時會把該引數當作指定名字tag的屬性來搜尋,如果包含一個名字為 id 的引數,Beautiful Soup會搜尋每個tag的”id”屬性.

soup.find_all(id=’link2′)

# [<a class=”sister” href=”http://example.com/lacie” id=”link2″>Lacie</a>]

如果傳入 href 引數,Beautiful Soup會搜尋每個tag的”href”屬性:

soup.find_all(href=re.compile(“elsie”))

# [<a class=”sister” href=”http://example.com/elsie” id=”link1″>Elsie</a>]

搜尋指定名字的屬性時可以使用的引數值包括 字串 , 正規表示式 , 列表, True .

下面的例子在文件樹中查詢所有包含 id 屬性的tag,無論 id 的值是什麼:

soup.find_all(id=True)

# [<a class=”sister” href=”http://example.com/elsie” id=”link1″>Elsie</a>,

# <a class=”sister” href=”http://example.com/lacie” id=”link2″>Lacie</a>,

# <a class=”sister” href=”http://example.com/tillie” id=”link3″>Tillie</a>]

使用多個指定名字的引數可以同時過濾tag的多個屬性:

soup.find_all(href=re.compile(“elsie”), id=’link1′)

# [<a class=”sister” href=”http://example.com/elsie” id=”link1″>three</a>]

有些tag屬性在搜尋不能使用,比如HTML5中的 data-* 屬性:

data_soup = BeautifulSoup(‘<div data-foo=”value”>foo!</div>’)

data_soup.find_all(data-foo=”value”)

# SyntaxError: keyword can’t be an expression

但是可以通過 find_all() 方法的 attrs 引數定義一個字典引數來搜尋包含特殊屬性的tag:

data_soup.find_all(attrs={“data-foo”: “value”})

# [<div data-foo=”value”>foo!</div>]

按CSS搜尋

按照CSS類名搜尋tag的功能非常實用,但標識CSS類名的關鍵字 class 在Python中是保留字,使用 class 做引數會導致語法錯誤.從Beautiful Soup的4.1.1版本開始,可以通過 class_ 引數搜尋有指定CSS類名的tag:

soup.find_all(“a”, class_=”sister”)

# [<a class=”sister” href=”http://example.com/elsie” id=”link1″>Elsie</a>,

# <a class=”sister” href=”http://example.com/lacie” id=”link2″>Lacie</a>,

# <a class=”sister” href=”http://example.com/tillie” id=”link3″>Tillie</a>]

class_ 引數同樣接受不同型別的 過濾器 ,字串,正規表示式,方法或 True :

soup.find_all(class_=re.compile(“itl”))

# [<p class=”title”><b>The Dormouse’s story</b></p>]

def has_six_characters(css_class):

return css_class is not None and len(css_class) == 6

soup.find_all(class_=has_six_characters)

# [<a class=”sister” href=”http://example.com/elsie” id=”link1″>Elsie</a>,

# <a class=”sister” href=”http://example.com/lacie” id=”link2″>Lacie</a>,

# <a class=”sister” href=”http://example.com/tillie” id=”link3″>Tillie</a>]

tag的 class 屬性是 多值屬性 .按照CSS類名搜尋tag時,可以分別搜尋tag中的每個CSS類名:

css_soup = BeautifulSoup(‘<p class=”body strikeout”></p>’)

css_soup.find_all(“p”, class_=”strikeout”)

# [<p class=”body strikeout”></p>]

css_soup.find_all(“p”, class_=”body”)

# [<p class=”body strikeout”></p>]

搜尋 class 屬性時也可以通過CSS值完全匹配:

css_soup.find_all(“p”, class_=”body strikeout”)

# [<p class=”body strikeout”></p>]

完全匹配 class 的值時,如果CSS類名的順序與實際不符,將搜尋不到結果:

soup.find_all(“a”, attrs={“class”: “sister”})

# [<a class=”sister” href=”http://example.com/elsie” id=”link1″>Elsie</a>,

# <a class=”sister” href=”http://example.com/lacie” id=”link2″>Lacie</a>,

# <a class=”sister” href=”http://example.com/tillie” id=”link3″>Tillie</a>]

text 引數

通過 text 引數可以搜搜文件中的字串內容.與 name 引數的可選值一樣, text 引數接受 字串 , 正規表示式 , 列表, True . 看例子:

soup.find_all(text=”Elsie”)

# [u’Elsie’]

soup.find_all(text=[“Tillie”, “Elsie”, “Lacie”])

# [u’Elsie’, u’Lacie’, u’Tillie’]

soup.find_all(text=re.compile(“Dormouse”))

[u”The Dormouse’s story”, u”The Dormouse’s story”]

def is_the_only_string_within_a_tag(s):

“”Return True if this string is the only child of its parent tag.””

return (s == s.parent.string)

soup.find_all(text=is_the_only_string_within_a_tag)

# [u”The Dormouse’s story”, u”The Dormouse’s story”, u’Elsie’, u’Lacie’, u’Tillie’, u’…’]

雖然 text 引數用於搜尋字串,還可以與其它引數混合使用來過濾tag.Beautiful Soup會找到 .string 方法與 text 引數值相符的tag.下面程式碼用來搜尋內容裡面包含“Elsie”的<a>標籤:

soup.find_all(“a”, text=”Elsie”)

# [<a href=”http://example.com/elsie” class=”sister” id=”link1″>Elsie</a>]

limit 引數

find_all() 方法返回全部的搜尋結構,如果文件樹很大那麼搜尋會很慢.如果我們不需要全部結果,可以使用 limit 引數限制返回結果的數量.效果與SQL中的limit關鍵字類似,當搜尋到的結果數量達到 limit 的限制時,就停止搜尋返回結果.

文件樹中有3個tag符合搜尋條件,但結果只返回了2個,因為我們限制了返回數量:

soup.find_all(“a”, limit=2)

# [<a class=”sister” href=”http://example.com/elsie” id=”link1″>Elsie</a>,

# <a class=”sister” href=”http://example.com/lacie” id=”link2″>Lacie</a>]

recursive 引數

呼叫tag的 find_all() 方法時,Beautiful Soup會檢索當前tag的所有子孫節點,如果只想搜尋tag的直接子節點,可以使用引數 recursive=False .

一段簡單的文件:

<html>

<head>

<title>

The Dormouse’s story

</title>

</head>

是否使用 recursive 引數的搜尋結果:

soup.html.find_all(“title”)

# [<title>The Dormouse’s story</title>]

soup.html.find_all(“title”, recursive=False)

# []

像呼叫 find_all() 一樣呼叫tag

find_all() 幾乎是Beautiful Soup中最常用的搜尋方法,所以我們定義了它的簡寫方法. BeautifulSoup 物件和 tag 物件可以被當作一個方法來使用,這個方法的執行結果與呼叫這個物件的 find_all() 方法相同,下面兩行程式碼是等價的:

soup.find_all(“a”)

soup(“a”)

這兩行程式碼也是等價的:

soup.title.find_all(text=True)

soup.title(text=True)

find()

find( name , attrs , recursive , text , **kwargs )

find_all() 方法將返回文件中符合條件的所有tag,儘管有時候我們只想得到一個結果.比如文件中只有一個<body>標籤,那麼使用 find_all() 方法來查詢<body>標籤就不太合適, 使用 find_all 方法並設定 limit=1 引數不如直接使用 find() 方法.下面兩行程式碼是等價的:

soup.find_all(‘title’, limit=1)

# [<title>The Dormouse’s story</title>]

soup.find(‘title’)

# <title>The Dormouse’s story</title>

唯一的區別是 find_all() 方法的返回結果是值包含一個元素的列表,而 find() 方法直接返回結果.

find_all() 方法沒有找到目標是返回空列表, find() 方法找不到目標時,返回 None .

print(soup.find(“nosuchtag”))

# None

soup.head.title 是 tag的名字 方法的簡寫.這個簡寫的原理就是多次呼叫當前tag的 find() 方法:

soup.head.title

# <title>The Dormouse’s story</title>

soup.find(“head”).find(“title”)

# <title>The Dormouse’s story</title>

find_parents() 和 find_parent()

find_parents( name , attrs , recursive , text , **kwargs )

find_parent( name , attrs , recursive , text , **kwargs )

我們已經用了很大篇幅來介紹 find_all() 和 find() 方法,Beautiful Soup中還有10個用於搜尋的API.它們中的五個用的是與 find_all() 相同的搜尋引數,另外5個與 find() 方法的搜尋引數類似.區別僅是它們搜尋文件的不同部分.

記住: find_all() 和 find() 只搜尋當前節點的所有子節點,孫子節點等. find_parents() 和 find_parent() 用來搜尋當前節點的父輩節點,搜尋方法與普通tag的搜尋方法相同,搜尋文件搜尋文件包含的內容. 我們從一個文件中的一個葉子節點開始:

a_string = soup.find(text=”Lacie”)

a_string

# u’Lacie’

a_string.find_parents(“a”)

# [<a class=”sister” href=”http://example.com/lacie” id=”link2″>Lacie</a>]

a_string.find_parent(“p”)

# <p class=”story”>Once upon a time there were three little sisters; and their names were

# <a class=”sister” href=”http://example.com/elsie” id=”link1″>Elsie</a>,

# <a class=”sister” href=”http://example.com/lacie” id=”link2″>Lacie</a> and

# <a class=”sister” href=”http://example.com/tillie” id=”link3″>Tillie</a>;

# and they lived at the bottom of a well.</p>

a_string.find_parents(“p”, class=”title”)

# []

文件中的一個<a>標籤是是當前葉子節點的直接父節點,所以可以被找到.還有一個<p>標籤,是目標葉子節點的間接父輩節點,所以也可以被找到.包含class值為”title”的<p>標籤不是不是目標葉子節點的父輩節點,所以通過 find_parents() 方法搜尋不到.

find_parent() 和 find_parents() 方法會讓人聯想到 .parent 和 .parents 屬性.它們之間的聯絡非常緊密.搜尋父輩節點的方法實際上就是對 .parents 屬性的迭代搜尋.

find_next_siblings() 合 find_next_sibling()

find_next_siblings( name , attrs , recursive , text , **kwargs )

find_next_sibling( name , attrs , recursive , text , **kwargs )

這2個方法通過 .next_siblings 屬性對當tag的所有後面解析 [5] 的兄弟tag節點進行迭代, find_next_siblings() 方法返回所有符合條件的後面的兄弟節點, find_next_sibling() 只返回符合條件的後面的第一個tag節點.

first_link = soup.a

first_link

# <a class=”sister” href=”http://example.com/elsie” id=”link1″>Elsie</a>

first_link.find_next_siblings(“a”)

# [<a class=”sister” href=”http://example.com/lacie” id=”link2″>Lacie</a>,

# <a class=”sister” href=”http://example.com/tillie” id=”link3″>Tillie</a>]

first_story_paragraph = soup.find(“p”, “story”)

first_story_paragraph.find_next_sibling(“p”)

# <p class=”story”>…</p>

find_previous_siblings() 和 find_previous_sibling()

find_previous_siblings( name , attrs , recursive , text , **kwargs )

find_previous_sibling( name , attrs , recursive , text , **kwargs )

這2個方法通過 .previous_siblings 屬性對當前tag的前面解析 [5] 的兄弟tag節點進行迭代, find_previous_siblings() 方法返回所有符合條件的前面的兄弟節點, find_previous_sibling() 方法返回第一個符合條件的前面的兄弟節點:

last_link = soup.find(“a”, id=”link3″)

last_link

# <a class=”sister” href=”http://example.com/tillie” id=”link3″>Tillie</a>

last_link.find_previous_siblings(“a”)

# [<a class=”sister” href=”http://example.com/lacie” id=”link2″>Lacie</a>,

# <a class=”sister” href=”http://example.com/elsie” id=”link1″>Elsie</a>]

first_story_paragraph = soup.find(“p”, “story”)

first_story_paragraph.find_previous_sibling(“p”)

# <p class=”title”><b>The Dormouse’s story</b></p>

find_all_next() 和 find_next()

find_all_next( name , attrs , recursive , text , **kwargs )

find_next( name , attrs , recursive , text , **kwargs )

這2個方法通過 .next_elements 屬性對當前tag的之後的 [5] tag和字串進行迭代, find_all_next() 方法返回所有符合條件的節點, find_next() 方法返回第一個符合條件的節點:

first_link = soup.a

first_link

# <a class=”sister” href=”http://example.com/elsie” id=”link1″>Elsie</a>

first_link.find_all_next(text=True)

# [u’Elsie’, u’, ‘, u’Lacie’, u’ and ‘, u’Tillie’,

# u’; and they lived at the bottom of a well.’, u’ ‘, u’…’, u’ ‘]

first_link.find_next(“p”)

# <p class=”story”>…</p>

第一個例子中,字串 “Elsie”也被顯示出來,儘管它被包含在我們開始查詢的<a>標籤的裡面.第二個例子中,最後一個<p>標籤也被顯示出來,儘管它與我們開始查詢位置的<a>標籤不屬於同一部分.例子中,搜尋的重點是要匹配過濾器的條件,並且在文件中出現的順序而不是開始查詢的元素的位置.

find_all_previous() 和 find_previous()

find_all_previous( name , attrs , recursive , text , **kwargs )

find_previous( name , attrs , recursive , text , **kwargs )

這2個方法通過 .previous_elements 屬性對當前節點前面 [5] 的tag和字串進行迭代, find_all_previous() 方法返回所有符合條件的節點, find_previous() 方法返回第一個符合條件的節點.

first_link = soup.a

first_link

# <a class=”sister” href=”http://example.com/elsie” id=”link1″>Elsie</a>

first_link.find_all_previous(“p”)

# [<p class=”story”>Once upon a time there were three little sisters; …</p>,

# <p class=”title”><b>The Dormouse’s story</b></p>]

first_link.find_previous(“title”)

# <title>The Dormouse’s story</title>

find_all_previous(“p”) 返回了文件中的第一段(class=”title”的那段),但還返回了第二段,<p>標籤包含了我們開始查詢的<a>標籤.不要驚訝,這段程式碼的功能是查詢所有出現在指定<a>標籤之前的<p>標籤,因為這個<p>標籤包含了開始的<a>標籤,所以<p>標籤一定是在<a>之前出現的.

CSS選擇器

Beautiful Soup支援大部分的CSS選擇器 [6] ,在 Tag 或 BeautifulSoup 物件的 .select() 方法中傳入字串引數,即可使用CSS選擇器的語法找到tag:

soup.select(“title”)

# [<title>The Dormouse’s story</title>]

soup.select(“p nth-of-type(3)”)

# [<p class=”story”>…</p>]

通過tag標籤逐層查詢:

soup.select(“body a”)

# [<a class=”sister” href=”http://example.com/elsie” id=”link1″>Elsie</a>,

# <a class=”sister” href=”http://example.com/lacie” id=”link2″>Lacie</a>,

# <a class=”sister” href=”http://example.com/tillie” id=”link3″>Tillie</a>]

soup.select(“html head title”)

# [<title>The Dormouse’s story</title>]

找到某個tag標籤下的直接子標籤 [6] :

soup.select(“head > title”)

# [<title>The Dormouse’s story</title>]

soup.select(“p > a”)

# [<a class=”sister” href=”http://example.com/elsie” id=”link1″>Elsie</a>,

# <a class=”sister” href=”http://example.com/lacie” id=”link2″>Lacie</a>,

# <a class=”sister” href=”http://example.com/tillie” id=”link3″>Tillie</a>]

soup.select(“p > a:nth-of-type(2)”)

# [<a class=”sister” href=”http://example.com/lacie” id=”link2″>Lacie</a>]

soup.select(“p > #link1”)

# [<a class=”sister” href=”http://example.com/elsie” id=”link1″>Elsie</a>]

soup.select(“body > a”)

# []

找到兄弟節點標籤:

soup.select(“#link1 ~ .sister”)

# [<a class=”sister” href=”http://example.com/lacie” id=”link2″>Lacie</a>,

# <a class=”sister” href=”http://example.com/tillie” id=”link3″>Tillie</a>]

soup.select(“#link1 .sister”)

# [<a class=”sister” href=”http://example.com/lacie” id=”link2″>Lacie</a>]

通過CSS的類名查詢:

soup.select(“.sister”)

# [<a class=”sister” href=”http://example.com/elsie” id=”link1″>Elsie</a>,

# <a class=”sister” href=”http://example.com/lacie” id=”link2″>Lacie</a>,

# <a class=”sister” href=”http://example.com/tillie” id=”link3″>Tillie</a>]

soup.select(“[class~=sister]”)

# [<a class=”sister” href=”http://example.com/elsie” id=”link1″>Elsie</a>,

# <a class=”sister” href=”http://example.com/lacie” id=”link2″>Lacie</a>,

# <a class=”sister” href=”http://example.com/tillie” id=”link3″>Tillie</a>]

通過tag的id查詢:

soup.select(“#link1”)

# [<a class=”sister” href=”http://example.com/elsie” id=”link1″>Elsie</a>]

soup.select(“a#link2”)

# [<a class=”sister” href=”http://example.com/lacie” id=”link2″>Lacie</a>]

通過是否存在某個屬性來查詢:

soup.select(‘a[href]’)

# [<a class=”sister” href=”http://example.com/elsie” id=”link1″>Elsie</a>,

# <a class=”sister” href=”http://example.com/lacie” id=”link2″>Lacie</a>,

# <a class=”sister” href=”http://example.com/tillie” id=”link3″>Tillie</a>]

通過屬性的值來查詢:

soup.select(‘a[href=”http://example.com/elsie”]’)

# [<a class=”sister” href=”http://example.com/elsie” id=”link1″>Elsie</a>]

soup.select(‘a[href^=”http://example.com/”]’)

# [<a class=”sister” href=”http://example.com/elsie” id=”link1″>Elsie</a>,

# <a class=”sister” href=”http://example.com/lacie” id=”link2″>Lacie</a>,

# <a class=”sister” href=”http://example.com/tillie” id=”link3″>Tillie</a>]

soup.select(‘a[href$=”tillie”]’)

# [<a class=”sister” href=”http://example.com/tillie” id=”link3″>Tillie</a>]

soup.select(‘a[href*=”.com/el”]’)

# [<a class=”sister” href=”http://example.com/elsie” id=”link1″>Elsie</a>]

通過語言設定來查詢:

multilingual_markup = “””

<p lang=”en”>Hello</p>

<p lang=”en-us”>Howdy, y’all</p>

<p lang=”en-gb”>Pip-pip, old fruit</p>

<p lang=”fr”>Bonjour mes amis</p>

“””

multilingual_soup = BeautifulSoup(multilingual_markup)

multilingual_soup.select(‘p[lang|=en]’)

# [<p lang=”en”>Hello</p>,

# <p lang=”en-us”>Howdy, y’all</p>,

# <p lang=”en-gb”>Pip-pip, old fruit</p>]

對於熟悉CSS選擇器語法的人來說這是個非常方便的方法.Beautiful Soup也支援CSS選擇器API,如果你僅僅需要CSS選擇器的功能,那麼直接使用 lxml 也可以,而且速度更快,支援更多的CSS選擇器語法,但Beautiful Soup整合了CSS選擇器的語法和自身方便使用API.

修改文件樹

Beautiful Soup的強項是文件樹的搜尋,但同時也可以方便的修改文件樹

修改tag的名稱和屬性

在 Attributes 的章節中已經介紹過這個功能,但是再看一遍也無妨. 重新命名一個tag,改變屬性的值,新增或刪除屬性:

soup = BeautifulSoup(‘<b class=”boldest”>Extremely bold</b>’)

tag = soup.b

tag.name = “blockquote”

tag[‘class’] = ‘verybold’

tag[‘id’] = 1

tag

# <blockquote class=”verybold” id=”1″>Extremely bold</blockquote>

del tag[‘class’]

del tag[‘id’]

tag

# <blockquote>Extremely bold</blockquote>

修改 .string

給tag的 .string 屬性賦值,就相當於用當前的內容替代了原來的內容:

markup = ‘<a href=”http://example.com/”>I linked to <i>example.com</i></a>’

soup = BeautifulSoup(markup)

tag = soup.a

tag.string = “New link text.”

tag

# <a href=”http://example.com/”>New link text.</a>

注意: 如果當前的tag包含了其它tag,那麼給它的 .string 屬性賦值會覆蓋掉原有的所有內容包括子tag

append()

Tag.append() 方法想tag中新增內容,就好像Python的列表的 .append() 方法:

soup = BeautifulSoup(“<a>Foo</a>”)

soup.a.append(“Bar”)

soup

# <html><head></head><body><a>FooBar</a></body></html>

soup.a.contents

# [u’Foo’, u’Bar’]

BeautifulSoup.new_string() 和 .new_tag()

如果想新增一段文字內容到文件中也沒問題,可以呼叫Python的 append() 方法或呼叫工廠方法 BeautifulSoup.new_string() :

soup = BeautifulSoup(“<b></b>”)

tag = soup.b

tag.append(“Hello”)

new_string = soup.new_string(” there”)

tag.append(new_string)

tag

# <b>Hello there.</b>

tag.contents

# [u’Hello’, u’ there’]

如果想要建立一段註釋,或 NavigableString 的任何子類,將子類作為 new_string() 方法的第二個引數傳入:

from bs4 import Comment

new_comment = soup.new_string(“Nice to see you.”, Comment)

tag.append(new_comment)

tag

# <b>Hello there<!–Nice to see you.–></b>

tag.contents

# [u’Hello’, u’ there’, u’Nice to see you.’]

# 這是Beautiful Soup 4.2.1 中新增的方法

建立一個tag最好的方法是呼叫工廠方法 BeautifulSoup.new_tag() :

soup = BeautifulSoup(“<b></b>”)

original_tag = soup.b

new_tag = soup.new_tag(“a”, href=”http://www.example.com”)

original_tag.append(new_tag)

original_tag

# <b><a href=”http://www.example.com”></a></b>

new_tag.string = “Link text.”

original_tag

# <b><a href=”http://www.example.com”>Link text.</a></b>

第一個引數作為tag的name,是必填,其它引數選填

insert()

Tag.insert() 方法與 Tag.append() 方法類似,區別是不會把新元素新增到父節點 .contents 屬性的最後,而是把元素插入到指定的位置.與Python列表總的 .insert() 方法的用法下同:

markup = ‘<a href=”http://example.com/”>I linked to <i>example.com</i></a>’

soup = BeautifulSoup(markup)

tag = soup.a

tag.insert(1, “but did not endorse “)

tag

# <a href=”http://example.com/”>I linked to but did not endorse <i>example.com</i></a>

tag.contents

# [u’I linked to ‘, u’but did not endorse’, <i>example.com</i>]

insert_before() 和 insert_after()

insert_before() 方法在當前tag或文字節點前插入內容:

soup = BeautifulSoup(“<b>stop</b>”)

tag = soup.new_tag(“i”)

tag.string = “Don’t”

soup.b.string.insert_before(tag)

soup.b

# <b><i>Don’t</i>stop</b>

insert_after() 方法在當前tag或文字節點後插入內容:

soup.b.i.insert_after(soup.new_string(” ever “))

soup.b

# <b><i>Don’t</i> ever stop</b>

soup.b.contents

# [<i>Don’t</i>, u’ ever ‘, u’stop’]

clear()

Tag.clear() 方法移除當前tag的內容:

markup = ‘<a href=”http://example.com/”>I linked to <i>example.com</i></a>’

soup = BeautifulSoup(markup)

tag = soup.a

tag.clear()

tag

# <a href=”http://example.com/”></a>

extract()

PageElement.extract() 方法將當前tag移除文件樹,並作為方法結果返回:

markup = ‘<a href=”http://example.com/”>I linked to <i>example.com</i></a>’

soup = BeautifulSoup(markup)

a_tag = soup.a

i_tag = soup.i.extract()

a_tag

# <a href=”http://example.com/”>I linked to</a>

i_tag

# <i>example.com</i>

print(i_tag.parent)

None

這個方法實際上產生了2個文件樹: 一個是用來解析原始文件的 BeautifulSoup 物件,另一個是被移除並且返回的tag.被移除並返回的tag可以繼續呼叫 extract 方法:

my_string = i_tag.string.extract()

my_string

# u’example.com’

print(my_string.parent)

# None

i_tag

# <i></i>

decompose()

Tag.decompose() 方法將當前節點移除文件樹並完全銷燬:

markup = ‘<a href=”http://example.com/”>I linked to <i>example.com</i></a>’

soup = BeautifulSoup(markup)

a_tag = soup.a

soup.i.decompose()

a_tag

# <a href=”http://example.com/”>I linked to</a>

replace_with()

PageElement.replace_with() 方法移除文件樹中的某段內容,並用新tag或文字節點替代它:

markup = ‘<a href=”http://example.com/”>I linked to <i>example.com</i></a>’

soup = BeautifulSoup(markup)

a_tag = soup.a

new_tag = soup.new_tag(“b”)

new_tag.string = “example.net”

a_tag.i.replace_with(new_tag)

a_tag

# <a href=”http://example.com/”>I linked to <b>example.net</b></a>

replace_with() 方法返回被替代的tag或文字節點,可以用來瀏覽或新增到文件樹其它地方

wrap()

PageElement.wrap() 方法可以對指定的tag元素進行包裝 [8] ,並返回包裝後的結果:

soup = BeautifulSoup(“<p>I wish I was bold.</p>”)

soup.p.string.wrap(soup.new_tag(“b”))

# <b>I wish I was bold.</b>

soup.p.wrap(soup.new_tag(“div”))

# <div><p><b>I wish I was bold.</b></p></div>

該方法在 Beautiful Soup 4.0.5 中新增

unwrap()

Tag.unwrap() 方法與 wrap() 方法相反.將移除tag內的所有tag標籤,該方法常被用來進行標記的解包:

markup = ‘<a href=”http://example.com/”>I linked to <i>example.com</i></a>’

soup = BeautifulSoup(markup)

a_tag = soup.a

a_tag.i.unwrap()

a_tag

# <a href=”http://example.com/”>I linked to example.com</a>

與 replace_with() 方法相同, unwrap() 方法返回被移除的tag

輸出

格式化輸出

prettify() 方法將Beautiful Soup的文件樹格式化後以Unicode編碼輸出,每個XML/HTML標籤都獨佔一行

markup = ‘<a href=”http://example.com/”>I linked to <i>example.com</i></a>’

soup = BeautifulSoup(markup)

soup.prettify()

# ‘<html> <head> </head> <body> <a href=”http://example.com/”> …’

print(soup.prettify())

# <html>

# <head>

# </head>

# <body>

# <a href=”http://example.com/”>

# I linked to

# <i>

# example.com

# </i>

# </a>

# </body>

# </html>

BeautifulSoup 物件和它的tag節點都可以呼叫 prettify() 方法:

print(soup.a.prettify())

# <a href=”http://example.com/”>

# I linked to

# <i>

# example.com

# </i>

# </a>

壓縮輸出

如果只想得到結果字串,不重視格式,那麼可以對一個 BeautifulSoup 物件或 Tag 物件使用Python的 unicode() 或 str() 方法:

str(soup)

# ‘<html><head></head><body><a href=”http://example.com/”>I linked to <i>example.com</i></a></body></html>’

unicode(soup.a)

# u'<a href=”http://example.com/”>I linked to <i>example.com</i></a>’

str() 方法返回UTF-8編碼的字串,可以指定 編碼 的設定.

還可以呼叫 encode() 方法獲得位元組碼或呼叫 decode() 方法獲得Unicode.

輸出格式

Beautiful Soup輸出是會將HTML中的特殊字元轉換成Unicode,比如“&lquot;”:

soup = BeautifulSoup(““Dammit!” he said.”)

unicode(soup)

# u'<html><head></head><body>\u201cDammit!\u201d he said.</body></html>’

如果將文件轉換成字串,Unicode編碼會被編碼成UTF-8.這樣就無法正確顯示HTML特殊字元了:

str(soup)

# ‘<html><head></head><body>\xe2\x80\x9cDammit!\xe2\x80\x9d he said.</body></html>’

get_text()

如果只想得到tag中包含的文字內容,那麼可以嗲用 get_text() 方法,這個方法獲取到tag中包含的所有文版內容包括子孫tag中的內容,並將結果作為Unicode字串返回:

markup = ‘<a href=”http://example.com/”> I linked to <i>example.com</i> </a>’

soup = BeautifulSoup(markup)

soup.get_text()

u’ I linked to example.com ‘

soup.i.get_text()

u’example.com’

可以通過引數指定tag的文字內容的分隔符:

# soup.get_text(“|”)

u’ I linked to |example.com| ‘

還可以去除獲得文字內容的前後空白:

# soup.get_text(“|”, strip=True)

u’I linked to|example.com’

或者使用 .stripped_strings 生成器,獲得文字列表後手動處理列表:

[text for text in soup.stripped_strings]

# [u’I linked to’, u’example.com’]

指定文件解析器

如果僅是想要解析HTML文件,只要用文件建立 BeautifulSoup 物件就可以了.Beautiful Soup會自動選擇一個解析器來解析文件.但是還可以通過引數指定使用那種解析器來解析當前文件.

BeautifulSoup 第一個引數應該是要被解析的文件字串或是檔案控制代碼,第二個引數用來標識怎樣解析文件.如果第二個引數為空,那麼Beautiful Soup根據當前系統安裝的庫自動選擇解析器,解析器的優先數序: lxml, html5lib, Python標準庫.在下面兩種條件下解析器優先順序會變化:

  • 要解析的文件是什麼型別: 目前支援, “html”, “xml”, 和 “html5”
  • 指定使用哪種解析器: 目前支援, “lxml”, “html5lib”, 和 “html.parser”

安裝解析器 章節介紹了可以使用哪種解析器,以及如何安裝.

如果指定的解析器沒有安裝,Beautiful Soup會自動選擇其它方案.目前只有 lxml 解析器支援XML文件的解析,在沒有安裝lxml庫的情況下,建立 beautifulsoup 物件時無論是否指定使用lxml,都無法得到解析後的物件

解析器之間的區別

Beautiful Soup為不同的解析器提供了相同的介面,但解析器本身時有區別的.同一篇文件被不同的解析器解析後可能會生成不同結構的樹型文件.區別最大的是HTML解析器和XML解析器,看下面片段被解析成HTML結構:

BeautifulSoup(“<a><b /></a>”)

# <html><head></head><body><a><b></b></a></body></html>

因為空標籤<b />不符合HTML標準,所以解析器把它解析成<b></b>

同樣的文件使用XML解析如下(解析XML需要安裝lxml庫).注意,空標籤<b />依然被保留,並且文件前新增了XML頭,而不是被包含在<html>標籤內:

BeautifulSoup(“<a><b /></a>”, “xml”)

# <?xml version=”1.0″ encoding=”utf-8″?>

# <a><b/></a>

HTML解析器之間也有區別,如果被解析的HTML文件是標準格式,那麼解析器之間沒有任何差別,只是解析速度不同,結果都會返回正確的文件樹.

但是如果被解析文件不是標準格式,那麼不同的解析器返回結果可能不同.下面例子中,使用lxml解析錯誤格式的文件,結果</p>標籤被直接忽略掉了:

BeautifulSoup(“<a></p>”, “lxml”)

# <html><body><a></a></body></html>

使用html5lib庫解析相同文件會得到不同的結果:

BeautifulSoup(“<a></p>”, “html5lib”)

# <html><head></head><body><a><p></p></a></body></html>

html5lib庫沒有忽略掉</p>標籤,而是自動補全了標籤,還給文件樹新增了<head>標籤.

使用pyhton內建庫解析結果如下:

BeautifulSoup(“<a></p>”, “html.parser”)

# <a></a>

與lxml [7] 庫類似的,Python內建庫忽略掉了</p>標籤,與html5lib庫不同的是標準庫沒有嘗試建立符合標準的文件格式或將文件片段包含在<body>標籤內,與lxml不同的是標準庫甚至連<html>標籤都沒有嘗試去新增.

因為文件片段“<a></p>”是錯誤格式,所以以上解析方式都能算作”正確”,html5lib庫使用的是HTML5的部分標準,所以最接近”正確”.不過所有解析器的結構都能夠被認為是”正常”的.

不同的解析器可能影響程式碼執行結果,如果在分發給別人的程式碼中使用了 BeautifulSoup ,那麼最好註明使用了哪種解析器,以減少不必要的麻煩.

編碼

任何HTML或XML文件都有自己的編碼方式,比如ASCII 或 UTF-8,但是使用Beautiful Soup解析後,文件都被轉換成了Unicode:

markup = “<h1>Sacr\xc3\xa9 bleu!</h1>”

soup = BeautifulSoup(markup)

soup.h1

# <h1>Sacré bleu!</h1>

soup.h1.string

# u’Sacr\xe9 bleu!’

這不是魔術(但很神奇),Beautiful Soup用了 編碼自動檢測 子庫來識別當前文件編碼並轉換成Unicode編碼. BeautifulSoup 物件的 .original_encoding 屬性記錄了自動識別編碼的結果:

soup.original_encoding

‘utf-8’

編碼自動檢測 功能大部分時候都能猜對編碼格式,但有時候也會出錯.有時候即使猜測正確,也是在逐個位元組的遍歷整個文件後才猜對的,這樣很慢.如果預先知道文件編碼,可以設定編碼引數來減少自動檢查編碼出錯的概率並且提高文件解析速度.在建立 BeautifulSoup 物件的時候設定 from_encoding 引數.

私信小編007即可獲取數十套PDF!