美しいスープ-エンコーディング

すべてのHTMLまたはXMLドキュメントは、ASCIIやUTF-8などの特定のエンコーディングで記述されています。ただし、そのHTML / XMLドキュメントをBeautifulSoupにロードすると、Unicodeに変換されています。

>>> markup = "<p>I will display £</p>"
>>> Bsoup = BeautifulSoup(markup)
>>> Bsoup.p
<p>I will display £</p>
>>> Bsoup.p.string
'I will display £'

上記の動作は、BeautifulSoupが内部でUnicodeと呼ばれるサブライブラリを使用しているためです。Dammitはドキュメントのエンコーディングを検出し、それをUnicodeに変換します。

ただし、常にではありませんが、Unicode、Dammitは正しく推測します。ドキュメントはエンコードを推測するためにバイトごとに検索されるため、多くの時間がかかります。エンコードをfrom_encodingとしてBeautifulSoupコンストラクターに渡すことでエンコードを既に知っている場合は、時間を節約して間違いを回避できます。

以下は、BeautifulSoupがISO-8859-8ドキュメントをISO-8859-7として誤認した1つの例です。

>>> markup = b"<h1>\xed\xe5\xec\xf9</h1>"
>>> soup = BeautifulSoup(markup)
>>> soup.h1
<h1>νεμω</h1>
>>> soup.original_encoding
'ISO-8859-7'
>>>

上記の問題を解決するには、from_encoding −を使用してBeautifulSoupに渡します。

>>> soup = BeautifulSoup(markup, from_encoding="iso-8859-8")
>>> soup.h1
<h1>ולש </h1>
>>> soup.original_encoding
'iso-8859-8'
>>>

BeautifulSoup 4.4.0から追加されたもう1つの新機能は、exclude_encodingです。正しいエンコーディングがわからないが、Unicode、Dammitが間違った結果を示していることを確認する場合に使用できます。

>>> soup = BeautifulSoup(markup, exclude_encodings=["ISO-8859-7"])

出力エンコーディング

BeautifulSoupに入力されたドキュメントに関係なく、BeautifulSoupからの出力はUTF-8ドキュメントです。ドキュメントの下。ポーランド語の文字はISO-8859-2形式で表示されます。

html_markup = """
<!DOCTYPE HTML PUBLIC "-//W3C//DTD HTML 4.01 Transitional//EN">
<HTML>
<HEAD>
<META HTTP-EQUIV="content-type" CONTENT="text/html; charset=iso-8859-2">
</HEAD>
<BODY>
ą ć ę ł ń ó ś ź ż Ą Ć Ę Ł Ń Ó Ś Ź Ż
</BODY>
</HTML>
"""


>>> soup = BeautifulSoup(html_markup)
>>> print(soup.prettify())
<!DOCTYPE HTML PUBLIC "-//W3C//DTD HTML 4.01 Transitional//EN">
<html>
   <head>
      <meta content="text/html; charset=utf-8" http-equiv="content-type"/>
   </head>
   <body>
      ą ć ę ł ń ó ś ź ż Ą Ć Ę Ł Ń Ó Ś Ź Ż
   </body>
</html>

上記の例では、気付いた場合、BeautifulSoupから生成されたドキュメントがUTF-8形式になったことを反映するように<meta>タグが書き直されています。

UTF-8で生成された出力が必要ない場合は、prettify（）で目的のエンコーディングを割り当てることができます。

>>> print(soup.prettify("latin-1"))
b'<!DOCTYPE HTML PUBLIC "-//W3C//DTD HTML 4.01 Transitional//EN">\n<html>\n <head>\n <meta content="text/html; charset=latin-1" http-equiv="content-type"/>\n </head>\n <body>\n ą ć ę ł ń \xf3 ś ź ż Ą Ć Ę Ł Ń \xd3 Ś Ź Ż\n </body>\n</html>\n'

上記の例では、ドキュメント全体をエンコードしましたが、スープ内の特定の要素をPython文字列であるかのようにエンコードできます。

>>> soup.p.encode("latin-1")
b'<p>0My first paragraph.</p>'
>>> soup.h1.encode("latin-1")
b'<h1>My First Heading</h1>'

選択したエンコーディングで表現できない文字は、数値のXMLエンティティ参照に変換されます。以下はそのような例の1つです-

>>> markup = u"<b>\N{SNOWMAN}</b>"
>>> snowman_soup = BeautifulSoup(markup)
>>> tag = snowman_soup.b
>>> print(tag.encode("utf-8"))
b'<b>\xe2\x98\x83</b>'

上記を「latin-1」または「ascii」でエンコードしようとすると、「☃」が生成され、その表現がないことを示します。

>>> print (tag.encode("latin-1"))
b'<b>☃</b>'
>>> print (tag.encode("ascii"))
b'<b>☃</b>'

Unicode、Dammit

Unicode、Dammitは主に、受信ドキュメントが不明な形式（主に外国語）であり、既知の形式（Unicode）でエンコードしたい場合に使用されます。また、これらすべてを行うためにBeautifulsoupは必要ありません。