python3.8 brotli brotli.error: BrotliDecompress fallito?

Sep 09 2020

mycode python3.8

brotli = 1.0.9

usa request get url, le intestazioni usano Accept-Encoding = "br" ho bisogno di decodificare br, perché penso che usi accept-encoding = br più buono

import brotli
import requests 
headers = {}
headers['Accept'] = "text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,image/apng,*/*;q=0.8,application/signed-exchange;v=b3;q=0.9"
headers['Accept-Encoding'] = "gzip, deflate, br"
headers['Host'] = "book.douban.com"
headers['Referer'] = "book.douban.com"
headers['Sec-Fetch-Dest'] = "document"
headers['Sec-Fetch-Mode'] = "navigate"
headers['Upgrade-Insecure-Requests'] = "1"

s=requests.Session()
url="https://book.douban.com/tag/%E5%B0%8F%E8%AF%B4"
try:
    response = s.get(url, headers=headers)
except:
    return ""
if response.status_code == 200:
    print(response.headers)
    if response.headers.get('Content-Encoding') == 'br':
        data = brotli.decompress(response.content)
        data1 = data.decode('utf-8')
        return data1
    else:
        return response.text
return ""

genera errore

data = brotli.decompress(response.content)
brotli.error: BrotliDecompress failed

Risposte

3 LaurentPinson Nov 03 2020 at 05:11

Questo non è menzionato da nessuna parte nella documentazione delle richieste, ma una volta installato brotli , viene gestito direttamente da Richieste.

Ciò significa che response.content verrà automaticamente decodificato (in modo simile a gzip). Non hai bisogno di farlobrotli.decompress(response.content)

se brotli non è installato, non riceverai alcun messaggio di errore. Invece, response.content rimarrà codificato ...

modifica :

scavando nel codice Requests, ho scoperto che Requests usa urllib3.response che implementa l'utilizzo di Brotli.

al caricamento, urllib3.response cercherà un'importazione di Brotli:

try:
    import brotli
except ImportError:
    brotli = None

quindi durante la decodifica di una risposta, utilizzerà un decodificatore appropriato:

def _get_decoder(mode):
    if "," in mode:
        return MultiDecoder(mode)

    if mode == "gzip":
        return GzipDecoder()

    if brotli is not None and mode == "br":
        return BrotliDecoder()

    return DeflateDecoder()

quindi se Brotli è installato, la decodifica avverrà altrimenti non accadrà nulla e nessun avvertimento per l'utente.