Lorsque je regarde la page dans un navigateur, elle est en japonais, mais lorsque je la télécharge via scrapy, la page en anglais peut être téléchargée. C'est parce que Accept-Lauguage est ʻen` par défaut quand scrapy fait une demande au serveur web, donc vous pouvez demander une page japonaise en écrivant le contenu suivant dans settings.py.
DEFAULT_REQUEST_HEADERS = {
'Accept': 'text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8',
'Accept-Language': 'ja,en-US;q=0.8,en;q=0.6',
}
référence: https://doc.scrapy.org/en/latest/topics/settings.html#std:setting-DEFAULT_REQUEST_HEADERS
Recommended Posts