2024-07-11
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
Obtenha conteúdo da web:
solicitação http
Solicita biblioteca para python
Analisar conteúdo da web
estrutura da página html
Linda biblioteca de sopas para python
Armazene ou analise dados
Armazenar no banco de dados
Dados como análise de IA
Converter para gráfico e exibir
Ao enviar solicitações massivas de alta frequência ao servidor, uma grande quantidade de recursos da página da web é consumida e as solicitações de outros usuários são afetadas.
Você pode visualizar o arquivo robots.txt do site para entender a variedade de caminhos de páginas da web que podem ser rastreados
Protocolo de solicitação-resposta entre cliente e servidor.
Método de solicitação: (comumente usado)
OBTER: Obtenha dados
POST: Criar dados
POST /user/info HTTP/1.1 #请求行(包含方法类型、资源路径、协议版本)
Host:www.example.com #请求头
User-Agent:curl/7.77.0 #请求头
Accept:*/* #请求头
{"username":"呦呦呦", #请求体
"email":"[email protected]"} #请求头