:Robots.txt를하고 메타 태그 로봇 내가이 이해하고 있는지 확인하려면
이 : 웹 페이지
의 <head>
에 <meta content="noindex, nofollow" name="robots" />
이 같은 경우 : Robots.txt
Disallow: /example-page.html
오른쪽?
:Robots.txt를하고 메타 태그 로봇 내가이 이해하고 있는지 확인하려면
이 : 웹 페이지
의 <head>
에 <meta content="noindex, nofollow" name="robots" />
이 같은 경우 : Robots.txt
Disallow: /example-page.html
오른쪽?
in the <head> of a webpage is the same as:
예, example-page.html
의 <head>
에 대한 이야기입니다. 유일한 차이점은 메타 태그에서 봇에 대한 제한이있을 때 페이지가 여전히 거미에 의해 요청된다는 것입니다. 이 페이지가 서버 측 스크립트에 의해 생성되고 표시되는 횟수를 계산하거나이 페이지 방문과 관련된 다른 정보 (예 : 액세스 로그)를 수집하는 경우 필수적 일 수 있습니다.
봇 (일반 검색 엔진의 유효한 봇)은 페이지에 액세스하고 메타 태그를 읽고 색인을 생성하지 않으며 robots.txt
의 레코드는 일반 스파이더 또는 User-agent
섹션에서 언급 된 것 robots.txt
.
@casperOne -이 주제가 어땠는지 궁금합니다. Robots.txt에 대한 웹 개발 질문입니다. – L84