2014-05-22 1 views

답변

0

이론적으로 Blog/+로 시작한 웹 사이트의 어떤 부분에도 접근하는 것을 존중하기로 결정한 로봇은 이론 상으로는 멈추게됩니다. 그러나 봇은 그것을 존중할 필요가 없으며 슬래시를 나타내는 디렉토리로 시작하지 않기 때문에 사람들의 로봇이 어떻게 처리 할 것인지를 알 수 없습니다. 발

이 필드 http://www.robotstxt.org/orig.html

허용 안 값이 방문 할 수없는 부분 URL을 지정한다. 전체 경로 또는 부분 경로 일 수 있습니다. 이 값으로 시작하는 모든 URL은 검색되지 않습니다. 예를 들어 Disallow :/help는 /help.html 및 /help/index.html을 허용하지 않지만 Disallow :/help /는 /help/index.html을 허용하지 않지만 /help.html은 허용합니다. 비어있는 값은 모든 URL을 검색 할 수 있음을 나타냅니다. 적어도 하나의 Disallow 필드가 레코드에 있어야합니다.

관련 문제