-4
A
답변
0
이론적으로 Blog/+로 시작한 웹 사이트의 어떤 부분에도 접근하는 것을 존중하기로 결정한 로봇은 이론 상으로는 멈추게됩니다. 그러나 봇은 그것을 존중할 필요가 없으며 슬래시를 나타내는 디렉토리로 시작하지 않기 때문에 사람들의 로봇이 어떻게 처리 할 것인지를 알 수 없습니다. 발
이 필드 http://www.robotstxt.org/orig.html
허용 안 값이 방문 할 수없는 부분 URL을 지정한다. 전체 경로 또는 부분 경로 일 수 있습니다. 이 값으로 시작하는 모든 URL은 검색되지 않습니다. 예를 들어 Disallow :/help는 /help.html 및 /help/index.html을 허용하지 않지만 Disallow :/help /는 /help/index.html을 허용하지 않지만 /help.html은 허용합니다. 비어있는 값은 모든 URL을 검색 할 수 있음을 나타냅니다. 적어도 하나의 Disallow 필드가 레코드에 있어야합니다.
관련 문제
- 1. .css 파일에서 "@include"의 의미는 무엇입니까?
- 2. JS 파일에서 (! window.Sys)의 의미는 무엇입니까?
- 3. .x 파일에서 쉼표 (,)의 의미는 무엇입니까?
- 4. make 파일에서 $ <와 $ @의 의미는 무엇입니까?
- 5. CSS 파일에서 $ {imagepath}의 의미는 무엇입니까?
- 6. diff 파일에서 @@ -9,9 +9,10 @@의 의미는 무엇입니까?
- 7. os.path에서 "./"의 의미는 무엇입니까?
- 8. Linux (CentOS)의/proc/meminfo 파일에서 "Mlocked"의 의미는 무엇입니까
- 9. 파이썬에서 [:]의 의미는 무엇입니까
- 10. 의 robots.txt 언어
- 11. 의 robots.txt 및
- 12. "for (;;)"의 의미는 무엇입니까?
- 13. XAML에서 *의 의미는 무엇입니까
- 14. JavaScript에서 $ ('')의 의미는 무엇입니까?
- 15. (버튼)의 의미는 무엇입니까?
- 16. numpy에서 '*'의 의미는 무엇입니까?
- 17. JS에서 '!!'의 의미는 무엇입니까?
- 18. rdf에서 #의 의미는 무엇입니까?
- 19. Future.resolve()의 의미는 무엇입니까?
- 20. "A.fn.A.init {}"의 의미는 무엇입니까?
- 21. :: :: C++의 의미는 무엇입니까?
- 22. 캐럿 (^.)의 의미는 무엇입니까?
- 23. Perl에서 = ~의 의미는 무엇입니까?
- 24. CSS에서 +의 의미는 무엇입니까?
- 25. $ {1 : -}의 의미는 무엇입니까?
- 26. @ ($ {VAR})의 의미는 무엇입니까?
- 27. Java에서이 (:)의 의미는 무엇입니까?
- 28. Request [ ""]의 의미는 무엇입니까?
- 29. ∃의 의미는 무엇입니까?
- 30. PHP에서 @의 의미는 무엇입니까?