robots 규칙 시뮬레이터

robots 규칙 시뮬레이터

제공한 robots.txt의 그룹과 행 번호로 결과를 설명합니다. origin·봇 토큰·URL 목록을 입력해 명시된 로컬 비교 규약을 실행하세요.

URL 접속·robots.txt 변경·검색엔진 제출은 하지 않습니다. 여기의 허용·차단은 입력한 규칙의 판단이며 실제 수집·색인 예측이 아닙니다.

비교 규약과 한도

teck-tani-rep-core-v1: 대소문자 무시·정확한 봇 토큰, 일치 그룹 병합, 없을 때만 와일드카드 그룹. 경로+쿼리는 대소문자 구분. 정규화 ASCII 규칙 길이는 *와 마지막 $를 포함하고 동률은 Allow 우선입니다. 중간 $는 일반 문자입니다. 쿼리 없는 정확한 정규화 /robots.txt만 암시적으로 허용합니다. 미지원 지시문은 그룹을 나누지 않습니다.

브라우저 WHATWG URL 정규화로 호스트 대소문자·IDN·기본 포트·점 경로를 처리합니다. 화면의 비교 대상이 실제 검사 입력입니다. 퍼센트 비예약 문자는 풀지만 예약 구분자는 구분합니다. URL의 일반 *·$는 문자 규칙 %2A·%24와 비교합니다. 프래그먼트는 제외하며 잘못된 이스케이프·제어 문자·공백·인증 정보·역슬래시는 거부합니다.

앱 상한: UTF-8 robots 512 KiB·20,000행·규칙/그룹 각각 2,000개·URL 200개·입력/정규화 경로 4,096자. 비교 2천만 단계 또는 펼친 우선 규칙 근거 1 Mi 문자 예산에서 중단합니다. 잘라서 허용 결과로 만들지 않습니다. RFC 크롤러 파서 최소 500 KiB와는 별개의 제한입니다.

정책과 URL 입력

HTTP/S 스킴 + 호스트 + 선택 포트. 경로·쿼리·인증 정보는 빼세요. 예: https://example.test

영문자·밑줄·하이픈만 사용합니다. 추천 이름은 비교 토큰이며 해당 크롤러 재현을 뜻하지 않습니다. 전체 User-Agent 헤더는 넣지 마세요.

빈 텍스트는 빈 정책입니다. #부터 주석이며 BOM·CRLF·CR·LF를 받습니다. 무시한 행은 알림에 남깁니다.

빈 줄을 제외하고 최대 200개. /경로는 입력 origin을 사용합니다. 다른 origin의 절대 HTTP/S URL은 범위 밖으로 표시하며 일반 상대 경로와 // URL은 거부합니다.

정책과 URL 목록을 입력하세요. 입력 변경 시 이전 결과가 지워집니다.

비교 규약의 참고 자료

2026년 9월 23일 확인. 자료는 robots 정책을 설명하며 이 도구의 정확한 처리 범위와 한도는 위에 명시합니다.

댓글과 질문

robots 규칙 시뮬레이터

배포하려는 robots.txt의 규칙을 먼저 살펴보는 도구입니다. 제공한 텍스트와 URL을 명시된 비교 규약에 따라 평가하고 선택 그룹·우선 규칙의 행 번호를 보여줍니다. URL에 접속하지 않으며 검색엔진의 실제 수집이나 색인 여부를 판정하지 않습니다.

주요 기능

  • 정확한 봇 토큰 선택과 같은 봇 그룹 병합
  • 퍼센트 인코딩을 구분하는 경로·쿼리 비교
  • 와일드카드와 끝 고정 규칙의 행별 근거
  • 다른 origin과 잘못된 URL을 별도 표시
  • 취소·복잡도 상한과 부분 성공 방지
  • 미리보기 필터와 무관한 전체 CSV·JSON 저장

사용 방법

  1. HTTP/S origin과 Bingbot·Yeti 같은 봇 토큰 하나를 입력합니다.
  2. robots.txt와 최대 200개의 절대 HTTP/S URL 또는 루트 상대 경로를 붙여 넣습니다.
  3. 시뮬레이션을 실행하고 해석 알림과 선택 그룹을 확인합니다.
  4. 정규화된 비교 대상을 펼치고 가장 긴 규칙의 행 번호를 살펴봅니다.
  5. 전체 보고서를 저장합니다. 입력을 바꾸면 이전 결과가 지워집니다.

활용 예시

  • 공통 와일드카드 정책과 특정 봇 그룹의 차이 비교
  • 비공개 경로의 예외와 쿼리 규칙이 겹치는 상황 점검
  • 규칙 변경안의 정확한 입력과 결과를 함께 검토

자주 묻는 질문

검색엔진과 동일하게 작동하거나 색인 여부를 확인하나요?

아닙니다. teck-tani-rep-core-v1은 범위를 제한한 로컬 규칙 시뮬레이터입니다. 봇 이름은 비교할 입력 토큰이며 실제 봇 인증이 아닙니다. robots.txt 가져오기·리다이렉트·HTTP 실패·캐시·엔진별 별칭·crawl-delay·메타 robots·실제 수집과 색인은 다루지 않습니다. 지원하지 않는 지시문은 알림에 남기고 무시합니다.

어떤 그룹과 규칙을 사용하나요?

봇 토큰은 영문자·하이픈·밑줄로 입력합니다. 대소문자를 무시한 정확한 이름으로 그룹을 모으며, 일치 그룹이 없을 때만 와일드카드 그룹을 사용합니다. 경로와 쿼리는 대소문자를 구분해 처음부터 비교합니다. 정규화된 ASCII 패턴 길이가 긴 규칙이 우선이며 별표와 마지막 달러 연산자도 길이에 포함합니다. 동률 충돌은 Allow가 우선이고 같은 최장 길이의 행을 모두 남깁니다.

URL과 이스케이프 문자는 어떻게 처리하나요?

브라우저 URL 파서가 호스트·포트·점 경로를 정규화합니다. 입력 origin만 평가합니다. 쿼리와 빈 물음표는 비교 대상에 들어가고 프래그먼트는 빠집니다. 이스케이프된 비예약 문자는 풀지만 예약 구분자는 구분합니다. 유니코드는 UTF-8 퍼센트 표기로 비교하고 인코딩된 별표·달러는 문자 그대로입니다. 쿼리 없는 정확한 정규화 /robots.txt는 암시적으로 허용합니다.

잘못된 행이나 한도를 만나면 어떻게 되나요?

읽을 수 있는 규칙은 적용하고 무시한 행은 나열합니다. 이 엄격한 규약은 잘못된 경로를 임의로 보정하지 않습니다. 자체 상한은 UTF-8 512 KiB·20,000행·규칙과 그룹 각각 2,000개·URL 200개·입력 및 정규화 경로 4,096자입니다. 비교 2천만 단계 또는 펼친 우선 규칙 근거 1 Mi 문자 예산을 넘으면 실행을 중단합니다. 이 앱 상한은 RFC의 크롤러 파서 최소 500 KiB 요건과 별개이며 전체 표준 준수를 주장하지 않습니다.

취소되거나 평가하지 못한 항목도 허용으로 나오나요?

아닙니다. 취소나 실행 전체 한도 초과는 해당 보고서 전체를 폐기합니다. 다른 origin은 범위 밖, 잘못된 URL은 미평가로 구분합니다. 해석 알림은 계속 표시하므로 결과가 받아들인 행만 반영한다는 것을 확인할 수 있습니다. 빈 정책에 적용 그룹이 없다는 결과도 실제 사이트 상태를 확인했다는 뜻은 아닙니다.

다운로드 보고서에는 무엇이 들어가나요?

필터와 페이지에 상관없이 모든 URL 행을 내보냅니다. JSON은 원래 입력·선택 그룹·모든 해석 알림도 보존합니다. CSV는 UTF-8 BOM·CRLF·따옴표 이스케이프를 사용하고 수식처럼 시작하는 셀에 작은따옴표를 붙입니다. 화면은 페이지당 25행·행당 최장 규칙 20개·그룹 40개와 그룹당 봇 라벨 20개·알림 100개까지 미리 보여주며 내보내기는 수집한 전체 근거를 유지합니다.

개인정보 안내

robots 텍스트·origin·봇·URL 목록은 페이지 메모리에서 처리합니다. 이 도구는 해당 URL에 접속하거나 입력을 서버로 전송·자동 저장하지 않습니다. 다운로드는 직접 요청할 때 생성되며 비공개 경로나 쿼리 값이 포함될 수 있습니다. 페이지를 떠나면 저장하지 않은 결과가 사라집니다.

관련 도구

메타태그·OG 생성기URL 인코더줄바꿈·공백 제거WebAssembly 모듈 검사기다국어 연결 행렬 검사기구문 트리 질의 실험실컨테이너 빌드 단계 분석기의존성 그래프 탐색기버전 제약 충돌 분석기작업 스케줄 충돌 검사기패치 검토 작업대소스맵 탐색기다국어 카탈로그 검사기구조화 데이터 대조기HTTP 아카이브 분석기웹훅 서명 실험실Protobuf 스키마 작업대GraphQL 스키마 실험실Avro 스키마 호환성 검사기로컬 SQL 데이터 작업대스키마 기반 입력 폼 생성기3D 메쉬 검사·복구기관망 유량·압력 실험실로봇팔 운동학 실험열저항 회로 실험실보 휨 실험실기어열 배치 실험공차 누적 실험실센서 교정 곡선 맞추기PCB 적층 비교 설계기디지털 필터 설계기도로망 도달 범위 지도태양 그림자 배치 실험GPS 오차 시뮬레이터디지털 논리 회로 실험아날로그 회로 실험실링크 기구 운동 실험해석용 메쉬 생성기OpenAPI 계약 검사기DB 스키마 변경 계획기수식 차원 검사기트러스 힘 실험실논리식 최소화 실험실제어계 응답 실험실대기행렬 시뮬레이터위치 구역 출입 이벤트 실험실좌표계 변환 실험실측량 폐합 검산 실험실위성·래스터 구간 분류단계구분도 설계기지도 인쇄 편집기GeoTIFF 래스터 재투영고도 등고선 생성기지형 가시영역 실험실지형 유역 탐색기오프라인 지도 타일 패키저텍스트 파일 인코딩 작업대파일 경로 호환성 검사기SBOM 라이선스 탐색기파일 형식 위장 검사기npm 잠금 파일 충돌 해결기소스 비밀값 점검기오프라인 웹 자료 패키저인증서 체인 검사기토렌트 메타정보 검사기파일 분할 전송 패키저로컬 파일 암호 금고동일 파일 찾기압축 파일 작업대디자인 토큰 관리기반응형 간격 체계 설계기반응형 타이포 시스템 설계기포장 전개도 설계기SVG 아이콘 스프라이트 묶기Flexbox 배치 설계기CSS Grid 배치 설계기정규 언어 동치 검사기Markdown 문서 묶음 검사기로그 패턴 추출기반응형 HTML 레이아웃 검사기메일 HTML 렌더 검토기내부 링크 구조 분석기상태 전이 모델 테스트 생성기페트리넷 흐름 실험Git 이력 그래프 탐색기HTTP 요청 명령 설계기바이너리 프로토콜 설계기바이너리 Hex 편집기바이너리 차이 패치 만들기파일 전자서명 작업대API 모의 응답 실험실데이터 열 매핑 설계기이벤트 로그 세션 분석기데이터베이스 관계도 설계기시계열 누락 검사기학습 데이터 분할기데이터 흐름 계보 작성기결정트리 학습 실험실데이터 비식별 처리기데이터 계약 규칙 검사기JSON Schema 검증기항목 동시출현 분석기HTML 검색 기본 검사기접근성 구조 검사기RSS·Atom 피드 작성기IndexNow 배포 알림 준비기검색 로봇 로그 분석기CSP 정책 검토기검색 실적 CSV 분석기CSV 수식 위험 검사기CORS 응답 시뮬레이터HTTP 캐시 동작 실험실쿠키 속성 검사기성능 추적 파일 분석기사이트맵 구조 검사기파일 일괄 이름 바꾸기파일 묶음 무결성 검증기폴더 용량 지도폴더 차이 검토기방문 순서 최적화GeoJSON 지도 편집기지도 영역 중첩 분석기지도 라벨 배치기공간 속성 결합기GeoJSON 공간 위상 검사기GPS 이동 기록 분석기이동 기록 위치 가림표 관계 결합기피벗 테이블 작업대데이터 품질 프로파일러표 데이터 정제 작업대기록 대사 도구데이터 사전 작성기canonical 관계 검사기리다이렉트 계획 검증기HTTP 응답 속도·핑 참고 테스트내 브라우저·시스템 정보JSON ↔ YAML 변환기XML ↔ JSON 변환기HTML 포맷터JavaScript 압축기목 데이터 생성기.gitignore 생성기라이선스 생성기User-Agent 분석기비밀번호 강도 검사코드 이미지 만들기XML 포맷터HTTP 상태 코드 찾기MIME 타입 찾기JS·SQL 문자열 이스케이프CSS 박스 그림자 생성기CSS 그라데이션 생성기들여쓰기 변환기진법 변환기유니코드 이스케이프 변환기유니코드 문자 분석기JSON 구조 비교기Markdown 표 생성기Base64 인코더JSON 포맷터SQL 포맷터Cron 표현식 생성기정규식 테스터UUID 생성기해시 생성기타임스탬프 변환기JWT 디코더HTML 엔티티 변환기Markdown 미리보기CSS MinifierJSON CSV 변환대소문자·케이스 변환이미지 Base64 변환
개발 도구 도구 전체 보기 →이미지/미디어 →텍스트/변환 →생활/재미 →