www.craigslist.org 引用 经典
robots.txt
暂无网页摘要。
页面标题尚未获取,当前标题取自 URL。
资源信息
- 域名
- www.craigslist.org
- 内容类型
- 未标注
- 主题
- 未分类
- 立场
- 引用(reference)
- 提及
- 9 次提及,7 位提及者
- 合集
- 经典(classic)
- 提及年份
- 2012
- 综合推荐分
- 4.0
推荐理由
Notes Craigslist's city subdomains lack robots.txt, analyzing the linked file's scope.
HN 评论原话
“it's funny that craigslist does not have any robots.txt on it's city subdomains”
网页抓取状态
不可用(unavailable)
抓取错误:Unsupported content type: text/plain