ToolPilot
开发者

robots.txt 生成器

创建包含 allow、disallow、crawl-delay 和 sitemap 规则的有效 robots.txt 文件。

控制搜索引擎抓取您网站的方式。为每个 user-agent 添加规则,加入您的站点地图,并下载可直接上传的文件。

正在加载工具…
隐私: 快速、私密的 ToolPilot 实用工具。您的数据尽可能在浏览器本地处理。

如何

  1. 1添加一个或多个 user-agent 规则组。
  2. 2设置 allow 和 disallow 路径。
  3. 3添加站点地图 URL 并下载 robots.txt。

常见问题

robots.txt 应放在哪里?

它必须从您域名的根目录提供,例如 https://example.com/robots.txt。

我的文件会被上传到服务器吗?

不会。该工具完全在您的浏览器中运行,必要时使用 JavaScript 和 WebAssembly。您的文件和文本绝不会离开您的设备。

帮助我们改进

我们会定期改进工具。发现问题或有建议?我们在倾听。

相关工具

🔗

URL 编码 / 解码器

📦

JSON 格式化与验证器

📝

Markdown 转 HTML

🗜️

HTML 压缩器