robots.txt 的正则表达式

2023-11-21

我正在尝试设置 robots.txt,但我不确定正则表达式。

我有四个不同的页面,全部以三种不同的语言提供。我想我可以使用正则表达式,而不是列出每个页面乘以 3。

nav.aspx
page.aspx/changelang(可能附加一个查询字符串,例如“?toLang=fr”。)
mypage.aspx?id and
登录.aspx/注销(=12346?...等等 - 每次都不同)

!所有四种语言都有 3 种不同的语言,例如:

www.example.com/es/nav.aspx
www.example.com/it/nav.aspx
www.example.com/fr/nav.aspx

现在,我的问题是:以下正则表达式正确吗?

User-Agent: *
Disallow: /*nav\.aspx$
Disallow: /*page.aspx/changelang
Disallow: /*mypage\.aspx?id
Disallow: /*login\.aspx\/logoff

Thanks


robots.txt 中不允许使用正则表达式,但 Googlebot(和其他一些机器人)可以理解一些简单的模式匹配:

您的 robots.txt 应如下所示:

User-agent: *
Disallow: /*nav.aspx$
Disallow: /*page.aspx/changelang
Disallow: /*mypage.aspx?id
Disallow: /*login.aspx/logoff

User-agent指令小写有效a。你不必逃避. or `/'.

您可以在这里阅读更多相关内容:使用 robots.txt 文件阻止或删除页面

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

robots.txt 的正则表达式 的相关文章

随机推荐