GPTBot是什么蜘蛛?GPTBot蜘蛛要屏蔽吗?

腾轩网 腾轩网 173 其它教程


8月8日,OpenAI 推出了GPTBot,和谷歌、Bing等类似的网络爬虫工具,能够自动抓取网站的数据,用来训练 GPT-4 或 GPT-5,提升未来人工智能系统的准确性和能力。

屏蔽方法

通过robots.txt文件屏蔽‌:在网站的robots.txt文件中添加以下内容:

User-agent: GPTBot
Disallow: /

这样GPTBot蜘蛛就不会抓取网站上的任何内容‌。

GPTBot的IP地址是多少?

20.15.240.64/28
20.15.240.80/28
20.15.240.96/28
20.15.240.176/28
20.15.241.0/28
20.15.242.128/28
20.15.242.144/28
20.15.242.192/28
40.83.2.64/28


以上本篇文章的全部内容了,感兴趣的小伙伴可以看看,更多精彩内容关注腾轩网www.tengxuanw.com