百度各個產(chǎn)品使用不同的user-agent：
產(chǎn)品名稱
對應(yīng)user-agent
網(wǎng)頁搜索
Baiduspider
無線搜索
Baiduspider
圖片搜索
Baiduspider-image
視頻搜索
Baiduspider-video
新聞搜索
Baiduspider-news
百度搜藏
Baiduspider-favo
百度聯(lián)盟
Baiduspider-cpro
商務(wù)搜索
Baiduspider-ads
來源：百度搜索資源平臺 百度搜索學堂
Baiduspider遵守互聯(lián)網(wǎng)robots協(xié)議。您可以利用robots.txt文件完全禁止Baiduspider訪問您的網(wǎng)站，或者禁止 Baiduspider訪問您網(wǎng)站上的部分文件。 注意：禁止Baiduspider訪問您的網(wǎng)站，將使您的網(wǎng)站上的網(wǎng)頁，在百度搜索引擎以及所有百度提供搜索引擎服務(wù)的搜索引擎中無法被搜索到。關(guān)于 robots.txt的寫作方法，請參看我們的介紹：robots.txt寫
頭條搜索的爬蟲UA為“Bytespider”首寫字母為大寫,例如：PCMozilla/5.0 (compatible; Bytespider; https://zhanzhang.toutiao.com/) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/70.0.0.0 Safari/537.36AndroidMozilla/5.0 (Linux; A
1. 在robots.txt文件內(nèi)添加一行禁止Baiduspider訪問的指令：User-agent: Baiduspider；Disallow: / 2. 添加http協(xié)議頭，指示不要訪問網(wǎng)站的任何網(wǎng)頁：X-Robots-Tag: noindex，noarchive，nosnippet，nofollow 3. 將任何和Baiduspider相關(guān)的IP地址拉黑。
8月份百度Spider升級了對HTTPS數(shù)據(jù)的抓取力度，HTTPS數(shù)據(jù)將更快被Spider抓取到。如網(wǎng)站還在做HTTPS的改造，且網(wǎng)站數(shù)據(jù)未搭建好，建議網(wǎng)站采取以下措施，避免Spider抓取，以免造成網(wǎng)站流量損失1、把HTTPS的協(xié)議封掉，可把443端口關(guān)掉；2、做HTTPS到http的301；3、建議站點在改HTTPS沒改造好之前，不要提供超鏈接指向，以免被Spider抓到HTTPS。4、針對一
