Discuz! Board

 找回密碼
 立即註冊
搜索
熱搜: 活動 交友 discuz
查看: 3|回復: 0

如果您想要阻止所有搜尋引擎抓取您的

[複製鏈接]

1

主題

1

帖子

5

積分

新手上路

Rank: 1

積分
5
發表於 2024-4-16 11:15:23 | 顯示全部樓層 |閱讀模式
只需開啟一個空白的 .txt 文件並開始輸入說明即可。 例如,/admin/ 目錄,您可以輸入以下指令: 用戶代理:*禁止:/admin/ 您可以增加和編輯此文件中的說明,直到您對結果感到滿意為止。 然後將文件打開為“robots.txt”。另存為 。 或者,您可以使用robots.txt 檔案產生器,如下所示。 關於 Robots.txt 和 SEO 4 您需要了解的一切 使用這種工具的優點是可以最大限度地減少語法錯誤。 這是一個非常重要的情況,因為即使在您準備的指示中出現一個錯誤,也可能會為您的網站帶來重大的 SEO 災難。


缺點是它們的可自訂性非常有限。 那麼 robots.txt 檔案可以放在哪裡呢? 將 robots.txt 檔案放置在其適用的子網域的根目錄中。 例如,要控制domain.com上的抓取活動,robots.txt檔案必須可以透過domain.com/robots.txt存取。 如果您想要控 南非 電話號碼 制子網域(例如blog.domain.com )的抓取,則應該可以透過blog.domain.com/robots.txt存取 robots.txt 檔案。 最佳 robots.txt 應用 如果您想避免常見錯誤,請記住這一點: 每個指令使用一個新行。



每條指令必須另起一行。否則,會讓搜尋引擎感到困惑。 壞的: 使用者代理:* 禁止:/directory/ 禁止:/other-directory/ 早安我的寶貝: 使用者代理:* 禁止:/directory/禁止:/other-directory/ 使用星號 (*) 字元可以簡化描述。 您不僅可以使用星號 (*) 字元將指令套用至所有使用者代理,還可以在發出指令時符合 URL 模式。 例如,如果您想阻止搜尋引擎存取您網站上的參數化產品類別 URL,您可以按以下方式對它們進行排序: 使用者代理:*不允許:/products/T 卹? 但這並不是一個非常合適的舉動。



回復

使用道具 舉報

您需要登錄後才可以回帖 登錄 | 立即註冊

本版積分規則

Archiver|手機版|自動贊助|GameHost抗攻擊論壇

GMT+8, 2024-5-15 21:09 , Processed in 1.290434 second(s), 26 queries .

抗攻擊 by GameHost X3.4

© 2001-2017 Comsenz Inc.

快速回復 返回頂部 返回列表
一粒米 | 中興米 | 論壇美工 | 設計 抗ddos | 天堂私服 | ddos | ddos | 防ddos | 防禦ddos | 防ddos主機 | 天堂美工 | 設計 防ddos主機 | 抗ddos主機 | 抗ddos | 抗ddos主機 | 抗攻擊論壇 | 天堂自動贊助 | 免費論壇 | 天堂私服 | 天堂123 | 台南清潔 | 天堂 | 天堂私服 | 免費論壇申請 | 抗ddos | 虛擬主機 | 實體主機 | vps | 網域註冊 | 抗攻擊遊戲主機 | ddos |