Add examples of siteconf, set user_agent to Googlebot for Twitter
This commit is contained in:
@@ -48,6 +48,12 @@ user_agent "Lynx/2.8.8dev.3 libwww-FM/2.14 SSL-MM/1.4.1"
|
|||||||
Google に Lynx であると告げます。(これによりテキストブラウザ向けページが
|
Google に Lynx であると告げます。(これによりテキストブラウザ向けページが
|
||||||
返ります)
|
返ります)
|
||||||
|
|
||||||
|
url m!^https?://([a-z]+\.)?twitter\.com/!
|
||||||
|
user_agent "Googlebot/2.1"
|
||||||
|
|
||||||
|
Twitter に Googlebot であると告げます。(これによりJavaScriptが無効の
|
||||||
|
ブラウザが拒否されずにページが返ります)
|
||||||
|
|
||||||
===== 正規表現について =====
|
===== 正規表現について =====
|
||||||
|
|
||||||
次の正規表現はいずれも同じ意味を表します。
|
次の正規表現はいずれも同じ意味を表します。
|
||||||
|
@@ -47,6 +47,12 @@ user_agent "Lynx/2.8.8dev.3 libwww-FM/2.14 SSL-MM/1.4.1"
|
|||||||
Tell Google we're actually Lynx. (So they send us a text-browser friendly
|
Tell Google we're actually Lynx. (So they send us a text-browser friendly
|
||||||
results page.)
|
results page.)
|
||||||
|
|
||||||
|
url m!^https?://([a-z]+\.)?twitter\.com/!
|
||||||
|
user_agent "Googlebot/2.1"
|
||||||
|
|
||||||
|
Tell Twitter we're actually Googlebot. (So they send us a page without
|
||||||
|
rejection of a JavaScript disabled browser.)
|
||||||
|
|
||||||
===== Regular expressions notes =====
|
===== Regular expressions notes =====
|
||||||
|
|
||||||
Following expressions are all equivalent:
|
Following expressions are all equivalent:
|
||||||
|
Reference in New Issue
Block a user