Hier mal die Übersicht der Zugriffe durch die Spider der verschiedenen SuMas auf das WSB. Netterweise kommt da nen nettes Sümmchen zusammen (ca. 1GB). Wenn ich mir da so kleine Webspacepakete vorstelle ... dann können Spider doch schon zu einem Problem werden.
|
Quellcode
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
|
Spider Zugriffe Traffic
Inktomi Slurp 20045 238.60 MB
Googlebot (Google) 12894 237.94 MB
MSNBot 11595 534.76 MB
EIT Link Verifier Robot 1433 7.00 KB
Unknown robot (identified by 'crawl') 1139 8.40 MB
GigaBot 244 17.09 MB
Turn It In 62 429.90 KB
Walhello appie 29 1.13 MB
BaiDuSpider 40 891.42 KB
LinkWalker 34 676.12 KB
Unknown robot (identified by 'robot') 15 254.69 KB
IBM_Planetwide 30 96.16 KB
larbin 24 618.91 KB
Voila 5 59.24 KB
Alexa (IA Archiver) 10 101.28 KB
Speedy Spider 8 43.27 KB
Jeeves 3 37.31 KB
WISENutbot (Looksmart) 5 56.18 KB
Unknown robot (identified by 'spider') 4 61.89 KB
Pompos 1 17.98 KB
psBot 1 17.07 KB
Scooter (AltaVista) 1 52.20 KB
|
Nur um sich mal die Dimension klar zu machen ... Auf dem WSB ist die Trafficbelastung durch Spider ein wenig höher, als durch Menschen (was wohl auch mit der Komprimierung zu tun hat)