🚀 go-pugleaf

RetroBBS NetNews Server

Inspired by RockSolid Light RIP Retro Guy

Thread View: pl.comp.lang.python
1 messages
1 total messages Started by Michał (JabLuszko) Karwowski Sun, 05 Apr 2009 11:30
Pobieranie title ze stron (urllib2 i BeautifulSoup) - złośliwe przypadki.
#25941
Author: Michał (JabLuszko) Karwowski
Date: Sun, 05 Apr 2009 11:30
43 lines
2182 bytes
Witam,

Obecny kod (nie mój) wygląda tak:
====
timeout = 2
setdefaulttimeout(timeout)
req_data = {'User-Agent' : 'PornViewer'}
request = urllib2.Request(url, None, req_data)
req = urllib2.urlopen(request)
html = req.read(65535)
req.close()

if req.info().getmaintype() == "text":
    return "| %s" % self.prepare_title(BF(html).title.string)
else:
    return "| Podany URL ma na koncu %s" % req.info().gettype()
====
prepare_title nie jest istotne - tam tylko zmienamy encje na znaczki :)

Tak, musimy sprawdzać nagłówki i ograniczać liczbę pobieranych danych, 
bo to stoi w dziwnym miejscu, gdzie każdy lubi psuć bota ;)

No i teraz pytanie - jak zabezpieczyć się przed stronami, które mają w 
php'ie sleep()? np. http://jabluszko.org/test.php
Powiedzmy kod jest:
====
<?
for($i=0; $i<50; $i++) {
         sleep(2);
         for($i2=0; $i2<10; $i2++) {
                 echo(SHA1(MD5(time() . rand(0,99999))));
         }
}
?>
====
urlopen stara się pobrać całą stronę - więc trwa to jakieś 100 sekund. 
100 sekund na pobranie title tagu ze strony to przesada.
Timeout ustawiany (chyba?) nic nie daje - przecież połączenie jest 
aktywne ;)

Jakieś pomysły/sugestie?

Pozdrawiam,
Thread Navigation

This is a paginated view of messages in the thread with full content displayed inline.

Messages are displayed in chronological order, with the original post highlighted in green.

Use pagination controls to navigate through all messages in large threads.

Back to All Threads