Article View: pl.comp.lang.ruby
Article #686Re: Ruby poza railsami
From: Paweł Kondzior
Date: Fri, 19 Oct 2007 14:07
Date: Fri, 19 Oct 2007 14:07
22 lines
1971 bytes
1971 bytes
Kiedys uzylem ruby do skopiowania bazy napisow do piosenek z pewnego portalu, algorytm pobieral strone, parsowal html, tworzyl rekordy w bazie, cala strona to okolo 3 GB kodu html, baza po sparsowaniu 350 mb, caly proces trwal okolo 4 dni, biblioteka do parsowania kodu html w ruby byla koszmarnie wolna :( zapewne uzywajac samych regexpow zajelo by to kilkanascie godzin, ale napisanie tego z wykorzystaniem DOM bylo owiele prostrze :) i latwiejsze w debugowaniu. Dnia 07-10-19 15:32, moldovenu napisał(a): >> Powiedz wiecej o tym, przedstaw pomiary, problemy, zadania. Chetnie o >> tym poczytam. > > Moje testy to np. lista obiektów-danych. Tę listę tworzę, sortuję, > iteruję, używam regexpa zmieniając coś w danych. > Albo hashowanie różnych struktur i losowe wybieranie ich. > > Jak znajdę dziś jeszcze czas, to wrzucę te kody, jak nie to po weekendzie. > > Ale póki co, nikt tu z was nie pisze o programach w .rb zajmujących po > 2-4gb ramu... :( > > adam
Technical Details
Message-ID:
<ffae1k$jqd$1@nemesis.news.tpi.pl>Path:
mbox-mo1.pugleaf.net!news-archive.icm.edu.pl!news.gazeta.pl!newsfeed.pionier.net.pl!news.internetia.pl!newsfeed.tpinternet.pl!nemesis.news.tpi.pl!atlantis.news.tpi.pl!news.tpi.pl!not-for-mailReferences:
<ff9pcl$219$1@news.onet.pl> <ffa67m$pib$1@inews.gazeta.pl> <ffabkp$v27$1@news.onet.pl>Show Full Headers
Complete Article Headers
Path: mbox-mo1.pugleaf.net!news-archive.icm.edu.pl!news.gazeta.pl!newsfeed.pionier.net.pl!news.internetia.pl!newsfeed.tpinternet.pl!nemesis.news.tpi.pl!atlantis.news.tpi.pl!news.tpi.pl!not-for-mail From: Paweł Kondzior <kondzior.p@gmail.com> Newsgroups: pl.comp.lang.ruby Subject: Re: Ruby poza railsami Date: Fri, 19 Oct 2007 16:07:39 +0200 Organization: tp.internet - http://www.tpi.pl/ Lines: 22 Message-ID: <ffae1k$jqd$1@nemesis.news.tpi.pl> References: <ff9pcl$219$1@news.onet.pl> <ffa67m$pib$1@inews.gazeta.pl> <ffabkp$v27$1@news.onet.pl> NNTP-Posting-Host: dsl-out.exorigo.pl Mime-Version: 1.0 X-Trace: nemesis.news.tpi.pl 1192803188 20301 83.19.133.162 (19 Oct 2007 14:13:08 GMT) X-Complaints-To: usenet@tpi.pl NNTP-Posting-Date: Fri, 19 Oct 2007 14:13:08 +0000 (UTC) User-Agent: Thunderbird 2.0.0.6 (Windows/20070728) In-Reply-To: <ffabkp$v27$1@news.onet.pl> Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit