🚀 go-pugleaf

RetroBBS NetNews Server

Inspired by RockSolid Light RIP Retro Guy

Article View: pl.comp.lang.ruby
Article #686

Re: Ruby poza railsami

#686
From: Paweł Kondzior
Date: Fri, 19 Oct 2007 14:07
22 lines
1971 bytes
Kiedys uzylem ruby do skopiowania bazy napisow do piosenek z pewnego 
portalu, algorytm pobieral strone, parsowal html, tworzyl rekordy w 
bazie, cala strona to okolo 3 GB kodu html, baza po sparsowaniu 350 mb, 
caly proces trwal okolo 4 dni, biblioteka do parsowania kodu html w ruby 
byla koszmarnie wolna :( zapewne uzywajac samych regexpow zajelo by to 
kilkanascie godzin, ale napisanie tego z wykorzystaniem DOM bylo owiele 
prostrze :) i latwiejsze w debugowaniu.

Dnia 07-10-19 15:32, moldovenu napisał(a):
>> Powiedz wiecej o tym, przedstaw pomiary, problemy, zadania. Chetnie o 
>> tym poczytam.
> 
> Moje testy to np. lista obiektów-danych. Tę listę tworzę, sortuję, 
> iteruję, używam regexpa zmieniając coś w danych.
> Albo hashowanie różnych struktur i losowe wybieranie ich.
> 
> Jak znajdę dziś jeszcze czas, to wrzucę te kody, jak nie to po weekendzie.
> 
> Ale póki co, nikt tu z was nie pisze o programach w .rb zajmujących po 
> 2-4gb ramu... :(
> 
> adam
Technical Details
Message-ID: <ffae1k$jqd$1@nemesis.news.tpi.pl>
Path: mbox-mo1.pugleaf.net!news-archive.icm.edu.pl!news.gazeta.pl!newsfeed.pionier.net.pl!news.internetia.pl!newsfeed.tpinternet.pl!nemesis.news.tpi.pl!atlantis.news.tpi.pl!news.tpi.pl!not-for-mail
References: <ff9pcl$219$1@news.onet.pl> <ffa67m$pib$1@inews.gazeta.pl> <ffabkp$v27$1@news.onet.pl>

Show Full Headers
Complete Article Headers
Path: mbox-mo1.pugleaf.net!news-archive.icm.edu.pl!news.gazeta.pl!newsfeed.pionier.net.pl!news.internetia.pl!newsfeed.tpinternet.pl!nemesis.news.tpi.pl!atlantis.news.tpi.pl!news.tpi.pl!not-for-mail
From: Paweł Kondzior <kondzior.p@gmail.com>
Newsgroups: pl.comp.lang.ruby
Subject: Re: Ruby poza railsami
Date: Fri, 19 Oct 2007 16:07:39 +0200
Organization: tp.internet - http://www.tpi.pl/
Lines: 22
Message-ID: <ffae1k$jqd$1@nemesis.news.tpi.pl>
References: <ff9pcl$219$1@news.onet.pl> <ffa67m$pib$1@inews.gazeta.pl> <ffabkp$v27$1@news.onet.pl>
NNTP-Posting-Host: dsl-out.exorigo.pl
Mime-Version: 1.0
X-Trace: nemesis.news.tpi.pl 1192803188 20301 83.19.133.162 (19 Oct 2007 14:13:08 GMT)
X-Complaints-To: usenet@tpi.pl
NNTP-Posting-Date: Fri, 19 Oct 2007 14:13:08 +0000 (UTC)
User-Agent: Thunderbird 2.0.0.6 (Windows/20070728)
In-Reply-To: <ffabkp$v27$1@news.onet.pl>
Content-Type: text/plain; charset=UTF-8
Content-Transfer-Encoding: 8bit