Article View: pl.comp.bazy-danych
Article #195706Re: Szybka baza danych Linux (MongoDB?)
From: alsor
Date: Thu, 30 Jul 2020 21:24
Date: Thu, 30 Jul 2020 21:24
61 lines
3639 bytes
3639 bytes
W dniu czwartek, 30 lipca 2020 23:15:22 UTC+2 użytkownik Adam napisał: > W dniu 2020-07-30 o 22:44, alsor@interia.pl pisze: > > W dniu czwartek, 30 lipca 2020 22:16:44 UTC+2 użytkownik Adam napisał: > >> W dniu 2020-07-30 o 22:05, alsor@interia.pl pisze: > >>> W dniu czwartek, 30 lipca 2020 13:43:59 UTC+2 użytkownik Borneq napisał: > >>>> Jak załadować 1TB danych do bazy? pamięć w kompie to 24 GiB. > >>>> Jeśli chodzi o MySQL to myślę, że pierwsze kilkanaście gigabajtów > >>>> poszłoby szybko bo było by w pamięci, potem wszystko musiało by być na > >>>> HDD. Jakiej bazy najlepiej użyć? > >>> > >>> co to ma za znaczenie? > >>> Załadujesz w czasie kilku sekund tak czy siak. > >>> > >>> przepust dysku: 100MB/s, czyli 1TB idzie w 10 s; > >>> na SSD w okolicach 2s; > >>> ram: zasuwa minimum z 4GB/s... 1/4 s. > >>> > >> > >> Nie wiem, jak w innych bazach, ale w mssql duże znaczenie ma rodzaj > >> danych, klucze oraz indeksy i ich rodzaje, pola unikalne, triggery, > >> czasem włączenie/wyłączenie filestream. > >> > >> > >> -- > >> Pozdrawiam. > >> > >> Adam > > > > co to ma za znaczenie? > > > > wszelkie obliczenia są robione w pamięci ram, a nie po dyskach - mikrosekundy! > > > > transfer ma tu jedynie znaczenie (najwolniejszy segment), > > np. przez zdalną sieć byłoby 100 razy wolniej, niż w lokalnej... > > zwłaszcza w Polsce, bo tu mamy szybkość internetu z 10MG/s - góra. > > > > Nie wiem, czy dobrze się rozumiemy. > > Twój pierwszy post zrozumiałem jako: "jak napompować bazę danymi o > pojemności 1TB", czyli jak zrobić UPDATE. > Ale piszesz też o obliczeniach - nie wiem, o co Ci chodzi. > > W zasadzie mogę przygotować i podesłać Ci dwa skrypty zasilające bazę > mssql, a czas ich działania (i zasilenia bazy danych) będzie radykalnie > różny dla tych samych danych. > > > -- > Pozdrawiam. > > Adam Przecież to nie jest mój temat - ja tylko podałem sugestię dla autora... Zakładam że w sql generalnie istnieje dyrektywa pozwalająca na wyłączenie kontroli - transakcji, itp. podczas tworzenia/wpisywania całej bazy! Jeśli tam takiej opcji nie ma, no to wtedy pakowanie miliona rekordów do bazy - w trybie transakcji!, zajmie... kilka godzin prawdopodobnie, niezależnie od sprzętu.
Technical Details
Message-ID:
<9be66e98-5c9c-49e1-a40d-04fc5ce7c1ebo@googlegroups.com>Path:
mbox-mo1.pugleaf.net!news-archive.icm.edu.pl!news.icm.edu.pl!fu-berlin.de!news-out.google.com!nntp.google.com!postnews.google.com!google-groups.googlegroups.com!not-for-mailReferences:
<5f22b259$0$522$65785112@news.neostrada.pl> <2c6cdff3-3642-4b02-a66b-5c37e7a6feb2o@googlegroups.com> <rfv9rb$7ke$1$Adam@news.chmurka.net> <c1bca268-d984-4e8f-be09-b6cf83d27ed1o@googlegroups.com> <rfvd99$a95$1$Adam@news.chmurka.net>Show Full Headers
Complete Article Headers
X-Received: by 2002:a0c:e847:: with SMTP id l7mr1141509qvo.232.1596144272309; Thu, 30 Jul 2020 14:24:32 -0700 (PDT) X-Received: by 2002:a25:6d87:: with SMTP id i129mr1329117ybc.315.1596144272103; Thu, 30 Jul 2020 14:24:32 -0700 (PDT) Path: mbox-mo1.pugleaf.net!news-archive.icm.edu.pl!news.icm.edu.pl!fu-berlin.de!news-out.google.com!nntp.google.com!postnews.google.com!google-groups.googlegroups.com!not-for-mail Newsgroups: pl.comp.bazy-danych Date: Thu, 30 Jul 2020 14:24:31 -0700 (PDT) In-Reply-To: <rfvd99$a95$1$Adam@news.chmurka.net> Complaints-To: groups-abuse@google.com Injection-Info: google-groups.googlegroups.com; posting-host=83.27.30.129; posting-account=95yuogoAAAAP-TLJzdSixlAUgSgBfFyz NNTP-Posting-Host: 83.27.30.129 References: <5f22b259$0$522$65785112@news.neostrada.pl> <2c6cdff3-3642-4b02-a66b-5c37e7a6feb2o@googlegroups.com> <rfv9rb$7ke$1$Adam@news.chmurka.net> <c1bca268-d984-4e8f-be09-b6cf83d27ed1o@googlegroups.com> <rfvd99$a95$1$Adam@news.chmurka.net> User-Agent: G2/1.0 MIME-Version: 1.0 Message-ID: <9be66e98-5c9c-49e1-a40d-04fc5ce7c1ebo@googlegroups.com> Subject: Re: Szybka baza danych Linux (MongoDB?) From: alsor@interia.pl Injection-Date: Thu, 30 Jul 2020 21:24:32 +0000 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit