🚀 go-pugleaf

RetroBBS NetNews Server

Inspired by RockSolid Light RIP Retro Guy

Thread View: pl.news.mordplik
29 messages
29 total messages Started by Godryk Tue, 09 Mar 2004 11:25
Śmieci słownikowe - łatwo po nich ciąć!
#37896
Author: Godryk
Date: Tue, 09 Mar 2004 11:25
47 lines
2849 bytes
Nie rzuciło mi się w oczy, z eby ktoś na to zwrócił uwagę, więc piszę:

Ostatnio spamerzy dodają - najwyraźniej dla ogłupienia filtrów - ciągi 
niepowiązanych ze sobą, rzadko używanych wyrazów branych ze słownika.

Otóż po pierwsze, więksozść tych wyrazów jest długa - ponad siedem liter; 
wyraz pięcioliterowy czy krótszy zdarza sie raz na kilka - kilkanaście 
wyrazów. Wyrazy krótsze niż trzyliterowe nie występują. 

Po drugie, pomiędzy wyrazami nie ma żadnych znaklów przestankowych, 
a same wyrazy wykorzystują wyłącznie (małe) litery łacińskie, bez 
diakrytyków.

W zwiazku z tym przyszedł mi do głowy pomysł, ze można takie przesyłki 
natychmiast odsiać, szukając w nich łańcucha złożonego z kilku (np. 
5-10?) ciągów liter łacińskich, bez diakrytyków czy cyfr, 
nie krótszych niż ileś (3-5?) liter, rozdzielonych wyłącznie białymi 
znakami, bez znaków przestankowych.  

Na pewno będzie to prostsze, niż wyszukiwanie słów zdefiniowanych 
jako charakteystyczne dla spamu. 

Zapisując to perlowym regexpem, dla ciągu dziesięciu słów co najmniej 
4-literowych  

/([a-zA-Z]{4,}\s+){10,}/i

(Unikam świadomie \w, bo zależy od locale, a tu chodzi konkretnie 
o łacińskie litery.)

Przy tych parametrach false positives będzie bardzo mało - w ciągu 
dziesieciu angielskich słów użytych w sensownym tekście prktycznie 
na pewno znajdzie się znak przestankowy, czy rodzajnik albo przyimek, 
krótszy niż 4 litery - a wśród słów polskich, czy w innym języku 
- znak diakrytyczny. 

Tylko jak to prosto przetłumaczyć procmailowi? Na pierwszy rzut 
kojarzę, ze można użyć zewnętrznego egrepa i podać mu wzorzec w rodzaju 

([a-zA-Z]{4,}[[:space:]]+){10,}

Ale czy da się to zapisać bez egrepa?

-- 
Godryk / S.M.O.K. prfs-f / godric@sf-f.pl / Tomek Marcinkowski
______________________________________________________________
>>> zima... nic, tylko zwinąć się w kłębek i przeczekać... <<<
Re: Śmieci słownikowe - łatwo po nich ciąć!
#37897
Author: BLE_Maciek
Date: Tue, 09 Mar 2004 11:36
11 lines
1468 bytes
Tue, 9 Mar 2004 11:25:58 +0000 (UTC) jednostka biologiczna o nazwie
Godryk <godric@sf-f.pl> wyslala do portu 119
jednego z serwerow news nastepujace dane:

>Przy tych parametrach false positives będzie bardzo mało - w ciągu 
>dziesieciu angielskich słów użytych w sensownym tekście prktycznie 
>na pewno znajdzie się znak przestankowy, czy rodzajnik albo przyimek, 
>krótszy niż 4 litery - a wśród słów polskich, czy w innym języku 
>- znak diakrytyczny. 
Hmm taki pewny to bym nie byl, ale pomysl ciekawy. Jednak zwiekszylbym
limit do np. 15-20 slow.
Re: Śmieci słownikowe - łatwo po nich ciąć!
#37901
Author: Michal Sobkowski
Date: Tue, 09 Mar 2004 12:01
14 lines
1446 bytes
Użytkownik Przemek Kulczycki napisał:
[...]
> zwroc uwage na to ze ze wzgledu na lenistwo wiele osob (nie tylko w 
> polsce) pisze bez znakow diaktrycznych.
> 
Takich nie żal ciąć! :->

Michał

-- 
Michał Sobkowski, IChB PAN, Poznań
http://www.man.poznan.pl/~msob/
"Każdy złożony problem ma proste, błędne rozwiązanie!"
[U. Eco]
Re: Śmieci słownikowe - łatwo po nich ciąć!
#37899
Author: Bronek Kozicki
Date: Tue, 09 Mar 2004 12:04
12 lines
1304 bytes
On Tue, 9 Mar 2004 11:25:58 +0000 (UTC), Godryk wrote:
> Ostatnio spamerzy dodają - najwyraźniej dla ogłupienia filtrów - ciągi 
> niepowiązanych ze sobą, rzadko używanych wyrazów branych ze słownika.

Do mnie trafia spam z poprawnie zbudowanymi pełnymi zdaniami, tak na oko
wyjętymi z literatury pięknej lub encyklopedii.


B.

-- 
Popieram program obniżenia podatków: www.odpowiedzialnosc.org
Re: Śmieci słownikowe - łatwo po nich ciąć!
#37898
Author: Godryk
Date: Tue, 09 Mar 2004 12:07
57 lines
3377 bytes
I nastał wieczór, i stał się zaranek, 
i BLE_Maciek odzywa się do nas w te słowa:
> Tue, 9 Mar 2004 11:25:58 +0000 (UTC) jednostka biologiczna o nazwie
> Godryk <godric@sf-f.pl> wyslala do portu 119
> jednego z serwerow news nastepujace dane:
>
>>Przy tych parametrach false positives będzie bardzo mało - w ciągu 
>>dziesieciu angielskich słów użytych w sensownym tekście prktycznie 
>>na pewno znajdzie się znak przestankowy, czy rodzajnik albo przyimek, 
>>krótszy niż 4 litery - a wśród słów polskich, czy w innym języku 
>>- znak diakrytyczny. 
> Hmm taki pewny to bym nie byl, ale pomysl ciekawy. Jednak zwiekszylbym
> limit do np. 15-20 slow.

Jasne, to można sobie zresztą dobrać eksperymentalnie. Jak dla mnie, 
kryterium (5,8) wystarcza (co najmniej 8 ciągów co najmniej 5-literowych 
liter wyłącznie łacińskich) - jest zero false positives.

Zrobiłem test. Mam archiwum wysłanych postów, sent_posts - ok. 1,8 MB 
z ostatnich paru miesięcy - wszystko po polsku, chociaż część bez pliterek. 
Archiwa pocztowe: sent-mail - 3,5 MB, incoming - 1,1 MB.

Przeciwko temu - 103 kB spamu, nie odsianego przez obecne regułki procmaila 
- 23 przesyłki, w tym dwie po polsku, 480 kB porno spamu oraz ok. 40 kB 
nigeryjczyków (bo jedyny kawałek angielszczyzny, jaki miałem pod ręką).

egrep "([a-zA-Z]{5,}[ ]+){8,}" sent_posts 
Wynik: 0 trafień.

egrep "([a-zA-Z]{5,}[ ]+){8,}" incoming
Wynik: 0 trafień.

egrep "([a-zA-Z]{5,}[ ]+){8,}" sent_mail
Wynik: 0 trafień.

egrep "([a-zA-Z]{5,}[ ]+){8,}" unfiltered 
Wynik: 22 linie.

egrep "([a-zA-Z]{5,}[ ]+){8,}" porn-spam 
Wynik: 0 trafień (nic dziwnego, bo zniekształcanie wyrazów jest tu częste).

egrep "([a-zA-Z]{5,}[ ]+){8,}" nigerian-scam 
Wynik: 0 trafień (i dobrze - to znaczy, że normalnego angielskiego tekstu 
nie rusza; ale mała próbka, ledwie 40 kilo).

Przy osłabianiu kryteriów z (5,8) do (5,5) załapywało się bardzo dużo linii 
z postów pisanych po polsku bez pliterek, oraz kilka linii z pliterkami. 
Ponadto ze spamu "unfiltered" wybierało linie z normalnym tekstem 
angielskim i polskim. 

Po wzmocnieniu do (5,10) złapało tylko 16 linii z "unfiltered", nic 
z pozostałych plików.

-- 
Godryk / S.M.O.K. prfs-f / godric@sf-f.pl / Tomek Marcinkowski
______________________________________________________________
>>>    dziękuję kyi za pomoc w losowaniu sygnaturek :-)    <<<
Re: Śmieci słownikowe - łatwo po nich ciąć!
#37900
Author: Przemek Kulczycki
Date: Tue, 09 Mar 2004 12:10
17 lines
1627 bytes
W artykule <slrnc4rafv.fae.godric@godric.was.here> 
Godryk (godric@sf-f.pl) napisał(a):

> Przy tych parametrach false positives będzie bardzo mało - w ciągu 
> dziesieciu angielskich słów użytych w sensownym tekście prktycznie 
> na pewno znajdzie się znak przestankowy, czy rodzajnik albo przyimek, 
> krótszy niż 4 litery - a wśród słów polskich, czy w innym języku 
> - znak diakrytyczny. 

zwroc uwage na to ze ze wzgledu na lenistwo wiele osob (nie tylko w 
polsce) pisze bez znakow diaktrycznych.

-- 
#-\  Przemek Kulczycki <> pk[NA]metal.eu.org  /-#
#-/ PRMM FAQ: http://prm.metal.eu.org/faq.htm \-#
#-\    We love Satan - Join the blasphemy!    /-#
#-/      http://www.theprojecthate.net/       \-#
Re: Śmieci słownikowe - łatwo po nich ciąć!
#37911
Author: Godryk
Date: Tue, 09 Mar 2004 12:10
26 lines
2155 bytes
I nastał wieczór, i stał się zaranek, 
i Przemek Kulczycki odzywa się do nas w te słowa:
> W artykule <slrnc4rafv.fae.godric@godric.was.here> 
> Godryk (godric@sf-f.pl) napisał(a):
>> Przy tych parametrach false positives będzie bardzo mało - w ciągu 
>> dziesieciu angielskich słów użytych w sensownym tekście prktycznie 
>> na pewno znajdzie się znak przestankowy, czy rodzajnik albo przyimek, 
>> krótszy niż 4 litery - a wśród słów polskich, czy w innym języku 
>> - znak diakrytyczny. 
> zwroc uwage na to ze ze wzgledu na lenistwo wiele osob (nie tylko w 
> polsce) pisze bez znakow diaktrycznych.

Zwróciłem - wyniki testu w <slrnc4rcte.l4q.godric@godric.was.here>.

Ogólnie, przy poszukiwaniu ciągu co najmniej 8 słów co najmniej 
5-literowych w próbce 1,8 MB postów z polskiego Usenetu nic takiego 
się nie załapało. 

(W przypadku co najmniej 5 słów 5-literowych false positives 
było kilkadziesiąt.)

-- 
Godryk / S.M.O.K. prfs-f / godric@sf-f.pl / Tomek Marcinkowski
______________________________________________________________
>>>  [ - Kingsajz dla każdego!                           ] <<<
>>>  [ - Dla każdego nie starczy, może dla nas trzech... ] <<<
Re: Śmieci słownikowe - łatwo po nich ciąć!
#37902
Author: BLE_Maciek
Date: Tue, 09 Mar 2004 12:23
16 lines
1714 bytes
Tue, 09 Mar 2004 13:01:45 +0100 jednostka biologiczna o nazwie Michal
Sobkowski <msob@falszywy.adres.invalid> wyslala do portu 119
jednego z serwerow news nastepujace dane:

>> zwroc uwage na to ze ze wzgledu na lenistwo wiele osob (nie tylko w 
>> polsce) pisze bez znakow diaktrycznych.
>Takich nie żal ciąć! :->
Nie przesadzaj :-) Bez pliterek pisze sie w imie "backward
compatibility" a nie z lenistwa, chociaz jakis czas temu pisalem tekst
w Wordzie 6 (nie podkresla bledow) i dopiero po napisaniu 3-ch stron
spostrzeglem ze nie uzylem ani jednej pliterki :-)
Jestem przeciwnikiem uzywania pliterek w mailach i na usenecie,
chociaz newsreadera mam dobrze skonfigurowanego.

ĄĆĘŁŃÓŚŻŹ
ąćęłńóśżź
Re: Śmieci słownikowe - łatwo po nich ciąć!
#37903
Author: misman
Date: Tue, 09 Mar 2004 12:29
14 lines
984 bytes
BLE_Maciek wrote:


> chociaz newsreadera mam dobrze skonfigurowanego.
> 
> Ą??Ł??Ś@?
> ą??ł@?ś??

A cóż to za krzaki... ? 

;)

-- 
Pozdrawia m.
Re: Śmieci słownikowe - łatwo po nich ciąć!
#37904
Author: BLE_Maciek
Date: Tue, 09 Mar 2004 13:01
8 lines
1359 bytes
Tue, 9 Mar 2004 13:29:10 +0100  jednostka biologiczna o nazwie misman
<misman.NIESPAM@rip.NIESPAM.pl> wyslala do portu 119
jednego z serwerow news nastepujace dane:

>> Ą??Ł??Ś@?
>> ą??ł@?ś??
>A cóż to za krzaki... ? 
Co zrobiles z moimi pliterkami ???
Re: Śmieci słownikowe - łatwo po nich ciąć!
#37907
Author: Term
Date: Tue, 09 Mar 2004 13:40
17 lines
1811 bytes
Tue, 09 Mar 2004 13:23:33 +0100      
BLE_Maciek <i80c586@cyberspace_NO_SPAM_.org>   napisał(a):

> Nie przesadzaj :-) Bez pliterek pisze sie w imie "backward
> compatibility" a nie z lenistwa, chociaz jakis czas temu pisalem tekst
> w Wordzie 6 (nie podkresla bledow) i dopiero po napisaniu 3-ch stron
> spostrzeglem ze nie uzylem ani jednej pliterki :-)
> Jestem przeciwnikiem uzywania pliterek w mailach i na usenecie,
> chociaz newsreadera mam dobrze skonfigurowanego.

Czasy kiedy istniał problem pliterek daaawno minął. Kto dziś sobie z
nimi nie radzi, zrobi to za niego jakiś kreator, więc nie ma się już na
co powoływać.
Dlatego też, ludzi olewających pliterki, znaki przestankowe itp. omijam
wielkim łukiem gotyckim.

Pozdr.Pet.
Re: Śmieci słownikowe - łatwo po nich ciąć!
#37908
Author: Godryk
Date: Tue, 09 Mar 2004 14:14
33 lines
2564 bytes
I nastał wieczór, i stał się zaranek, 
i Term odzywa się do nas w te słowa:
> Tue, 09 Mar 2004 13:23:33 +0100      
> BLE_Maciek <i80c586@cyberspace_NO_SPAM_.org>   napisał(a):
>
>> Nie przesadzaj :-) Bez pliterek pisze sie w imie "backward
>> compatibility" a nie z lenistwa, chociaz jakis czas temu pisalem tekst
>> w Wordzie 6 (nie podkresla bledow) i dopiero po napisaniu 3-ch stron
>> spostrzeglem ze nie uzylem ani jednej pliterki :-)
>> Jestem przeciwnikiem uzywania pliterek w mailach i na usenecie,
>> chociaz newsreadera mam dobrze skonfigurowanego.
>
> Czasy kiedy istniał problem pliterek daaawno minął. Kto dziś sobie z
> nimi nie radzi, zrobi to za niego jakiś kreator, więc nie ma się już na
> co powoływać.
> Dlatego też, ludzi olewających pliterki, znaki przestankowe itp. omijam
> wielkim łukiem gotyckim.
>
> Pozdr.Pet.

Nie przesadzajmy. Jak ktoś pisze z zagranicy, to czasem nie może tych 
pliterek ustawić (bo nie, bo firma nie pozwala, na przykład). 
Ale interpunkcja, a raczej jej brak, jest dobrym kryterium. 
Bo i rzeczywiście trzeba być analfabetą.

Zresztą - w każdym języku do najczęściej używanych należą wyrazy krótkie, 
od 1 do 3 liter. Więc ja jestem spokojny - w zdaniu języka naturalnego 
zawsze się zaplącze coś, co do mojego regexpa nie pasuje.

-- 
Godryk / S.M.O.K. prfs-f / godric@sf-f.pl / Tomek Marcinkowski
______________________________________________________________
>>>                 Uwolnić stałe fizyczne!                <<<
Re: Śmieci słownikowe - łatwo po nich ciąć!
#37905
Author: OGONek~
Date: Tue, 09 Mar 2004 14:14
11 lines
1527 bytes
Użytkownik "BLE_Maciek" <i80c586@cyberspace_NO_SPAM_.org> napisał w

> >> Ą??Ł??Ś@?
> >> ą??ł@?ś??
> >A cóż to za krzaki... ?
> Co zrobiles z moimi pliterkami ???

Musisz system przeinstalowac...

-- 
OGONek~
Re: Śmieci słownikowe -
#37910
Author: Jan Srzednicki
Date: Tue, 09 Mar 2004 15:26
17 lines
1763 bytes
On 2004-03-09, BLE_Maciek <i80c586@cyberspace_NO_SPAM_.org> wrote:
> Tue, 09 Mar 2004 13:01:45 +0100 jednostka biologiczna o nazwie Michal
> Sobkowski <msob@falszywy.adres.invalid> wyslala do portu 119
> jednego z serwerow news nastepujace dane:
>
>>Takich nie żal ciąć! :->
> Nie przesadzaj :-) Bez pliterek pisze sie w imie "backward
> compatibility" a nie z lenistwa, chociaz jakis czas temu pisalem tekst
> w Wordzie 6 (nie podkresla bledow) i dopiero po napisaniu 3-ch stron
> spostrzeglem ze nie uzylem ani jednej pliterki :-)
> Jestem przeciwnikiem uzywania pliterek w mailach i na usenecie,
> chociaz newsreadera mam dobrze skonfigurowanego.

Zaspałeś jakieś 15 lat. Wtedy to miało sens, dzisiaj już nie.

-- 
 -- Jan Srzednicki --=-- wrzask --=-- Winfried --
Re: Śmieci słownikowe - łatwo po nich ciąć!
#37906
Author: BLE_Maciek
Date: Tue, 09 Mar 2004 15:45
18 lines
1970 bytes
Tue, 9 Mar 2004 15:14:55 +0100 jednostka biologiczna o nazwie
"OGONek~" <OGONek@spamerzy.wszystkich.krajow.p^%$#^e.sie> wyslala do
portu 119 jednego z serwerow news nastepujace dane:

>> >A cóż to za krzaki... ?
>> Co zrobiles z moimi pliterkami ???
>Musisz system przeinstalowac...
A pingw^H^H^H^H^Hswistak siedzi i zawija ... ;-)
Heh wiem wiem, przeinstalowac na inny najlepiej, ale za maly troche
mam dysk, a WUPW* musialaby zostac jeszcze przez jakis czas :-))
Jak na razie Linuxem bawie sie w domu bo mam tam dysk 40GB. Ale moze
kiedys i w robocie sobie zainstaluje.
Kto mowil o Linuxie ech... uderz w stol ... ;-)

Ale juz konczmy bo jeszcze ktos krzyknie ze NTG i zebysmy na pcoa
uciekali :-)

* oczywiscie "Wstydliwie Ukrywana Partycja Windowsowa" ;-)
Re: Śmieci słownikowe - łatwo po nich ciąć!
#37909
Author: Term
Date: Tue, 09 Mar 2004 17:02
11 lines
1625 bytes
Tue, 9 Mar 2004 14:14:16 +0000 (UTC)      
Godryk <godric@sf-f.pl>   napisał(a):

> Nie przesadzajmy. Jak ktoś pisze z zagranicy, to czasem nie może tych 
> pliterek ustawić (bo nie, bo firma nie pozwala, na przykład). 

Nie jestem skrajnym fundamentalistą. ;)
Mówiłem o rodzimej korespondencji i jeśli ktoś jeszcze znajdzie jakiś
wyjątek, zapewne chętnie się z nim zgodzę.

Pozdr.Pet.
Re: Śmieci słownikowe - łatwo po nich ciąć!
#37912
Author: Michal Kosek
Date: Tue, 09 Mar 2004 18:08
29 lines
1984 bytes
Godryk <godric@sf-f.pl> wrote:
> Zapisując to perlowym regexpem, dla ciągu dziesięciu słów co najmniej 
> 4-literowych  
> 
> /([a-zA-Z]{4,}\s+){10,}/i

Chyba moja odpowiedz zostalaby zakwalifikowana przez Twoj regexp jako spam 
mimo ze jest w miare normalna :-)

> (Unikam świadomie \w, bo zależy od locale, a tu chodzi konkretnie 
> o łacińskie litery.)

Sporo osob pisuje bez polskich liter (ja tylko w tym poscie, w ramach 
wyjatku:)).

> Przy tych parametrach false positives będzie bardzo mało - w ciągu 
> dziesieciu angielskich słów użytych w sensownym tekście prktycznie 
> na pewno znajdzie się znak przestankowy, czy rodzajnik albo przyimek, 
> krótszy niż 4 litery - a wśród słów polskich, czy w innym języku 
> - znak diakrytyczny. 

Istnienie linijki zawierajacej same wyrazy majace ponad trzy litery wcale 
nie jest takie nieprawdopodobne jak Ci sie wydaje.

-- 
michau@
  Then it comes to be that the soothing news at the end of the funnel       
  is just a fresh feed flooding your net...                                 
					"No Leaf Node"
Re: Śmieci słownikowe - łatwo po nich ciąć!
#37913
Author: Godryk
Date: Tue, 09 Mar 2004 21:23
27 lines
1979 bytes
I nastał wieczór, i stał się zaranek, 
i Michal Kosek odzywa się do nas w te słowa:
> Godryk <godric@sf-f.pl> wrote:
>> Zapisując to perlowym regexpem, dla ciągu dziesięciu słów co najmniej 
>> 4-literowych  
>> 
>> /([a-zA-Z]{4,}\s+){10,}/i
>
> Chyba moja odpowiedz zostalaby zakwalifikowana przez Twoj regexp jako spam 
> mimo ze jest w miare normalna :-)

Owszem - przedostatnia linia - ale piszesz bez znaków interpunkcyjnych. 
Jakbyś tam użył przecinków, to już by było po problemie. A powinieneś użyć 
dwóch.

[...]
> Istnienie linijki zawierajacej same wyrazy majace ponad trzy litery wcale 
> nie jest takie nieprawdopodobne jak Ci sie wydaje.

I owszem. Ale jak pisałem we wcześniejszej odpowiedzi, jest to kwestia 
indywidualnego doboru parametrów. U mnie sprawdza się (5,8) - (4,10) jest 
faktycznie zbyt silne.

-- 
Godryk / S.M.O.K. prfs-f / godric@sf-f.pl / Tomek Marcinkowski
______________________________________________________________
>>>       [ lepszy dla ciebie byłby świt zimowy ]          <<<
Re: Śmieci słownikowe - łatwo po nich ciąć!
#37914
Author: Michal Kosek
Date: Tue, 09 Mar 2004 22:47
33 lines
2261 bytes
Godryk <godric@sf-f.pl> wrote:
>>> /([a-zA-Z]{4,}\s+){10,}/i
>>
>> Chyba moja odpowiedz zostalaby zakwalifikowana przez Twoj regexp jako spam 
>> mimo ze jest w miare normalna :-)
> 
> Owszem - przedostatnia linia - ale piszesz bez znaków interpunkcyjnych. 
> Jakbyś tam użył przecinków, to już by było po problemie. A powinieneś użyć 
> dwóch.

Wydaje mi sie - na ile znam interpunkcje - ze tylko po "spam",
a ominiecie jednego przecinka kazdemu moze sie zdarzyc. Gdzie jeszcze
wg Ciebie powinien byc przecinek?

> [...]
>> Istnienie linijki zawierajacej same wyrazy majace ponad trzy litery wcale 
>> nie jest takie nieprawdopodobne jak Ci sie wydaje.
> 
> I owszem. Ale jak pisałem we wcześniejszej odpowiedzi, jest to kwestia 
> indywidualnego doboru parametrów. U mnie sprawdza się (5,8) - (4,10) jest 
> faktycznie zbyt silne.

Postawione przez Ciebie zadanie napisania sensownej linijki zawierajacej
wyrazy piecio- i wiecejliterowe jest nieco trudniejsze, acz nie
niewykonalne ;) Wg mnie to nie jest zbyt dobra metoda na odsiew, chyba
ze potraktujesz to tylko jako jeden z klasyfikatorow, ze stosunkowo
niewielka waga...

-- 
michau@
	Then it comes to be that the soothing news at the end of the funnel
	is just a fresh feed flooding your net...
					"No Leaf Node"
Re: Śmieci słownikowe - łatwo po nich ciąć!
#37918
Author: Tomasz R. Surmacz
Date: Wed, 10 Mar 2004 00:06
35 lines
2332 bytes
Godryk <godric@sf-f.pl> wrote:
: >> Zapisując to perlowym regexpem, dla ciągu dziesięciu słów co najmniej 
: >> 4-literowych  
: >> 
: >> /([a-zA-Z]{4,}\s+){10,}/i
: >
: > Chyba moja odpowiedz zostalaby zakwalifikowana przez Twoj regexp jako spam 
: > mimo ze jest w miare normalna :-)

: Owszem - przedostatnia linia - ale piszesz bez znaków interpunkcyjnych. 
: Jakbyś tam użył przecinków, to już by było po problemie. A powinieneś użyć 
: dwóch.

: [...]
: > Istnienie linijki zawierajacej same wyrazy majace ponad trzy litery wcale 
: > nie jest takie nieprawdopodobne jak Ci sie wydaje.

: I owszem. Ale jak pisałem we wcześniejszej odpowiedzi, jest to kwestia 
: indywidualnego doboru parametrów. U mnie sprawdza się (5,8) - (4,10) jest 
: faktycznie zbyt silne.

No to idźmy dalej :)

Wystapienie linijki zawierajacej wylacznie wyrazy majace ponad cztery znaki
takze jest calkiem prawdopodobne.

:-)

FUT: pl.internet.mordplik

-- 
 _________
(_   _' __) Tomasz R. Surmacz,  PGP key Id: 56A1520D,  tsurmacz@adm.usenet,pl
  |  (__  \ FAQ polskich grup news: http://www.usenet.pl/doc/news-pl-faq.html
  |__(____/ English ver.:  http://www.usenet.pl/doc/news-pl-new-site-faq.html
Re: Śmieci słownikowe - łatwo po nich ciąć!
#37915
Author: Godryk
Date: Wed, 10 Mar 2004 07:42
62 lines
3818 bytes
I nastał wieczór, i stał się zaranek, 
i Michal Kosek odzywa się do nas w te słowa:
> Godryk <godric@sf-f.pl> wrote:
>>>> /([a-zA-Z]{4,}\s+){10,}/i
>>>
>>> Chyba moja odpowiedz zostalaby zakwalifikowana przez Twoj regexp jako spam 
>>> mimo ze jest w miare normalna :-)
>> Owszem - przedostatnia linia - ale piszesz bez znaków interpunkcyjnych. 
>> Jakbyś tam użył przecinków, to już by było po problemie. A powinieneś użyć 
>> dwóch.
> Wydaje mi sie - na ile znam interpunkcje - ze tylko po "spam",
> a ominiecie jednego przecinka kazdemu moze sie zdarzyc. Gdzie jeszcze
> wg Ciebie powinien byc przecinek?

Nie, miałem na myśli przedostatnią linię. 

Jest:
>>> Istnienie linijki zawierajacej same wyrazy majace ponad trzy litery wcale
Powinno być:
>>> Istnienie linijki, zawierajacej same wyrazy majace ponad trzy litery, wcale

Natomiast ta linia, o której piszesz, powinna mieć jeden przecinek, po 'spam'. 

>> [...]
>>> Istnienie linijki zawierajacej same wyrazy majace ponad trzy litery wcale 
>>> nie jest takie nieprawdopodobne jak Ci sie wydaje.
>> 
>> I owszem. Ale jak pisałem we wcześniejszej odpowiedzi, jest to kwestia 
>> indywidualnego doboru parametrów. U mnie sprawdza się (5,8) - (4,10) jest 
>> faktycznie zbyt silne.
>
> Postawione przez Ciebie zadanie napisania sensownej linijki zawierajacej
> wyrazy piecio- i wiecejliterowe jest nieco trudniejsze, acz nie
> niewykonalne ;) Wg mnie to nie jest zbyt dobra metoda na odsiew, chyba

Ależ oczywiście - Tomek Surmacz też się przyłaczył do konkursu. ;-)

> ze potraktujesz to tylko jako jeden z klasyfikatorow, ze stosunkowo
> niewielka waga...

Inaczej. Ja nie twierdzę, ze to ma być jedyny test. Natomiast w przypadku 
kogoś, kto używa do cięcia spamu procmaila, może to być jeen z dość 
skutecznych, a łatwych do przeprowadzenia testów wstępnych.

Przykładowo - ja używam skryptu antywirusowego YAVR (Yet Another antiVirus 
Recipe) v1.9.1 Nikosa Kantariakasa <URL: http://agriroot.aua.gr/~nikant/nkvir/>
Działa pięknie, tylko że waży 50 kilo. Znaczy, jako INCLUDE w moim .procmailrc.
Nie muszę chyba mówić, ile zasobów zżera skanowanie długich wiadomości. 

Więc co mogę, tnę przed includem. I to, co proponuję, jest dobre jako test 
wstępny. Co się załapie, mogę wrzucić do worka "spam" i już. I co najwyżej 
rzucić okiem raz w tygodniu, czy nie złapało jakiejś wiadomości wysłanej 
faktycznie do mnie.

A akurat test zliczający tylko długość ciągów, bez zwracania uwagi na
konkretne literki, będzie mało skomplikowany, szybszy w wykonaniu od
dowolnego filtrowania po słowach kluczowych.

-- 
Godryk / S.M.O.K. prfs-f / godric@sf-f.pl / Tomek Marcinkowski
______________________________________________________________
>>>       [ lepszy dla ciebie byłby świt zimowy ]          <<<
Re: Śmieci słownikowe - łatwo po nich ciąć!
#37920
Author: Godryk
Date: Wed, 10 Mar 2004 07:49
23 lines
1909 bytes
I nastał wieczór, i stał się zaranek, 
i Tomasz R Surmacz odzywa się do nas w te słowa:
> Godryk <godric@sf-f.pl> wrote:
>: > Istnienie linijki zawierajacej same wyrazy majace ponad trzy litery wcale 
>: > nie jest takie nieprawdopodobne jak Ci sie wydaje.
>: I owszem. Ale jak pisałem we wcześniejszej odpowiedzi, jest to kwestia 
>: indywidualnego doboru parametrów. U mnie sprawdza się (5,8) - (4,10) jest 
>: faktycznie zbyt silne.
> No to idźmy dalej :)
> Wystapienie linijki zawierajacej wylacznie wyrazy majace ponad cztery znaki
> takze jest calkiem prawdopodobne.
>:-)

E tam. Moi zmajomi piszą z pliterkami i używają nagminnie przyimków 
i zaimków. ;-)

> FUT: pl.internet.mordplik
SOU #1, niestety.

-- 
Godryk / S.M.O.K. prfs-f / godric@sf-f.pl / Tomek Marcinkowski
______________________________________________________________
>>>           [ spisane będą czyny i rozmowy ]             <<<
Re: Śmieci słownikowe - =?iso-8859-2?QB3at?= wo po nich ci=B1=E6!?=
#37919
Author: Paweł 'Róża' Różański
Date: Wed, 10 Mar 2004 08:22
22 lines
2248 bytes
Godryk <godric@sf-f.pl> wrote in
news:slrnc4rafv.fae.godric@godric.was.here: 

> W zwiazku z tym przyszedł mi do głowy pomysł, ze można takie
> przesyłki natychmiast odsiać, szukając w nich łańcucha złożonego z
> kilku (np. 5-10?) ciągów liter łacińskich, bez diakrytyków czy
> cyfr, nie krótszych niż ileś (3-5?) liter, rozdzielonych wyłącznie
> białymi znakami, bez znaków przestankowych.  

 Dobre, ale na krótką metą. Jeśli stanie się to popularne, to w ciągu 
najbliższych miesięcy możesz spodziewać się zmiany podejścia ze strony 
spamerów (zaczną dodawać krótsze wyrazy). :-/
 Natomiast pl-literki - niezłe (jeśli ktoś może sobie pozwolić na taki 
luksus, ja nie). Proponowałbym dodatkowo cięcie/punktowanie po 
kodowaniu - odpadnie niemal cały spam niepolski.

ps. Gdzie znajdę spis tematów maili z wirusem w załączniku?

-- 
/****    Umysł sprawia, że wszystko się zmienia,     ****\
*****          żeby upozorować upływ czasu.          *****
\****                              P.K.Dick          ****/
Re: Śmieci słownikowe - łatwo po nich ciąć!
#37916
Author: Sergiusz Różański
Date: Wed, 10 Mar 2004 08:27
14 lines
1717 bytes
In article <slrnc4thpr.plr.godric@godric.was.here>, Godryk wrote:
> Więc co mogę, tnę przed includem. I to, co proponuję, jest dobre jako test 
> wstępny. Co się załapie, mogę wrzucić do worka "spam" i już. I co najwyżej 
> rzucić okiem raz w tygodniu, czy nie złapało jakiejś wiadomości wysłanej 
> faktycznie do mnie.

:) albo zglądac tam częściej niż do inboxa czy aby nie ma jakiegoś 
nowego tematu na mordplik ;)

-- 
Sergiusz Różański rozanski.at.sergiusz.dot.com
Pamiętaj, brama przeciwnika jest na dole!
RTG project http://gg.overwap.net
RMXF Postfix project http://rmxf.comm.pl
Re: Śmieci słownikowe - łatwo po nich ciąć!
#37917
Author: Godryk
Date: Wed, 10 Mar 2004 09:54
18 lines
1859 bytes
I nastał wieczór, i stał się zaranek, 
i Sergiusz Różański odzywa się do nas w te słowa:
> In article <slrnc4thpr.plr.godric@godric.was.here>, Godryk wrote:
>> Więc co mogę, tnę przed includem. I to, co proponuję, jest dobre jako test 
>> wstępny. Co się załapie, mogę wrzucić do worka "spam" i już. I co najwyżej 
>> rzucić okiem raz w tygodniu, czy nie złapało jakiejś wiadomości wysłanej 
>> faktycznie do mnie.
>
>:) albo zglądac tam częściej niż do inboxa czy aby nie ma jakiegoś 
> nowego tematu na mordplik ;)

Co ja, masochista, że się mam w śmieciach grzebać? ;-)
Po to filtruję, żeby ich nie widzieć.

-- 
Godryk / S.M.O.K. prfs-f / godric@sf-f.pl / Tomek Marcinkowski
______________________________________________________________
>>>                   Sig, sig, marchewka...               <<<
Re: Śmieci słownikowe - =?iso-8859-2?QB3at?= wo po nich ci=B1=E6!?=
#37921
Author: Godryk
Date: Wed, 10 Mar 2004 09:59
36 lines
2692 bytes
I nastał wieczór, i stał się zaranek, 
i Paweł 'Róża' Różański odzywa się do nas w te słowa:
> Godryk <godric@sf-f.pl> wrote in
> news:slrnc4rafv.fae.godric@godric.was.here: 
>> W zwiazku z tym przyszedł mi do głowy pomysł, ze można takie
>> przesyłki natychmiast odsiać, szukając w nich łańcucha złożonego z
>> kilku (np. 5-10?) ciągów liter łacińskich, bez diakrytyków czy
>> cyfr, nie krótszych niż ileś (3-5?) liter, rozdzielonych wyłącznie
>> białymi znakami, bez znaków przestankowych.  
>  Dobre, ale na krótką metą. Jeśli stanie się to popularne, to w ciągu 
> najbliższych miesięcy możesz spodziewać się zmiany podejścia ze strony 
> spamerów (zaczną dodawać krótsze wyrazy). :-/

To na pewno; Łukasz Kozicki pisał, że u niego idą piękne zdania, a nie 
wyrwane z kontekstu wyrazy, jak u mnie. Ale na jakiś czas wystarczy. 

>  Natomiast pl-literki - niezłe (jeśli ktoś może sobie pozwolić na taki 
> luksus, ja nie). Proponowałbym dodatkowo cięcie/punktowanie po 
> kodowaniu - odpadnie niemal cały spam niepolski.

To już od dawna mam, ale jeszcze nic nie przyszło, więc nie wiem, na ile 
skuteczne... ;-)

> ps. Gdzie znajdę spis tematów maili z wirusem w załączniku?

Zależy których. Paweł Kierski co jakiś czas odpowiada na takie pytania, 
wysyłąjąc dość szczegółowe opisy poszczególnych wirusów. Musiałbyś 
pogrzebać w archiwum. A czy gdzieś ta wiedza jest zbiorczo, według 
tematów, a nie wirusów, to nie wiem...


-- 
Godryk / S.M.O.K. prfs-f / godric@sf-f.pl / Tomek Marcinkowski
______________________________________________________________
>>> [ sur le pont il n'est plus rien qu'une brume légere ] <<<
>>> [     ça s'oublie en silence ceux qui ont espéré     ] <<<
Re: Śmieci słownikowe - łatwo po nich ciąć! - pu
#37922
Author: Pawel Kierski
Date: Thu, 11 Mar 2004 09:11
38 lines
2828 bytes
Godryk <spam-no-spam-godric@sf-f.pl> w wiadomości
news:slrnc4rafv.fae.godric@godric.was.here napisał(a):
[...]
> W zwiazku z tym przyszedł mi do głowy pomysł, ze można takie przesyłki
> natychmiast odsiać, szukając w nich łańcucha złożonego z kilku (np.
> 5-10?) ciągów liter łacińskich, bez diakrytyków czy cyfr,
> nie krótszych niż ileś (3-5?) liter, rozdzielonych wyłącznie białymi
> znakami, bez znaków przestankowych.
>
> Na pewno będzie to prostsze, niż wyszukiwanie słów zdefiniowanych
> jako charakteystyczne dla spamu.
>
> Zapisując to perlowym regexpem, dla ciągu dziesięciu słów co najmniej
> 4-literowych
>
> /([a-zA-Z]{4,}\s+){10,}/i
>
> (Unikam świadomie \w, bo zależy od locale, a tu chodzi konkretnie
> o łacińskie litery.)

  Uwaga na pułapkę w filtrach Exima! Jeśli tego typu warunek zapisze
się w filtrach Exima (uprościłem i między wyrazami może być tylko
spacja):

if $message_body matches "([a-zA-Z]{5,} ){10,}" then ... endif

to może to łapać załączniki kodowane base64 z np. bitmapami.
$message_body to treść listu z końcami linii zamienionymi na
spacje. Jeśli w załączniku base64 pojawi się więcej niż 10
linii z samymi literkami 'A' (kodującymi zera), to filtr
zaskoczy. A taka sytuacja może często mieć miejsce np. przy
bitmapie 24-bitowej z czarnym tłem.

-- 
    Paweł Kierski
    pkierski@mks.com.pl
    dodaj "[nomorespam]" w temacie jeśli piszesz z domeny innej niż .pl,
    albo koniecznie chcesz obejść moje filtry 8-)
Re: Śmieci słownikowe - łatwo po nich ciąć! - pu
#37931
Author: Pawel Kierski
Date: Thu, 11 Mar 2004 09:15
22 lines
2081 bytes
Pawel Kierski <spam-no-spam-pkierski@mks.com.pl> w wiadomości
news:5316-1078996302@213.17.171.18 napisał(a):
[...]
>   Uwaga na pułapkę w filtrach Exima! Jeśli tego typu warunek zapisze
> się w filtrach Exima (uprościłem i między wyrazami może być tylko
> spacja):
>
> if $message_body matches "([a-zA-Z]{5,} ){10,}" then ... endif
>
> to może to łapać załączniki kodowane base64 z np. bitmapami.
[...]

  I rozwiązanie - ograniczyć od góry długość słowa:

if $message_body matches "([a-zA-Z]{5,20} ){10,}" then ... endif


-- 
    Paweł Kierski
    pkierski@mks.com.pl
    dodaj "[nomorespam]" w temacie jeśli piszesz z domeny innej niż .pl,
    albo koniecznie chcesz obejść moje filtry 8-)
Re: Śmieci słownikowe - łatwo po nich ciąć! - pu
#37927
Author: Godryk
Date: Thu, 11 Mar 2004 09:20
22 lines
2047 bytes
I nastał wieczór, i stał się zaranek, 
i Pawel Kierski odzywa się do nas w te słowa:
>   Uwaga na pułapkę w filtrach Exima! Jeśli tego typu warunek zapisze
> się w filtrach Exima (uprościłem i między wyrazami może być tylko
> spacja):
> if $message_body matches "([a-zA-Z]{5,} ){10,}" then ... endif
> to może to łapać załączniki kodowane base64 z np. bitmapami.
> $message_body to treść listu z końcami linii zamienionymi na
> spacje. Jeśli w załączniku base64 pojawi się więcej niż 10
> linii z samymi literkami 'A' (kodującymi zera), to filtr
> zaskoczy. A taka sytuacja może często mieć miejsce np. przy
> bitmapie 24-bitowej z czarnym tłem.

A właśnie, trzeba by ograniczyć do skanowania tylko fragmentów
kodowanych text/*, czy nawet tylko text/plain. Ja o tym nie pomyślałem, 
bo maile z załącznikami odkładam od razu na bok...

-- 
Godryk / S.M.O.K. prfs-f / godric@sf-f.pl / Tomek Marcinkowski
______________________________________________________________
>>>           Zawsze kiedy masz właśnie coś zrobić,        <<<
>>>            musisz najpierw zrobić coś innego.          <<<
Thread Navigation

This is a paginated view of messages in the thread with full content displayed inline.

Messages are displayed in chronological order, with the original post highlighted in green.

Use pagination controls to navigate through all messages in large threads.

Back to All Threads