🚀 go-pugleaf

W dniu 25.10.2025 o 12:11, alojzy nieborak pisze:

>> https://www.rmf24.pl/fakty/swiat/news-ai-pomylila-paczke-czipsow-z- 
>> bronia-nastolatek-na-ziemi-w-ka,nId,8034531
>>>   24 października (17:44)
>>> Szesnastolatek z Baltimore (USA) został zakuty w kajdanki przez
>>> policję po tym, jak system sztucznej inteligencji błędnie rozpoznał
>>> paczkę chipsów jako broń. […]
>>> Do zdarzenia doszło w Baltimore, gdzie 16-letni […] został
>>> zatrzymany przez uzbrojonych funkcjonariuszy po tym, jak system AI
>>> wykrył u niego rzekomą broń. W rzeczywistości nastolatek trzymał w
>>> ręku paczkę chipsów Doritos. "Policja przyjechała, osiem radiowozów,
>>> wszyscy wysiedli z bronią i kazali mi położyć się na ziemi" -
>>> relacjonował Allen lokalnym mediom, na które powołuje się BBC. […]
> Toć pisałem że USA krytykują kitaja za jego Ejaja tyko dlatego że sami 
> są pd tym względem w tyle. Tu mamy tylko przykład.

Każda IA popełnia błędy. Ludzie też. Wydaje mi się, że po to pojechali 
tam policjanci, by na miejscu zweryfikować, czy gość ma broń, czy 
chipsy. Czy trzeba było do tego "rzucać" gościem o ziemię, to już mi 
trudno na podstawie tego materiału powiedzieć. Ja bym wysłał 
nieumundurowanego policjanta, by podszedł blisko i ocenił sytuację.

W tym wypadku uczeń miał chipsy. Co by się stało, gdyby miał broń i 
widząc nadjeżdżające z hukiem radiowozy zastrzelił kilka stojących obok 
przypadkowych osób? Radiowozy chwile jechać musiały. Skoro system 
rozpoznał u niego broń, a nie było słychać strzałów, jak również trup 
się wokół nie ścielił, to nie jestem przekonany, czy to był najlepszy 
pomysł.

Uważam, że w tym jest większy problem, niż w błędzie AI. Te algorytmy 
mają na celu zwrócenie uwagi obsługi monitoringu na określone osoby, 
rzeczy, a nie automatyzację pewnych procesów. Tam w tekście jest 
stanowisko producenta tego systemu: "Firma Omnilert, dostawca systemu 
AI, wyraziła ubolewanie z powodu incydentu, ale podkreśliła, że system 
"działał zgodnie z założeniami", a decyzje o interwencji podejmowali 
ludzie. "Wykrywanie broni w rzeczywistych warunkach jest trudne" - 
zaznacza firma." Tylko nie napisano, jak to konkretnie w tym wypadku działa.

Moim zdaniem powinno działać tak, że system zwraca uwagę operatora 
monitoringu. W polskim systemie, którym się bawiłem obejmuje "broń" w 
taki zielonkawy prostokąt i operator sam może ocenić. Ten ocenia na 
podstawie tego, co widzi i wzywa / lub nie  Policję. Jeśli z 
oszczędności pominięto operatora i ktoś spiął AI z Policja "na krótko", 
a w dodatku w komunikacie dla Policji nie było, że to AI widzi broń, to 
mamy, co mamy.

Na gruncie naszym mamy systemy wzywające pomocy w samochodach i 
komórkach. Też to tak sobie w praktyce działa, ale coraz lepiej.
-- 
(~) Robert Tomasik