🚀 go-pugleaf

2020-11-13 o 20:35 -0800, M.M. napisał:
> > AI są fajne, ostatnio trochę się tym bawiłem. Nie podoba mi się
> > jednak to, że kiedy raz zdarzy się że sieć neuronowa nie zachowa
> > się tak, jak powinna (czy jak człowiek tego oczekuje) - to nie
> > wiadomo ani dlaczego, ani jak to naprawić.   
> 
> Nie wiem co masz na myśli....

Przykład: wytrenowałem sieć która ma robić "coś". Sprzedałem produkt
przemysłowemu klientowi. Działa. Do momentu, kiedy sieć wysypała
klientowi produkcję. Fakt, że sieć zawiodła, to jeden problem -
powiedzmy, mniejszy. Poważniejszy problem to wytłumaczyć klientowi
dlaczego, oraz sprawić że więcej nie będzie.

> Jeśli sieć da złą odpowiedź i ktoś monitoruje system, to mamy
> dodatkowy przykład który może dorzucić do danych uczących.

Jeden przykład chyba nie wpłynie na działanie sieci - tych przykładów
musi być raczej dużo więcej... i uważać, aby nie "przetrenować" AI.

AI to niewątpliwie ciekawy temat, ale zdecydowanie nie panaceum na
wszystko. Jeśli potrzebny determinizm i możliwość zrozumienia dlaczego
robot reaguje w ten a nie inny sposób - to AI odpada.

Mateusz