• No results found

3.5 Utvärdering

5.1.1 Detektion

Manuell detektion och detektion med neuralt nätverk visade sig ge liknande recall kring 75%. Alltså hittar de ungefär lika många granar. Manuell detektion hade en precision på 88.7%, vilket var bättre än nätverkets 70.4%, som alltså gör fler felaktiga detektioner. Manuell detektion går visserligen snabbare än detektion med neuralt nätverk, men att låta nätverket detektera kan frigöra mänsklig arbetstid. Den manuella detektionen går antagligen inte att snabba upp, medan detektionen med neuralt nätverk kan snabbas upp med bättre hårdvara, detektion på GPU:n och en flertrådad implementering. Precision, recall och körningstid för manuell detektion varierar dessutom beroende på vem som detekterar. Nätverket kommer att prestera liknande vid varje körning, så länge bilderna det detekterar på inte skiljer sig för mycket från bilderna det tränats på. För att förbättra eller förändra nätverket krävs att nätverket tränas om, eller vidaretränas. Detta är en ganska tidskrävande process men så länge det inte behövs nya annoteringar krävs det inte mycket arbetstid för en person att starta en träningsprocess.

Hur nätverket presterade, beror förmodligen en del på kvaliteten på träningsbilderna. I varje pixel finns bara information från en våglängd, och ibland förekommer rörelseoskärpa. Även om granar har förhållandevis lika storlek och textur förekommer de i många olika former. Intensiteten för granarna varierar dessutom beroende på var i bilden de befinner sig. Eftersom granarna har så pass olika features kan det vara så att mängden träningsdata inte är tillräcklig för att träna nätverket till att känna igen alla olika varianter på gran som

5.1. Resultat förekommer i datasetet. Det kan även vara så att annoteringarna i träningsdatan inte är tillräckligt bra gjorda, vilket påverkar modellens recall och precision.

Ovan beskrivna bild- och granegenskaper bidrar förmodligen även till att varken detektion med segmentering eller SVM fungerade speciellt bra. Vad gäller segmenteringen så var granarna inte tillräckligt unika för att kunna detekteras med enbart den segmentering och filtrering som testades. Det fanns alltid vegetation med liknande intensitet och storlek som detekterades som gran och det gick inte att anpassa parametervärden så att dessa objekt filtrerades bort, utan att granar också filtrerades bort. Hur väl detektion med segmentering fungerar beror nog mycket på vilken typ av objekt som ska detekteras och hur bakgrund och omgivning ser ut i bilden. Baserat på [19] och [26] hade granar förmodligen varit lättare att segmentera om bakgrunden mest hade bestått av jord och smått ogräs. Bilderna i detta arbete innehöll för mycket övriga objekt vars egenskaper påminde för mycket om granars. Detta kan också vara en av orsakerna till varför detektion med SVM fungerade så dåligt. Det kan även vara så att information från features går förlorad när de vektoriseras till BOVW- format. Det är troligt att detektionen med SVM går att förbättra, men inget större vidarearbete gjordes i detta projekt, då de neurala nätverken under tiden visade sig prestera mycket bättre. Att annoteringarna gjordes manuellt i projektet, av projektdeltagarna, innebar att det aldrig fanns en helt korrekt ground truth att träna och utvärdera detektionsmodellerna mot. Det gick heller aldrig att veta exakt hur många granar som fanns i datasetet. Med en bristande ground truth går det inte att säkerställa att jämförelsen mellan metoderna är rättvis. Till exempel kan en modell som bara hittar alla annoterade granar bedömas bättre än en modell som hittar alla granar, eftersom den kommer ha samma recall men bättre precision. Eftersom antalet icke-annoterade granar är okänt är det svårt att veta hur stor effekt de har på resul- tatet. För att få bättre uppfattning om hur de icke-annoterade granarna påverkar resultatet, skulle alla FP kunna studeras manuellt för att se hur många av dessa som är granar. För att göra en så rättvis bedömning som möjligt utvärderades alla modeller mot samma ground truth, så att den var lika felaktig vid alla utvärderingar. Detta kan dock ha gett missvisande resultat ifall någon modell hittade många icke-annoterade granar men inte så många an- noterade. För jämförelsen mellan den nya och den tidigare implementationen undersöktes alla detektioner manuellt, och därav påverkades inte denna bedömning lika mycket av fel ground truth.

Många FP från nätverket är växter eller pinnar. Vissa av dem verkar ha blivit klassificerade som granar på grund av deras form. Det förekommer flera FP vars form liknar en granplantas topp som ofta är formad som ett kryss. Vissa växter med blad som liknar barr eller grenar har också felaktigt klassificerats som en gran. I vissa fall har en detekterad gran räknats som en FP då rutan skiljt sig för mycket från annoteringen. Detta betyder inte nödvändigtvis att detektionen är oanvändbar. I vissa fall blir en detekterad gran räknad som en FP för att granen aldrig har annoterats.

Några av dessa FP som inte är granar skulle kunna gå att filtrera bort baserat på deras spektrala signatur. Detta är inget som testats i detta projekt, men påvisats fungera i tidigare studier, som beskrivs i kapitel 2. Glanas tidigare arbete har också påvisat detta. Resultaten från deras arbete [9] tyder på att denna metod borde vara effektiv på pinnar, vars spektrala signatur skiljer sig mycket från granars. Filtrering baserad på spektral signatur borde kunna göras på andra växter också, men det kan vara svårt att skilja vissa växter från varandra eftersom olika växter kan ha liknande spektral signatur. Risken finns även att sjuka granar skulle kunna filtreras bort, om deras spektrala signatur skiljer sig för mycket från en frisk grans signatur.

5.1. Resultat Vad gäller FN är det vissa granar som inte detekterats för att de befunnit sig i kanten av bilden, vilket kan bero på att nätverket inte har tränats på så många sådana granar. Det är svårt att veta varför andra sorters granar inte har detekterats. Nätverket har visats kunna detektera granar av varierande karaktär, och det är framkommer inte så tydligt vilken sorts features som gör att vissa träd inte blev detekterade.

5.1.2

Följning

Som visat i 4.2 så förbättrar följningen med korrigering detektionen, och därmed den spektrala signaturen. När endast homografier används för följning av objekt, försvinner många granar mer eller mindre från detektionsrutan, och därmed samplas fel intensitetsvär- den till deras spektrala signaturer. En nackdel med metoden för korrigering är att den baseras på segmentering. Eftersom den baseras på segmentering av granen, kan korrigeringen inte göras på rutor där granar har för låg intensitet, alltså i våglängdsband där granar inte reflek- terar så mycket ljus. När intensitetsvärden samplas från lager i dessa band antas granarna vara centrerade i detektionsrutorna, vilket inte alltid stämmer. Det finns också vissa fall där korrigeringen av rutorna förvärrar detektionsrutans placering. Ett exempel är ifall det finns en annan växt i rutan som är större än granen. Då riskerar den att segmenteras ut och följas, istället för granen, i resten av bilderna. När granarna är till vänster (i slutet) av bilden rör de mycket på sig, vilket gissningsvis beror på vind från drönaren som tagit bilderna. Eftersom granarna inte syns i det området går det inte heller att korrigera rutan med segmentering där, vilket resulterar i felaktig sampling.

För att förbättra följningen skulle ett alternativ kunna vara att använda höjddata. Den data som togs fram av Glana i mitten av detta projekt var bara för en del av datasetet och därav gjordes bara enklare experiment för följning med höjddata. Det verkar som att höjddata skulle gå att använda för att följa granarna mer noggrant, speciellt i de band där granarna syns dåligt. Att ta fram höjddatan är dock något som tar både tid och minne vilket var något detta projekt skulle effektivisera bort. Det skulle antagligen ta längre tid att korrelera detekterade granar med höjddatan och räkna ut deras nya position, än vad det tar att segmentera granen med nuvarande följningsmetod.

5.1.3

Jämförelse mellan tidigare och ny implementation

Resultaten i 4.4 visar att den nya implementationen är mer effektiv än den gamla, både i minnesanvändning och körningstid. Maximalt minne som krävs för att köra Glanas imple- mentation är svårt att mäta ordentligt, eftersom det beror på hur stora delar av ett stråk den hyperspektrala rekonstruktionen görs på i taget. Det går dock ändå att se att den nya im- plementationen kräver mindre maximalt minne och att datakuberna som skapas är mindre. Körningstiderna visade tydligt att den nya implementationen är snabbare än Glanas. Den nya implementationen med manuell detektion är snabbast, och dess totala körningstid tar ungefär lika lång tid som enbart detektionen i Glanas implementation gör. Så oavsett om manuell eller automatisk detektion beslutas att användas, är den nya implementationen ett mer tids- och minneseffektiv alternativ jämfört med den gamla.

Det är ingen större skillnad på hur många granar de olika implementationerna hittar. Alla hittar runt 35 av 44 stycken granar. Däremot har implementationen som använder sig av ett neuralt nätverk fler FP vilket ger den sämre precision. Övervägningen som behöver göras är ifall det ska läggas mänskliga arbetstimmar på manuell detektion, eller låta en dator göra jobbet och då få fler FP. Några av dessa skulle förmodligen kunna tas bort med den spektrala signaturen. Ett alternativ är att manuellt gå igenom datakuberna från nätverket och ta bort de

5.2. Metod

Related documents