Wat zit er in de black box?

Domme vragen bestaan niet, zegt men, en dat geldt zeker voor de vraag hoe artificiële intelligentie nu eigenlijk werkt. Want als het over neurale netwerken gaat, dan wordt het al snel onmogelijk – ook voor de specialisten – om uit te leggen wat die dingen precies doen. Voor industriële toepassingen is dat een probleem want men is er gewoon van te vertrouwen op voorspelbare, deterministische systemen.

Aanleiding voor dit artikel is een interview gepubliceerd door de Association for Advancing Automation waar de vraag gesteld wordt of het een probleem is voor de industrie dat een neuraal netwerk zich naar de buitenwereld toont als een black box waarvan vaak niet achterhaald kan worden wat die precies doet. Hoe kan men er dan op vertrouwen dat systemen op basis van Artificiële intelligentie correct functioneren?

In een studie van Capgemini uit 2019 wordt gesteld dat meer dan de helft van de grote industriële bedrijven in Europa in hun productieprocessen al ergens gebruikmaken van artificiële intelligentie. Dat vergt uiteraard wat nuancering als we het over neurale netwerken willen hebben want AI is een rekbaar begrip dat veel breder gebruikt wordt dan de pure deep learning applicaties.

Toch duiken steeds vaker verhalen op van industriële toepassingen waar wel degelijk beslissingen genomen worden op basis van neurale netwerken. In het eerder aangehaalde interview komt Elementary aan bod – een bedrijf dat visietoepassingen op basis van deep learning ontwikkelt voor de industrie. Die visietoepassingen worden typisch gebruikt in kwaliteitscontrole. Een voorbeeld van zo een applicatie is de detectie van vreemde objecten in een transportband met bulkgoederen.

Deterministisch algoritme

Visietoepassingen op basis van deep learning hebben een fundamenteel verschillende werking van klassieke visiesystemen. In een klassieke toepassing wordt een deterministisch algoritme gebruikt om conclusies te trekken over wat de camera ziet. Het meest eenvoudige voorbeeld is het tellen van pixels van een bepaalde kleur in een beeld, wat een efficiënte methode kan zijn om bijvoorbeeld na te gaan of elk product op een transportband een label gekregen heeft. Ook het controleren of elke pot een deksel gekregen heeft is perfect mogelijk door op de hoogte waar het deksel zou moet zitten de pixels met de kleur van het deksel te tellen.

Het punt van een deterministisch algoritme is dat men perfect weet wat het wel en niet doet. Als een fout product toch goedgekeurd wordt, bijvoorbeeld, kan men het beeld weer opvragen en manueel nagaan wat de fout veroorzaakt heeft.

Lineaire regressies

Bij deep learning is dat niet langer het geval. Deep learning is synoniem voor het werken met een neuraal netwerk, wat in feite een immense combinatie is van lineaire regressies. De inputsignalen worden in een netwerk doorgegeven van laag naar laag waarbij meerdere nodes in een laag telkens een gewogen gewicht maken van de outputs van nodes uit de vorige laag. Dat gewogen gewicht gebeurt op basis van parameters die het netwerk zelf bepaald heeft tijdens de leerfase. In die leerfase gebruikt men immers een set van inputs waarvan geweten is wat de output moet zijn en laat men het neuraal netwerk zoeken naar de parameters die telkens het gevraagde resultaat opleveren.

Op zich is zo een systeem ook deterministisch want eens de parameters bepaald zijn, kan men die opslaan, bijvoorbeeld om ze over te zetten van het lab naar de productie. Een bepaalde set van inputs zal in principe ook steeds dezelfde output opleveren. Maar het punt is dat de logica tussen inputs en outputs niet langer gekend is. Met andere woorden, gebruikers weten niet langer hoe en waarom een systeem tot een bepaalde conclusie komt. Er kan in principe ook niet voorspeld worden welke output het systeem bij een bepaalde set van inputs zal geven.

Systematische fouten

Voor heel wat toepassingen hoeft dat niet per sé een probleem te zijn. In kwaliteitscontrole, bijvoorbeeld, is het gebruikelijk om met statistische performanties te werken. Eens een neuraal netwerk getraind is met een gelabelde dataset (een reeks inputs waarvan de outputs die men wil bekomen gekend is) kan men een tweede set gebruiken om na te rekenen hoe betrouwbaar het systeem is door te tellen hoeveel valse positieven en/of valse negatieven het systeem oplevert.

Anderzijds is er wel een probleem indien een systeem voor kwaliteitscontrole bepaalde defecten systematisch niet zou opmerken, zonder dat de gebruikers van het systeem zich daarvan bewust zijn.

Er wordt intussen wel volop gewerkt aan methodes om meer inzicht te krijgen in de logica die het neuraal netwerk toepast. Een van de tools in dat verband is “back propagation” wat er op neerkomt dat het netwerk in de omgekeerde richting doorgerekend wordt om na te gaan welke reeks van inputs een bepaalde output oplevert. Dat geeft uiteraard inzicht in de logica die het netwerk toepast. Bij visiesystemen kan men zo min of meer in kaart brengen welk soort beelden een bepaalde output oplevert.

Een tweede methode bestaat erin van de output van het netwerk gedetailleerder te maken. Als we opnieuw naar kwaliteitscontrole op basis van een visiesysteem kijken, is het bijvoorbeeld mogelijk om het netwerk niet alleen ja of nee te laten zeggen, maar het systeem ook te laten aanduiden waar het denkt dat er een fout zit. Op die manier krijgen gebruikers meer inzicht in wat het systeem wel of niet ziet.

Convolutionele netwerken

Een derde methode die specifiek in visiesystemen toegepast wordt, is het gebruik van convolutionele netwerken, wat eigenlijk een mix is van de klassieke benadering van visiesystemen met de deep learning benadering. Convolutionele netwerken houden immers in dat in de eerste lagen van het netwerk een of meerdere filters toegepast worden – een methode die ook in de klassieke benadering van visiesystemen toegepast wordt om te zoeken naar bepaalde elementen in een beeld. Door dat in de eerste lagen van een AI-systeem te doen, wordt bekomen dat gebruikers meer vat krijgen op waar het neuraal net op zal focussen. Dat maakt de toepassing doorgaans performanter en brengt ook met zich mee dat het systeem zich minder als een black box gedraagt.

In de toekomst komen er allicht nog meer methodes om duidelijkheid te krijgen over wat er in de black box zit en wat die doet. Ook initiatieven rond normering wijzen op de noodzaak om meer inzicht te krijgen in de mogelijkheden en beperkingen van neurale netwerken in specifieke toepassingen.

© Productivity.be, 16/03/2022