1 op 3 Belgische bedrijfsleiders: mijn AI-tools hebben waarschijnlijk onethische beslissingen genomen

• Negen op tien (88%) Belgische bedrijfsleiders wil een beleidskader voor ethiek rond artificiële intelligentie
• Meer dan twee op drie (70%) geeft aan dat zij geen bedrijfsbeleid hebben om ethische werking van hun AI-tools te garanderen
• Een op drie (33%) geeft toe dat hun AI-tool in het verleden waarschijnlijk onethische beslissingen heeft genomen

Belgische bedrijven hebben momenteel geen beleid om ethische verantwoordelijkheid van hun AI-tools te garanderen. Dat zegt Avanade, de digitale innovator in het Microsoft-ecosysteem, op basis van een onderzoek rond ethiek en AI bij Belgische bedrijfsleiders. Een op drie Belgische bedrijfsleiders geeft toe dat hun AI-tools in het verleden hoogstwaarschijnlijk onethische beslissingen hebben genomen.

“Als gevolg van het coronavirus staan we voor een versnelde digitale revolutie, waarin AI een belangrijke rol zal spelen. Recente blootleggingen van institutioneel racisme bewijzen des te meer dat bedrijfsleiders ervoor moeten zorgen dat ook technologie niet discrimineert. Omdat regelgeving vaak achterloopt op technologische evolutie, moeten we ons goed bewust zijn van de risico's en prioriteit geven aan digitale ethiek”, aldus Johann Corlemeijer, Country Manager Avanade Belgium.

Grootste zorgen zijn beveiliging, privacy en aansprakelijkheid

Het onderzoek toont aan dat Belgische bedrijfsleiders zich vooral zorgen maken over veiligheidslekken (84%), schending van de privacy (82%) en aansprakelijkheidskwesties (74%).

Volgens Patrick Tack, Data & AI Lead bij Avanade België, is het niet verwonderlijk dat leidinggevenden zich het meest zorgen maken over inbreuken op privacy en beveiliging: "Het is aanmoedigend dat er bezorgdheid is over beveiligings- en privacykwesties. Toch hebben digitale ethische fouten een veel grotere impact op mensen dan inbreuken op beveiliging en privacy. We hebben bijvoorbeeld al gezien dat er sprake is van een systematische discriminatie in de gezondheidszorg, de financiële dienstverlening en rekruteringsprocessen. Iemand die een bepaalde job niet krijgt vanwege zijn of haar etniciteit als gevolg van een foutief algoritme, zou minstens zoveel aandacht moeten krijgen als de kans op privacyschending of identiteitsdiefstal.”

Het onderzoek toont gelukkig aan dat 7 van de 10 respondenten aangeven bezorgd te zijn over de aanwezigheid van maatschappelijke vooroordelen in AI-systemen.

Onzekerheid en tekort aan controle

De ênqueteresultaten tonen aan dat Belgische bedrijfsleiders niet goed op de hoogte zijn van de ethische risico's die verbonden zijn aan AI. Bijna de helft (44%) van de respondenten is zich niet bewust van het risico op systematische bevooroordeeldheid in AI-systemen, en één op de drie (33%) is zich niet bewust van transparantieproblemen. Dit kan bijvoorbeeld gaan om een persoon die zich niet bewust is dat hij of zij eigenlijk met een AI-systeem (chatbot) aan het communiceren is. Bovendien is één op vijf (22%) zich niet bewust van privacyrisico's, zoals AI-systemen die privégegevens verzamelen en gebruiken zonder medeweten of toestemming van de persoon.

Slechts een minderheid geeft toe dat ze actie ondernemen om een ethische werking van hun AI-tools te kunnen garanderen. Meer dan twee op drie (70%) respondenten zegt geen enkel intern beleid te hebben. Bijgevolg geeft een derde (33%) van de respondenten die AI gebruiken toe dat er een grote kans is dat hun tools een onethische beslissing hebben genomen sinds hun implementatie. Daarbovenop gelooft meer dan de helft (52%) van leidinggevenden in België dat ze zelf onetisch behandeld zullen worden door AI in de toekomst.

"Deze cijfers tonen de onzekerheid die heerst onder onze bedrijfsleiders. Er is een schijnbaar tekort aan toezicht en controle," stelt Patrick Tack, "Artificiële intelligentie is een fantastische technologie die tal van industrieën vooruit zal stuwen. Het is echter cruciaal dat bedrijfsleiders en hun organisatie geïnformeerd worden over het ethisch gebruik en implementeren van AI. De verantwoordelijkheid ligt bij de ontwikkelaar, niet bij de eindgebruiker."

Nood aan regulering

Vier op vijf Belgische (79%) bedrijfsleiders noemt het ethisch gebruik van artificiële intelligentie een prioriteit voor hun bedrijf in de komende drie jaren. De enquête wees op een sterke consensus: negen van de tien (88%) stellen dat het ethische aspect van artificiële intelligentie gereguleerd moet worden.

Johann Corlemeijer, Country Manager van Avanade België, besluit: "Bij een wereldwijde crisis is het belang van transparantie en vertrouwen cruciaal. Nu meer en meer Belgische organisaties AI-technologie gebruiken, is er een groeiende behoefte aan een wettelijk kader om ervoor te zorgen dat we de voordelen van AI ten volle kunnen benutten en tegelijkertijd de belangrijkste ethische kwesties aanpakken. Artificiële intelligentie moet betrouwbaar zijn, ethisch en maatschappelijk verantwoord en met respect voor onze individuele rechten.”