Wat is trustworthy AI?
Trustworthy AI betekent dat je weet waar je gegevens naartoe gaan, hoe beslissingen worden genomen en dat er geen verborgen agenda achter de code zit. Het gaat om het creëren van technologie die privacy respecteert en duidelijke ethische richtlijnen volgt.
Een van de belangrijkste benaderingen om dit te bereiken is mensgerichte AI (Human-Centered AI, HCAI).). HCAI benadrukt dat AI-systemen gebouwd moeten worden met menselijke doelen, menselijke waarden en menselijke behoeften in gedachten.
De richtlijnen voor betrouwbare AI versterken deze mensgerichte benadering door drie overkoepelende pijlers te schetsen naast zeven belangrijke vereisten die deze principes operationeel maken. Elk van deze vereisten is verbonden met de principes van HCAI.
Waar trustworthy AI de overkoepelende visie biedt, vertaalt responsible AI dit naar concrete processen. Voorbeelden hiervan zijn auditeerbaarheid, traceerbaarheid en controleerbaarheid.
De 3 pijlers van trustworthy AI
Volgens de Europese Unie staat trustworthy AI op drie pijlers: rechtmatigheid, ethiek en robuustheid. Deze pijlers werken samen om vertrouwen in AI-systemen op te bouwen.
- Wettig: Betrouwbare AI moet alle toepasselijke wet- en regelgeving respecteren.
- Ethisch: Het moet in overeenstemming zijn met ethische principes en waarden en eerlijkheid, respect en menselijke waardigheid garanderen.
- Robuust: Het moet technisch betrouwbaar presteren en tegelijkertijd rekening houden met de sociale omgeving.
Als ontwikkelaars zich op deze gebieden richten, creëren ze tools die mensen prettig vinden om te gebruiken. Trustworthy AI gaat niet alleen over mooie algoritmes; het gaat erom dat technologie ons vertrouwen verdient en behoudt bij elke stap die we zetten.
De belangrijkste factoren om trustworthy AI te bepalen
Nu we weten wat betrouwbare AI is, rijst de volgende vraag. Wat precies maakt AI trustworthy?
Er zijn verschillende sleutelfactoren die samen zorgen voor een gevoel van vertrouwen in kunstmatige intelligentie. Laten we eens kijken naar 7 belangrijke vereisten om AI betrouwbaar te maken.
1. Menselijk agentschap en toezicht
AI moet menselijke besluitvorming versterken, niet vervangen. Mensen moeten de controle houden, met systemen die zijn ontworpen om mensenrechten en democratische waarden te respecteren. Toezicht kan verschillende vormen aannemen:
- Human-in-command: mensen bepalen de algemene richting en doelen en houden AI afgestemd op de maatschappelijke behoeften.
- Human-in-the-loop: een persoon houdt direct toezicht op AI-beslissingen en kan deze overrulen (bijv. in hulpmiddelen ter ondersteuning van medische diagnoses).
- Human-on-the-loop: mensen houden de resultaten in de gaten en kunnen ingrijpen als dat nodig is (bijvoorbeeld de automatische piloot in de luchtvaart).
2. Technische robuustheid en veiligheid
Daarna komen technische robuustheid en veiligheid. Betrouwbare AI moet veilig, veerkrachtig en betrouwbaar zijn, zelfs onder onverwachte omstandigheden.
Dit betekent dat systemen getest moeten worden op zwakke punten, terugvalmechanismen moeten bevatten en consistent moeten blijven presteren om onbedoelde schade te voorkomen. Een zelfrijdende auto moet bijvoorbeeld ontworpen zijn om de controle terug te geven aan de bestuurder als de sensoren falen, waardoor het risico op ongelukken wordt verkleind.
3. Privacy en gegevensbeheer
Net zo belangrijk is privacy en data governance. AI-systemen moeten privacyrechten respecteren en volledig voldoen aan de regelgeving voor gegevensbescherming. Daarnaast zijn de kwaliteit en integriteit van de gegevens die ze gebruiken cruciaal, omdat bevooroordeelde gegevens of gegevens van lage kwaliteit kunnen leiden tot onjuiste resultaten.
Sterke AI governance gaat om wettige en ethische gegevensverzameling en beperkte toegang tot gevoelige informatie. Een duidelijk voorbeeld hiervan is AI in de gezondheidszorg, waar patiëntendossiers moeten worden geanonimiseerd voordat ze worden gebruikt om diagnostische modellen te trainen.
4. Transparantie
Een andere vereiste is transparantie. AI moet niet functioneren als een "zwarte doos" die mensen laat gissen naar hoe beslissingen worden genomen. In plaats daarvan moet het duidelijkheid verschaffen over de gegevensbronnen, systeemlogica en bedrijfsmodellen.
Beslissingen moeten worden uitgelegd op een manier die logisch is voor het publiek, wat een arts moet weten zal verschillen van wat een patiënt moet weten. Mensen moeten zich ook bewust zijn van de interactie met een AI-systeem en de mogelijkheden en beperkingen ervan begrijpen.
Denk aan een kredietgoedkeuring AI: als deze iemand krediet weigert, moet hij de reden daarvoor duidelijk uitleggen. Dit kan zijn het vaststellen van onvoldoende inkomen of een hoge schuldratio.
5. Diversiteit, non-discriminatie en eerlijkheid
Diversiteit, non-discriminatie en eerlijkheid staan ook centraal. AI moet voorkomen dat vooroordelen worden gecreëerd of versterkt die kunnen leiden tot discriminatie of marginalisatie van kwetsbare groepen.
Inclusiviteit betekent actief controleren op vooroordelen in datasets, het ontwerpen van systemen die toegankelijk zijn voor mensen met een beperking en het betrekken van diverse perspectieven bij het ontwikkelingsproces.
Een gezichtsherkenningssysteem moet bijvoorbeeld getest worden op verschillende geslachten, leeftijden en etniciteiten. Op deze manier kan het ervoor zorgen dat het eerlijk presteert bij verschillende groepen.
6. Maatschappelijk en ecologisch welzijn
De zesde eis is gericht op het welzijn van de samenleving en het milieu. AI moet worden ontwikkeld en ingezet om de samenleving als geheel ten goede te komen en duurzaamheid voor toekomstige generaties te bevorderen.
Dit betekent dat je de de milieugevolgen van AI, zoals de energiebehoefte van grote modellen, maar ook de sociale gevolgen op de lange termijn voor banen, onderwijs en gelijkheid.
Een positief voorbeeld is te vinden in AI-gestuurde smart grids, die de energiedistributie optimaliseren en de uitstoot verminderen. Dit draagt bij aan een duurzamer milieu.
7. Verantwoording
Tot slot is verantwoording cruciaal. Er moeten duidelijke regels zijn over wie verantwoordelijk is voor AI-systemen en hun resultaten. Mechanismen voor het controleren van algoritmen, gegevens en ontwerpprocessen zijn nodig, vooral in contexten waar veel op het spel staat.
Net zo belangrijk is dat mensen toegankelijke manieren nodig hebben om verhaal te halen als ze schade ondervinden van een beslissing van een AI. In het geval van een ongeluk met een autonoom voertuig bijvoorbeeld, moeten verantwoordingskaders duidelijk maken waar de verantwoordelijkheid ligt.
Hoe beïnvloedt trustworthy AI het vertrouwen van gebruikers?
Als mensen met technologie omgaan, willen ze zich veilig voelen. Trustworthy AI is de sleutel tot het opbouwen van dat gevoel van veiligheid. Als gebruikers geloven dat een AI-systeem betrouwbaar en eerlijk is, groeit hun vertrouwen.
Maar als er ook maar een klein beetje twijfel is, sluipt er aarzeling in. De invloed van betrouwbare AI op het vertrouwen van gebruikers is subtiel maar krachtig. Het bepaalt hoe mensen nieuwe tools gebruiken, hoeveel ze delen en of ze terugkomen voor meer. Laten we eens onderzoeken hoe dit zich in het echte leven afspeelt.
Duidelijke communicatie schept vertrouwen
Stel je voor dat je een app opent en precies te horen krijgt wat hij met je gegevens doet. Geen jargon, geen verborgen kleine lettertjes. Gewoon duidelijke, eerlijke taal. Dat is de eerste stap naar betrouwbare AI.
Als bedrijven uitleggen hoe hun AI werkt, voelen gebruikers zich gerespecteerd. Ze weten wat ze kunnen verwachten. Deze transparantie neemt het mysterie weg dat kunstmatige intelligentie vaak omringt. Mensen zijn eerder geneigd om nieuwe functies uit te proberen of informatie te delen als ze het proces begrijpen.
Consistentie creëert betrouwbaarheid
Denk eens aan de laatste keer dat je een dienst gebruikte waarvan de regels van de ene op de andere dag veranderden. Verwarrend, toch? Consistentie is cruciaal voor betrouwbare AI. Gebruikers willen weten of het systeem zich elke keer op dezelfde manier zal gedragen.
Als een AI-tool verschillende antwoorden geeft op dezelfde vraag, brokkelt het vertrouwen snel af. Betrouwbare AI-systemen blijven bij hun principes. Ze verrassen gebruikers niet met plotselinge verschuivingen of onverklaarbare beslissingen.
Na verloop van tijd wordt deze voorspelbaarheid een basis voor gebruikersvertrouwen. Mensen beginnen op de technologie te vertrouwen, niet alleen omdat het werkt, maar omdat het altijd op dezelfde manier werkt.
Eerlijkheid en vooringenomenheid zijn belangrijk
Niemand wil zich buitengesloten of oneerlijk behandeld voelen. Trustworthy AI let goed op eerlijkheid. Het controleert op vooroordelen en probeert iedereen erbij te betrekken. Als gebruikers zien dat een AI-systeem alle mensen gelijk behandelt, stijgt hun vertrouwen.
Ze zijn meer bereid om zich in te zetten, omdat ze weten dat ze niet veroordeeld of over het hoofd gezien zullen worden. Eerlijkheid is niet alleen een technische uitdaging, maar ook een menselijke. Ontwikkelaars moeten hun algoritmen voortdurend testen en verbeteren om ervoor te zorgen dat iedereen een eerlijke kans krijgt.
Als gebruikers deze inspanningen opmerken, voelen ze zich gewaardeerd. Betrouwbare AI praat niet alleen over eerlijkheid; het bewijst het door actie. En dat bewijs is wat voorzichtige gebruikers verandert in loyale fans.
