Vandaag organiseert de Willem de Kooning Academie de Dag van Praktijkgericht Onderzoek met als thema Responsible Applied AI. Artificial Intelligence (AI) is een belangrijk speerpunt van Hogeschool Rotterdam en door middel van onderzoek, onderwijs en ondersteuning houden diverse professionals zich bezig met dit onderwerp. De kansen liggen, zeker voor het onderwijs, voor het oprapen. Tien van deze professionals is vrouw, en dat is bijzonder te noemen in een vakgebied waarin voornamelijk mannen werkzaam zijn. Lectoren Lotte Willemsen en Maaike Harbers zijn twee van deze tien vrouwelijke professionals en zij kijken kritisch en vanuit verschillende perspectieven naar AI. Welke ethische dillema's kleven er aan het gebruik van kunstmatige intelligentie? En hoe zit het diversiteit en inclusiviteit?
Kunstmatige intelligentie of ‘artifcial intelligence’ is overal. Je kunt geen krant openslaan of je leest er wel iets over. Maar wat betekent het nu precies? Dat is – net als ‘gewone’ intelligentie – vrij lastig te definiëren. De vakliteratuur beschrijft kunstmatige intelligentie als niet één technologie maar een rijk palet aan technologieën die samen tot een vorm van intelligentie leiden. Nog simpeler gezegd: artificial intelligence of kortweg AI is ‘het vermogen van computers om taken uit te voeren waarvoor mensen hun intelligentie inzetten’ (Openresearch.amsterdam 2021).
Dat klinkt ontzettend ingewikkeld en technisch. Toch lijkt het voor veel mensen zonder technische achtergrond – zich hoogstwaarschijnlijk niet bewust van de gelaagdheid onder de motorkap - de normaalste zaak van de wereld. Hoe zit dat?
Willemsen: “Voor AI heb je twee hoofdingrediënten nodig, namelijk algoritmen en data. Een algoritme is een handeling met een set aan instructies die tot een bepaald resultaat leidt. Om zo'n algoritme in leven te houden, heb je voeding in de vorm van data nodig. Een ‘simpel’ voorbeeld is Spotify. Vandaag luister je naar het nieuwste album van Florence + The Machine. Gisteren luisterde je via diezelfde dienst naar een oudere plaat van the XX. Met die data gaat Spotify vervolgens aan slag en komt met een algoritme dat jouw luistergedrag voorspelt en op basis daarvan aanbevelingen doet [red; ‘Gebaseerd op je recente luistergedrag'].”
Het gebruik van kunstmatige intelligentie, dat klinkt haast als een no-brainer: de toepassingen zijn eindeloos en veelbelovend. Van het analyseren, oplossen en voorspellen van complexe problemen zonder menselijke tussenkomst (de jaarcijfers en forecast van een bedrijf) tot het aangaan van interactie met de omgeving (een app die door middel van ‘augmented reality’ toont hoe een bepaalde kleur verf op je muur uitkomt). Te mooi om waar te zijn?
Ook voor het onderwijs bestaan talloze mooie toepassingen die docent en student ondersteunen, zoals adaptieve leermaterialen voor rekenen of programma's die gepersonaliseerd leren en toetsen ondersteunen. Te gek natuurlijk. Toch moeten we ons bij iedere stap bewust zijn van mogelijke ethische implicaties. Hoe zit het met de veiligheid van leerlingen? En wat gebeurt er met hun gegevens?
Harbers: “We kennen allemaal de rel rondom Cambridge Analytica [red; Britse consultancy firma]. Hoewel deze situatie leidde tot een golf van verontwaardiging, is het helaas nog steeds het geval dat AI dagelijks leidt tot grootschalig misbruik van gegevens en privacyschending. Bewust en verantwoordelijk gebruik van techniek en de wil om constant te leren staan hoog op de agenda binnen Hogeschool Rotterdam. "Zo creëren we nu samen met de Hogeschool van Amsterdam en Utrecht een infrastructuur en hybride leeromgevingen om onderzoek te doen naar verantwoorde AI."
Hogeschool Rotterdam heeft op dit moment meer dan tien vrouwelijke professionals binnen het vakgebied AI. Is dat belangrijk? Wat zijn jullie eigen ervaringen?
Harbers: “Dat hoge aantal is waarschijnlijk toeval, al is het wel opvallend in een vakgebied waarin voornamelijk mannen werken. Toch is het in het algemeen zo dat mensen vaak nieuwe mensen binnen een team aannemen die veel op hen lijken. Het is makkelijker om dingen in de ander te herkennen die je kent van jezelf. Omdat er al een aantal vrouwen waren, zou het in ons geval kunnen dat we anders naar kandidaten zijn gaan kijken en meer vrouwen hebben aangetrokken.”
Willemsen: “Andersom geldt dat natuurlijk ook. Als je een kandidaat bent en je ziet dat er al andere vrouwen in een team werken, dan wordt het aantrekkelijker om 'ja' te zeggen tegen zo'n functie. Je gaat dan uit van een cultuur waarin jij als vrouwelijke professional straks op je plek bent. Zo vond ik het zelf heel prettig dat jij, Maaike, hier al binnen de hogeschool werkte als lector AI en ethiek.”
Harbers: “Ik was juist heel blij dat ik er met Lotte eindelijk een vrouwelijke collega bij kreeg. We zaten in een groep van zeven à acht lectoren, waarvan ik de enige vrouw was. Ik voelde me af en toe de vrouwelijke ‘representant’. Als er dan iets gerelateerd aan gender of vrouwen voorbijkwam, keken mensen vrij snel naar mij. Als je team na verloop van tijd wat meer gemengd is, dan zit je er meer als persoon met een bepaalde expertise.”
We hebben het nu over het belang van meer vrouwelijke professionals, maar ik neem aan dat jullie veel verder kijken. Hoe divers en inclusief is jullie vakgebied op dit moment?
Willemsen: “Ik krijg nogal eens de vraag: ‘We hebben een programma over AI en we hebben nog een vrouw nodig. Heb je interesse?’ Dat voelt ongemakkelijk. Toch zeg ik dan ‘ja’, omdat ik graag bijdraag aan beeldvorming op dit vlak. Zo laat het zien dat je niet per se de witte hoogopgeleide man met een IT-achtergrond voor een bepaalde functie hoeft te kiezen. Er zijn veel meer verschillende mensen actief op het gebied van AI die waardevol werk doen. Daarbij is het niet alleen belangrijk om te kijken naar de representatie van mannen versus vrouwen. Op allerlei assen is meer diversiteit nodig.”
Harbers: “Op dit moment hebben we een grote groep vrouwen die zich binnen Hogeschool Rotterdam bezighoudt met AI. Dat is een belangrijke ontwikkeling. Tegelijkertijd is de dimensie van professionals op dit vakgebied veel breder. Denk aan mensen met verschillende etnische achtergronden, aan de LHBTI+ gemeenschap of mensen met een functiebeperking. Het vakgebied geeft nu nog een veel te magere en niet representatieve afspiegeling van de maatschappij. Het zou niet uit moeten maken wie je bent, waar je vandaan komt of hoe je eruitziet om in deze wereld te kunnen werken of AI-toepassingen te kunnen gebruiken.”
Willemsen: “Wat je bijvoorbeeld steeds meer ziet en waar ik nu met verschillende partijen binnen en buiten het onderwijs mee bezig ben, zijn zogenaamde ‘digital humans’. Het is eigenlijk een beetje de nieuwe generatie van ‘conversational AI’. Technologie met een menselijke verschijning en manier van communiceren of gedragen. Denk maar aan een door AI-gecreëerde influencer, een ‘digital double’ zoals een hologram van een bekende overleden zanger of een virtuele gezondheidscoach. Het is fascinerend om te zien hoe die conversatie tussen mens en machine verloopt en bij wat voor toon en boodschap bepaalde mensen zich wel of niet prettig voelen. Ook hier speelt diversiteit een cruciale rol. Het gros van die digital humans wordt nu ontworpen als vrouwelijk personage die gebruikers helpen om in hun wensen of behoeften te voorzien. Vast goed bedoeld, maar het bevestigt of vergroot stereotype gedachten dat vrouwen aardig en dienend moeten zijn en meer geschikt zijn voor deze rol dan mannen. Digital humans van kleur komen dan weer veel minder voor. Dit soort ontwerpen beginnen natuurlijk bij een bron. Een kleine, weinig representatieve groep mensen ontwikkelt een bepaalde toepassing die in hun ogen raciaal agnostisch is en de doelgroep vast en zeker aanspreekt. Bij navraag blijkt die toepassing een stuk minder aantrekkelijk en herkenbaar. Als je wil dat iedereen gebruik kan maken van de toepassingen en zich ermee kan identificeren, dan moet je zorgen dat zoveel mogelijk verschillende mensen – ongeacht hun afkomst, geloof, overtuiging, seksualiteit of geaardheid - zich mengen in dit vakgebied en het bijbehorende debat.”
Harbers: “Toepassingen zoals gezichts- en spraakherkenning werken beter voor mannen, evenals software voor werving en selectie. Ook automatische vertaaltools zitten vol met 'biases '. Het gebrek aan diversiteit leidt er dus toe dat we technologie ontwikkelingen die vooral past bij één bepaalde groep mensen. Juist omdat er grote machtsverschillen zijn in de maatschappij, zou je ook kunnen zeggen dat je in de wereld van kunstmatige intelligentie meer ruimte moet creëren voor de mensen die normaal niet of nauwelijks aan bod komen. We trekken ze daarmee niet voor, maar geven ze hun ‘fair share’.”
...en dat brengt ons terug bij onze eerdere, behoorlijk rake definitie van kunstmatige intelligentie: niet één technologie maar een rijk palet aan technologieën die samen tot een vorm van intelligentie leiden. Tot slot: jullie ‘final thoughts’...
Harbers: “Probeer je zoveel mogelijk in AI te verdiepen, je verschillende toepassingen eigen te maken, en een kritische en brede blik te ontwikkelen door mensen van allerlei achtergronden te betrekken. Zo stellen we onszelf en de wereld om ons heen in staat AI-toepassingen op waarde te schatten en aantrekkelijk en bruikbaar te maken voor iedereen.”
Willemsen: “Binnen veel meer opleidingen en domeinen is aandacht voor AI van belang. Ik maak mij er hard voor om communicatieprofessionals en mediamakers te betrekken, zodat we een nieuwe generatie professionals kunnen verwelkomen die AI kan inzetten met oog voor mens en maatschappij. We zitten in een digitale transformatie die niet meer te stoppen is. De volgende stop is de metaverse. Wat we hard nodig hebben, zijn bewuste en tech-savvy professionals die werelden kunnen verbinden. Professionals uit alle lagen van de samenleving die weten hoe een bepaalde AI-toepassing werkt, zich bewust zijn van eventuele valkuilen én kunnen inzetten voor hun werk op een manier die ook nog eens betekenisvol is voor de samenleving en de mensen die hier onderdeel van zijn.”
Wil je meer weten over dit boeiende onderwerp, soortgelijke vraagstukken én de tien vrouwelijke AI-professionals binnen Hogeschool Rotterdam? Kom dan op 29 september naar de Dag van Praktijkgericht Onderzoek, geheel in het teken van ‘Responsible Applied AI’.
Vanuit de vijf kenniscentra van Hogeschool Rotterdam – Business Innovation, Creating 010, Duurzame HavenStad, Talentontwikkeling & Zorginnovatie – presenteren uiteenlopende sprekers op donderdag 29 september aan drie tafels hun inzichten en gaan zij in discussie met het publiek. Wat zijn de ethische regels en kaders? Hoe en door wie komen deze tot stand? Hoe worden deze gecontroleerd? En waar gaan de ontwikkelingen naartoe? Deze dag is ook een plek voor innovatie en verbinding. Recente en spraakmakende projecten van studenten en docenten worden gepresenteerd in de AI EXPO. Gastheer van deze dag is Willem de Kooning Academie, één van de elf instituten van Hogeschool Rotterdam.
Responsible Applied AI
donderdag 29 september 2022
12.30 tot 18.30 uur
Hulstkampgebouw, Maaskade 119, Rotterdam
--------------------------------------------------------------------------------------------------------------
Lotte Willemsen is communicatiewetenschapper en werkzaam als lector Communication in the Networked Society binnen Kenniscentrum Creating 010. Zij doet onderzoek op het grensvlak van communicatie en technologie, met cross-overs naar domeinen als eBusiness, eHealth, en eGovernance. Willemsen promoveerde cum laude aan de Universiteit van Amsterdam in 2008 met haar onderzoek naar online conversaties tussen organisaties en consumenten, en tussen consumenten onderling. Nu onderzoekt zij hoe AI betekenisvolle conversaties tussen mens en machine mogelijk kan maken.
Haar collega Maaike Harbers is als lector Artificial Intelligence & Society eveneens verbonden aan Kenniscentrum Creating 010. Daarnaast is zij hoofddocent aan de opleiding Communication & Multimedia Design. Met haar achtergrond in kunstmatige intelligentie en filosofie, onderzoekt Harbers hoe ontwerpers van interactieve technologie op een verantwoorde manier kunnen omgaan met AI als ontwerpmateriaal. Hoe houden zij tijdens het ontwerpproces voldoende rekening met de ethische implicaties van hun keuzes? Harbers behaalde in 2011 een PhD in kunstmatige intelligentie aan de Universiteit Utrecht en in 2006 een MSc in kunstmatige intelligentie en een MA in filosofie aan de Rijksuniversiteit. Groningen.
Wil je meer weten over dit onderwerp? Neem dan contact op met Tamara Huibrechtse, community manager van Programma AI & Ethiek bij Hogeschool Rotterdam via ai@hr.nl of 06-18401169.
Bijlage: foto ‘Vrouwen in AI’ met v.l.n.r. Maaike Harbers, Lotte Willemsen, Marije Brom, Oumaima Hajri, Anja Overdiek, Heleen Elferink, Kimberly Stolk-Hill, Myrna van de Water, Gabriella Obispa, Tamara Huibrechtse
