© Unsplash

Dit is een ingezonden bijdrage van Bart Wernaart & Mignon van Halderen, Fontys Hogescholen

Martin Heidegger wist het ons al te vertellen. In zijn meesterwerk ‘Die Frage Nach der Techniek’ (1954) laat hij zien dat technologie nooit neutraal is. Het vervormt de manier waarop we leven en welke verwachtingen we hebben van onszelf, de natuur en het leven. Er is weinig fantasie voor nodig om te voorzien dat de huidige digitale transformatie grote gevolgen gaat hebben in het economische domein. Slimme technologie is hierin belangrijk, waarbij er een hoofdrol is weggelegd voor op algoritmes gestoelde Artificiële Intelligentie (AI). Er is doordacht en vernieuwend leiderschap nodig om op een betekenisvolle manier om te gaan met deze materie, met sterke morele fundamenten als uitgangspunt. De vraag moet daarom niet zijn hoe we digitale transformatie in een organisatie vormgeven, maar vooral waarom

Al enkele decennia vindt er een breed debat plaats over de maatschappelijke verantwoordelijkheid van het bedrijfsleven. Er bestaat niet alleen een verantwoordelijkheid om winst te maken, maar ook een verantwoordelijkheid om zorg te dragen voor mens en milieu. Voor veel bedrijven zijn termen als ‘The Triple Bottom Line’, ‘Duurzaamheid’ en ‘Integrated Reporting’ inmiddels gesneden koek. Echter zien we dergelijke termen vaak wat meer als onderdeel van een business model dan als leidende principes. Complicerende factor in dat debat is dat het abstracte verband van mensen die samen een bedrijf vormen soms wat ver afstaat van de morele beleefwereld van individuen. Dat wordt nog eens extra lastig wanneer in toenemende mate complexe technologie wordt ingezet in de interactie met mensen: AI heeft geen moreel besef, maar kan wel morele voorkeuren uitdragen. Hierdoor dreigt het gevaar dat er een dubbele morele verwijdering ontstaat tussen bedrijf en individu 

Morele uitdagingen in het economische domein

Het is belangrijk om na te denken over de relatie van een organisatie met de verschillende stakeholders wanneer digitale transformatie leidt tot een hernieuwde manier van zakendoen. Niet iedereen begrijpt hoe een algoritme werkt, of herkent de hand van AI in een bepaalde toepassing. Door digitale transformatie kan er een kennisgat ontstaan tussen diegene die de technologie inzet, en diegene die er gebruik van maakt of er de gevolgen van ervaart. Er ontstaat een ongelijkwaardige relatie waarbij met name de consument in toenemende mate kwetsbaar kan zijn. En met die kwetsbaarheid moeten leiders en managers moreel goed omgaan. 

“Niet iedereen begrijpt hoe een algoritme werkt, of herkent de hand van AI in een bepaalde toepassing.”

Mignon van Halderen, Fontys

We zouden kunnen stellen dat degene die de technologie inzet de verantwoordelijkheid draagt voor het belang van bijvoorbeeld de consument. De gemiddelde Volkswagenrijder zal niet veel verstand hebben van de software waarmee uitstoot gemeten wordt en de gemiddelde Facebookgebruiker kan niet volledig doorgronden hoe bepaald wordt wat er in zijn/haar tijdlijn voorbij komt. En hoe vinden we het wanneer we een chatbot trainen om zo menselijk of betrouwbaar mogelijk over te komen? Kan dit de autonomie van de persoon aan de andere kant van de lijn aantasten?    

Tegelijkertijd schuilt in de goede bedoeling van het nemen van verantwoordelijkheid ook een serieuze valkuil: het kan leiden tot ongewenste paternalistische relaties tussen degene die de technologie inzet, en diegene die ermee te maken krijgt. Mag je duurzaamheid opdringen aan een consument door groenere alternatieven eerder te laten zien in een webshop? En wie bepaalt wanneer een chatbot wel of niet een leugentje om bestwil mag vertellen wanneer dit voor de gesprekspartner leidt tot betere resultaten? Mag een algoritme informatie blokken die niet in lijn is met bepaalde wetenschappelijke inzichten? Hier moeten we goed over nadenken en niet alleen nádat we digitaal getransformeerd zijn.    

Morele verwachtingen

We zullen dus op zoek moeten naar manieren om de morele verwachtingen rondom digitale transformatie in kaart te brengen. Niet alleen binnen, maar vooral ook buiten die commerciële organisatie. Wanneer technologie een grote impact heeft op het leven van een gebruiker, dan zal die gebruiker daar wat van moeten kunnen vinden. Wanneer de impact niet alleen de gebruiker betreft, maar ook een bredere maatschappelijke impact heeft, dan is het van belang om politieke processen te betrekken bij het ontwerpproces van technologische vernieuwing.  

“Juist bedrijven met een sterk moreel fundament zullen beter bestand zijn om te gaan met de snelle technologische progressie en een duurzamer economisch succes kunnen realiseren.”

Het wordt een uitdaging om op een goede manier te achterhalen welke waarden we binnen welke relaties willen nastreven en deze input op een integere manier door te voeren in de visie en aansturing van een commerciële organisatie. Dat vergt veel meer dan het formuleren van een goed bedoelde code of conduct en het jaarlijks toevoegen van een mooi verslag aan de jaarcijfers waarin een bedrijf aangeeft te werken aan een positieve maatschappelijke bijdrage. Dat komt in de praktijk toch een beetje neer op de slager die haar eigen vlees keurt en dat kan ertoe leiden dat gebruikers van technologisch hoogwaardige producten of diensten een ‘take it or leave it’-gevoel krijgen, waarbij de keuze ‘leave it’ soms lastig is. Zo kun je in sommige sectoren simpelweg niet overleven zonder gebruik te maken van enkele gevestigde socialmediakanalen. Wanneer je ‘shared value’ wilt creëren zal je serieus onderzoek moeten doen naar wat die gewenste waarde dan kan zijn. Alleen dan kun je een relatie opbouwen die gebaseerd is op vertrouwen, omdat je laat zien te begrijpen wat het belang is van gebruikers en dit belang altijd als uitgangspunt neemt. Dat is zelfs de kern van vertrouwen. 

Moreel leiderschap

Digitale transformatie is geen doel maar een middel. Het kan leiden tot fundamentele veranderingen in klantinteractie, klantbeleving, waardenproposities en business modellen. Een vraag die te vaak gesteld wordt is hoe we dat moeten doen, terwijl we ons vooral de vraag zouden moeten stellen waarom we dergelijke veranderingen willen omarmen. ‘Wat is je  Massive Transformative Purpose (MTP)?’, zoals Singularity University het verwoordt: bedrijven moeten niet redeneren vanuit hun product of dienst, maar vanuit de functie of ‘rol’ die ze willen hebben in de samenleving. Je levert geen stroom, maar energie aan de samenleving. Je verkoopt geen auto’s, maar verbetert mobiliteit in de samenleving. Je verhuurt geen DVD’s maar je draagt bij aan een filmbeleving. En, in ons eigen werk: we bieden geen onderwijs, maar kennisontwikkeling en persoonlijke ontplooiing aan mensen in de samenleving.

“Bedrijven moeten niet redeneren vanuit hun product of dienst, maar vanuit de functie of ‘rol’ die ze willen hebben in de samenleving.”

Bart Wernaart, Fontys

De vraag is dus welk doel we voor ogen hebben bij de toepassing van slimme technologie. Het bepalen van dit doel vergt een gezamenlijke inspanning van relevante stakeholders bij een organisatie. Aan het stuur van dit proces moeten vernieuwende leiders staan die moedig genoeg zijn om te varen op een moreel, en niet een digitaal kompas. Juist dan kan een bedrijf een inspirerende, digitale koploper worden. Het idee om waarden niet vanuit de context van een businessmodel te zien, maar als een onwrikbaar fundament klinkt voor sommigen misschien als een contradictie. Wat nu wanneer je kernwaarden te duur worden? Maar het is ons inziens slechts een contradictio in terminis: juist bedrijven met een sterk moreel fundament zullen beter bestand zijn om te gaan met de snelle technologische progressie en een duurzamer economisch succes kunnen realiseren. 

Onderwijs

Ook voor ons onderwijs heeft digitale transformatie gevolgen. Universiteiten en hogescholen moeten met bedrijven in gesprek om samen te bespreken wat de implicaties zijn voor het opleiden van toekomstige professionals in het bedrijfsleven. Wij zijn gelieerd aan de Fontys School of Business and Communication en zien dat onze economie-, marketing-, accountancy- en vastgoedstudenten niet alleen vakinhoudelijk moeten worden opgeleid. Ze moeten juist ook een moreel denk- en handelingskader meekrijgen over wat ethische AI betekent voor hun vakgebied en hoe ze dit strategisch kunnen verwezenlijken binnen een organisatie. Want succesvolle Digitale Transformatie wordt niet gerealiseerd door technologie, maar door mensen. En daar is een breed gedeeld vertrouwen voor nodig.    

Word lid!

Op Innovation Origins lees je elke dag het laatste nieuws over de wereld van innovatie. Dat willen we ook zo houden, maar dat kunnen wij niet alleen! Geniet je van onze artikelen en wil je onafhankelijke journalistiek steunen? Word dan lid en lees onze verhalen gegarandeerd reclamevrij.

Over de auteur

Author profile picture