Geen vraag over it: Microsoft van Nadella is een triomf. Ten slotte heeft Microsoft zich in de jaren twintig geconcentreerd op de meest innovatieve technologie sinds de pc zelf. En hoewel de inkomsten uit AI-producten de enorme investeringen van Microsoft nog niet hebben gecompenseerd, heeft het bedrijf het vertrouwen – en de middelen – om te wachten tot de producten verbeteren en gebruikers ze nuttig vinden.

Maar kan Microsoft echt de overmoed vermijden die het zo ver terug heeft gebracht? Denk eens aan wat er in mei van dit jaar gebeurde met een product genaamd Recall.

De functie moest de integratie van AI door Microsoft in zijn hardware, software en infrastructuur belichamen. Het idee was om gebruikers zoiets als een persoonlijke versie van het internetarchief te geven. Recall zou voortdurend alles vastleggen wat er in uw machine gebeurt: wat u leest, wat u schrijft, foto’s en video’s die u bekijkt, sites die u bezoekt. Beschrijf eenvoudig aan uw machine wat u zoekt: Wat waren die tapijtmonsters die ik overwoog voor mijn woonkamer? Waar is dat rapport over de ecologie van de Amazone? Wanneer ging ik naar Parijs? Die momenten kwamen als bij toverslag tevoorschijn, alsof je een homunculus had die alles over je wist. Het klinkt eng – een beetje als een Big Brother aan boord – maar Microsoft stond erop dat gebruikers zich veilig konden voelen. Alles blijft op uw computer!

Bijna onmiddellijk bestempelden critici het als een privacy-nachtmerrie. Om te beginnen merkten ze op dat Recall standaard werkte en uw persoonlijke gegevens, hoe gevoelig ook, opslokte zonder toestemming te vragen. Hoewel Microsoft heeft benadrukt dat alleen de gebruiker toegang heeft tot Recall, ontdekten beveiligingsonderzoekers “gaten waar je een vliegtuig doorheen zou kunnen rijden”, zoals een tester het verwoordde.

“Binnen ongeveer 48 uur gingen we van ‘Wauw, dit is buitengewoon spannend!’ voor mensen die enige bedenkingen uiten”, zegt Brad Smith. Terwijl de pers zich opstapelde, zat Smith in het vliegtuig om Nadella te ontmoeten in Washington, DC. Tegen de tijd dat hij landde, dacht hij dat het verstandig zou zijn om Recall alleen te laten werken als gebruikers zich daarvoor hadden aangemeld; Nadella was het daarmee eens. Ondertussen stroomden de hogere leidinggevenden van Microsoft in Redmond de vergaderzalen binnen om te zien hoe ze het product zouden kunnen terugschroeven. Gelukkig hoefden ze Recall niet in te roepen, aangezien de functie nog niet was uitgebracht. Zij de lancering uitgesteld. En ze zouden beveiligingsfuncties toevoegen, zoals ‘just in time’-codering.

“Mensen wezen ons op enkele voor de hand liggende dingen die we moesten doen en die we hadden moeten opmerken”, zegt Nadella. Maar zijn eigen Responsible AI-team miste ze ook. Een zekere mate van ‘know-it-all’-heid had geleid tot de aankondiging van een product dat tekortschoot, wat aangeeft dat Microsoft, zelfs als het wordt geleid door een zogenaamde empaat, nog steeds te veel van zijn eerdere karakterfouten heeft behouden. Alleen nu is het een bedrijf van $3 biljoen met vergrendelde toegang tot de producten van de toonaangevende AI-operatie.

“Je kunt er op twee manieren over nadenken”, zegt Brad Smith. ‘De ene is: ‘Goh, ik wou dat we hier eerder over hadden nagedacht.’ Achteraf is iets geweldigs. Of twee: ‘Hé, het is goed dat we dit gebruiken om deze verandering door te voeren – laten we expliciet zijn over waarom.’ Het was echt een leermoment voor het hele bedrijf.”

Dat is prima. Maar na vijftig jaar is het een les die Microsoft – en Nadella – al lang geleden hadden moeten leren.

Getty Images (tijdlijn)

Laat ons weten wat u van dit artikel vindt. Stuur een brief naar de redactie via mail@wired.com.