Nieuw ‘Normaal’ met kunstmatige ‘intelligentie’?
Microsoft introduceert de functie 'Always Watch' of 'Recall' voor elke pc
Welkom in de toekomst waarin uw computer meer over uw leven weet dan u denkt. De nieuwste uitvinding van Microsoft, de door AI aangedreven Windows 11 Recall-functie, aangekondigd tijdens een AI-evenement op maandag, is een technologisch wonder dat... alles onthoudt wat je hebt gedaan. op uw computer in de afgelopen drie maanden. Klinkt praktisch, toch? Alleen als je kunt wennen aan het idee dat de computer de rol van Big Brother speelt.
Deze verbazingwekkende of angstaanjagende functie is momenteel alleen beschikbaar op Copilot+-computers met Snapdragon X ARM-processors. Maar maak je geen zorgen, Intel- en AMD-gebruikers: Microsoft heeft ons verzekerd dat ze er hard aan werken om jullie te betrekken bij deze dystopische droom. Recall maakt elke paar seconden een screenshot van het actieve venster, waardoor het scherm een soort digitaal dagboek wordt. Deze snapshots worden geanalyseerd door de ingebouwde neurale verwerkingseenheid (NPU) en het kunstmatige intelligentiemodel van het apparaat om gegevens te extraheren en op te slaan in een semantische index. Hiermee kunnen gebruikers hun geschiedenis bekijken of naar specifieke punten zoeken met behulp van zoeken in menselijke taal. Hoe handig...
“Recall is een belangrijk onderdeel van wat Copilot+ pc's speciaal maakt, en Microsoft heeft vanaf het begin privacy in het ontwerp van Recall ingebouwd. Op een Copilot+ pc met een Snapdragon® X-serie processor ziet u een Recall-pictogram in uw systeemvak wanneer u uw apparaat voor de eerste keer activeert. Je kunt dit pictogram gebruiken om de instellingen van Recall te openen en te kiezen welke snaps Recall verzamelt en opslaat op je apparaat. U kunt het aantal snapshots beperken dat Recall verzamelt, u kunt bijvoorbeeld specifieke applicaties of websites selecteren die u in een ondersteunde browser bezoekt om te filteren; Bovendien kunt u momentopnamen pauzeren met behulp van het pictogram Herstellen in de taakbalk, enkele of alle opgeslagen momentopnamen wissen of alle momentopnamen van uw apparaat verwijderen.
❖Microsoft
Het lijkt erop dat deze functie standaard wordt ingeschakeld. Microsoft legt vrolijk uit: “ Recall krijgt standaard 25 GB toegewezen op een apparaat van 256 GB, wat ongeveer 3 maanden aan snapshot-opslag mogelijk maakt. U kunt de geheugentoewijzing voor het gesprek vergroten in uw pc-instellingen. Oude snapshots worden verwijderd wanneer de toegewezen geheugenruimte uitgeput is, zodat nieuwe snapshots kunnen worden opgeslagen ."
Veiligheid? Wat voor beveiliging?!
Volgens Microsoft maakt Recall “geen foto’s van bepaalde inhoud, inclusief InPrivate-websurfsessies in Microsoft Edge. Het is op dezelfde manier van toepassing op inhoud die wordt beschermd door digitaal rechtenbeheer (DRM); Net als andere Windows-applicaties zoals Snipping Tool slaat Recall geen DRM-inhoud op ."
O, dat is geruststellend. Er worden daarom geen screenshots van je Netflix-sessies gemaakt. Hoe zit het met de rest? Uw wachtwoorden, uw persoonlijke e-mailadres en uw bankgegevens lopen allemaal gevaar. En als u Microsoft Edge niet gebruikt, heeft u pech.
Microsoft belooft dat al deze gegevens worden gecodeerd met BitLocker en alleen op het apparaat van de gebruiker worden opgeslagen. Ze verzekeren zelfs dat gegevens niet worden gedeeld met andere gebruikers van hetzelfde apparaat en dat schermafbeeldingen van InPrivate-vensters niet worden opgeslagen in Microsoft Edge. Vreemd genoeg hebben ze echter geen commentaar gegeven op de vraag of iets als Firefox of de privétabbladmodus van Brave dezelfde beleefdheid krijgt. Wat heeft het voor zin om privacytechnologieën te gebruiken als het besturingssysteem zelf alles registreert wat u doet?
Op de persconferentie benadrukte Yusuf Mehdi, corporate vice president en chief consumer marketing officer, de conservatieve aanpak van het bedrijf. “ We gebruiken deze informatie niet om het AI-model te trainen en je volledige controle te geven met de mogelijkheid om alles wat is opgenomen te bewerken en te verwijderen ”, zei Mehdi.
Maar laten we een stapje terug doen en de scherpe geur van scepticisme inademen. Grote technologiebedrijven zijn berucht vanwege het exploiteren van gebruikersgegevens, en Microsoft is niet bepaald een toonbeeld van terughoudendheid. De Britse gegevensbeschermingsautoriteit ICO (Information Commissioner's Office) heeft al ingegrepen en eist garanties dat gebruikersgegevens worden beschermd.
Enge effecten
Zelfs als we bedrijven erop vertrouwen dat Microsoft onze gegevens niet zal aanraken, zijn de gevolgen voor de veiligheid en de privacy enorm. Terugroepen betekent niets als er schermafbeeldingen worden gemaakt, waarbij alles wordt vastgelegd, van gevoelige documenten tot uw recente Amazon-aankopen. Ben je vergeten deze functie uit te schakelen? Het kan zijn dat uw partner of huisgenoot bij een snelle zoekopdracht uw privémomenten tegenkomt.
Dit is echter slechts het topje van de ijsberg.
Om nog maar te zwijgen van de enorme kloof die dit creëert voor cyberdreigingen. Zodra uw apparaat is gehackt, zijn al uw zorgvuldig gecatalogiseerde gegevens in de handen van iemand anders. Cybersecurity-expert Kevin Beaumont, een frequente criticus van Microsoft, vergeleek de functie met "een keylogger ingebouwd in Windows" en merkte op dat malware gemakkelijk de intrekkingsdatabase zou kunnen stelen en deze voor snode doeleinden zou kunnen gebruiken . Hierin heeft hij geen ongelijk. Stel je voor dat een aanvaller of malware toegang zou krijgen tot deze schatkamer: inloggegevens, vertrouwelijke documenten, privéberichten - alles zou openbaar worden gemaakt.
De prioriteiten van Microsoft staan ter discussie
Microsoft heeft van oudsher geprobeerd de schuld op de gebruiker af te schuiven wanneer een apparaat gecompromitteerd is. Deze nieuwe functie lijkt die filosofie naar een hoger niveau te tillen, waardoor extra risico's ontstaan in een toch al gevaarlijke digitale omgeving. Satya Nadella, CEO van Microsoft, benadrukte het belang van prioriteit geven aan beveiliging in een recente e-mail aan zijn werknemers. “ Als je moet kiezen tussen veiligheid en een andere prioriteit, is je antwoord duidelijk: kies voor veiligheid ”, zei Nadella.
Toch is Microsoft enthousiast om een functie te introduceren die een goudmijn voor hackers zou kunnen zijn. Als dit hun idee van veiligheid is, dan is het eng om je voor te stellen hoe minder veilige innovatie eruit zou kunnen zien.
Het vermogen van Recall om elke gebruikersactie vast te leggen, om de paar seconden screenshots te maken en deze maximaal drie maanden op te slaan, duidt op een diepgaande verschuiving in de manier waarop technologiebedrijven onze persoonlijke gegevens bekijken en verwerken. Het is niet zomaar een functie, maar een open uitnodiging voor de bewakingsmodus, waarin elke toetsaanslag, elke klik en elke blik wordt vastgelegd en mogelijk gedeeld. Dit komt omdat deze technologie niet alleen onze digitale activiteiten registreert, maar ook het concept normaliseert dat elk moment dat we op onze apparaten doorbrengen, kan worden vastgelegd en geanalyseerd.
Naast de onmiddellijke veiligheidsrisico's ondermijnt Recall het vertrouwen in de technologie zelf. Gebruikers verwachten dat hun apparaten hen ondersteunen, en niet dat ze elke beweging als potentiële spionnen volgen. Deze functie daagt dat vertrouwen uit en maakt het moeilijk voor consumenten om erop te vertrouwen dat technologiebedrijven hun belangen voorop stellen.
De opkomst van end-to-end encryptie, VPN en privé browsen komt omdat het publiek steeds meer controle over hun persoonlijke gegevens eist. Maar de terugroepactie van Microsoft ondermijnt die vooruitgang en brengt de klok terug naar een tijdperk van ongecontroleerde gegevensverzameling. Zelfs met de belofte van encryptie en lokale opslag brengt het verzamelen en indexeren van deze gegevens risico's met zich mee die moeilijk, zo niet onmogelijk, te beperken zijn.
Cybercriminelen kunnen deze schat aan informatie gebruiken voor identiteitsdiefstal, fraude of industriële spionage. Regeringen zouden het kunnen gebruiken om hun burgers te monitoren.
Het meest verraderlijke aspect van een terugroepactie is het precedent dat het schept. Als Microsoft een dergelijke uitgebreide gegevensverzameling kan normaliseren onder het mom van nut, wat houdt andere technologiegiganten dan tegen om dit voorbeeld te volgen? We zien al een gestage toename van invasieve functies in de technische ruimte, denk aan slimme apparaten voor thuisgebruik die gesprekken afluisteren, of sociale-mediaplatforms die elke interactie monitoren om gerichte advertenties weer te geven. De terugroepactie versterkt deze zorgen vele malen.
Stel je een toekomst voor waarin alle apparaten, van smartphones tot slimme koelkasten, vergelijkbare ‘functies’ hebben. De gevolgen zijn beangstigend. Dit ondermijnt niet alleen de privacy, maar schept ook een juridisch en cultureel precedent voor het ondergeschikt maken van privacy aan gemak. Het concept van persoonlijke ruimte wordt een overblijfsel uit het verleden, zelfs in de digitale wereld. En een gerelateerde vraag rijst: is deze functie voor het gemak van wie?