Meta installeert trackingsoftware op de werkcomputers van werknemers en contractanten in de VS om toetsaanslagen, muisklikken, bewegingen en screenshots te monitoren. Het doel is om deze gegevens te gebruiken voor het trainen van zijn AI modellen. Het programma, genaamd de Model Capability Initiative, werd onthuld in een interne memo die door een onderzoeker werd gedeeld in het Superintelligence Labs kanaal van het bedrijf, volgens Reuters.
De software zal werken op werkgerelateerde applicaties en websites zoals Gmail, GChat en Metamate, de interne AI assistent van Meta voor werknemers. Telefoons die voor werk worden gebruikt vallen niet onder deze tracking.
Meta CTO Andrew Bosworth bevestigde dat werknemers die werklaptops gebruiken geen mogelijkheid hebben om zich af te melden voor de tracking.
Wat Meta verzamelt van werkcomputers van werknemers
Meta legt uit dat het trackingsysteem zich richt op het begrijpen van hoe werknemers met computers omgaan, en acties vastlegt zoals het selecteren van opties uit dropdownmenu’s en het gebruik van sneltoetsen. Het bedrijf stelt dat deze gegevens bedoeld zijn om AI modellen te trainen op taken die zij nog niet zelfstandig kunnen uitvoeren.
“Iedereen bij Meta kan bijdragen aan het verbeteren van onze modellen door simpelweg zijn dagelijkse werk te doen,” aldus de memo. Bosworth beschreef het langetermijndoel als het ontwikkelen van AI agenten die taken kunnen uitvoeren terwijl werknemers toezicht houden en hun werk verfijnen.
In een verklaring aan CNET bevestigde Meta dat de tool invoergegevens uit specifieke applicaties verzamelt om AI modellen echte voorbeelden van mens-computerinteractie te geven. Het bedrijf benadrukte dat de gegevens niet zullen worden gebruikt voor prestatiebeoordelingen, niet toegankelijk zijn voor managers en dat er waarborgen zijn om gevoelige informatie te beschermen.
Hoe werknemers en privacy experts reageren
De interne reactie werd door Business Insider omschreven als verdeeld, waarbij sommige werknemers zich sterk verzetten. Een werknemer vroeg op een intern communicatieplatform hoe hij zich kon afmelden, waarop Bosworth antwoordde dat er geen opt-out mogelijkheid is op werklaptops en hardware van Meta. Reacties van personeel omvatten onder meer geschokte, huilende en boze emoji’s.
Eric Null, directeur van het Privacy and Data Project bij het Center for Democracy & Technology, noemde het plan een van de meest ingrijpende vormen van werkplek surveillance. Hij merkte ook op dat het echte schade kan veroorzaken voor mensen met een beperking en dat het structurele vooroordelen kan versterken als het wordt gebruikt voor AI training.
Waarom Meta deze tracking nu uitbreidt
Het trackingprogramma wordt ingevoerd terwijl Meta zich voorbereidt om ongeveer 8.000 werknemers, circa 10% van het totale personeelsbestand van 79.000, te ontslaan, vanaf 20 mei. Het bedrijf investeert dit jaar meer dan 135 miljard dollar in de ontwikkeling van kunstmatige intelligentie en heeft onlangs Muse Spark uitgebracht, zijn eerste eigen AI model ontwikkeld door Superintelligence Labs.
Meta heeft geen details verstrekt over hoe lang gegevens worden bewaard, wat precies als gevoelige inhoud wordt beschouwd binnen hun waarborgen, of hoe de verzamelde interactiegegevens precies zullen worden gebruikt bij het trainen van hun modellen.