Noyb dient bij de Autoriteit Persoonsgegevens klacht in over het volgen van AI-trainers
Volgens privacyclub noyb houdt Scale AI de freelancers op zijn platform Outlier ongeoorloofd in de gaten. De Nederlandse toezichthouder is een van de vier die een klacht kregen.
De Oostenrijkse privacyorganisatie noyb heeft bij de Autoriteit Persoonsgegevens een klacht ingediend tegen het Amerikaanse bedrijf Scale AI. Dat bedrijf runt Outlier, een platform waarop freelancers tegen betaling AI-modellen trainen. Ze schrijven bijvoorbeeld opdrachten voor een chatbot of beoordelen de antwoorden. Volgens noyb werken er meer dan 900.000 mensen via Outlier, voor klanten als Meta, OpenAI, Google en de Amerikaanse overheid. In totaal gaat het om vijf klachten, in Nederland, Frankrijk, Italië en Oostenrijk.
Noyb vindt dat Scale AI zijn werkers veel te veel volgt. Terwijl ze op het platform werken, zitten er trackers van onder meer TikTok, LinkedIn en Facebook op hun apparaat. Die sturen om de paar seconden gegevens door, zoals het IP-adres, contactgegevens en welke pagina iemand bekijkt. Daarnaast moeten de werkers hun identiteit steeds opnieuw bewijzen bij het bedrijf Persona, met een video van hun gezicht en een kopie van hun identiteitsbewijs. Volgens noyb gaat dat veel verder dan nodig. Scale AI zou ook niet hebben gereageerd toen klagers vroegen welke gegevens het van hen heeft. Noyb wil dat de toezichthouders het bedrijf onderzoeken en een boete geven.
Scale AI noemt de beschuldigingen ongegrond, meldt The Register. Volgens het bedrijf weten de werkers wat er gebeurt en geven ze daar toestemming voor. Scale AI zegt de controles te gebruiken tegen fraude, om opdrachten van klanten geheim te houden en om de juiste mensen te betalen.
Wat betekent dit voor de werkvloer?
AI-modellen leren veel van mensen die thuis kleine klussen doen, en ook in Nederland zoeken bedrijven zulke krachten, zoals we eerder schreven over het trainen van robots. Hoeveel Nederlanders via Outlier werken, staat niet in de bronnen. De Autoriteit Persoonsgegevens moet nu beoordelen hoe ver zo’n platform mag gaan met het volgen van zijn werkers. Die uitspraak kan ook gelden voor andere platforms die freelancers op afstand laten werken.