Meta oznámila novou iniciativu ke sledování digitální aktivity svých zaměstnanců a dodavatelů v USA s cílem urychlit vývoj umělé inteligence. Podle interních dokumentů získaných agenturami Reuters a Business Insider bude společnost zaznamenávat úhozy, kliknutí myší a snímky obrazovky za účelem shromažďování dat pro trénování svých modelů umělé inteligence.
Iniciativa pro schopnost modelu
Společnost zavádí nový softwarový program s názvem Model Capability Initiative. Tento nástroj je navržen tak, aby monitoroval, jak lidé pracují v profesionálním digitálním prostředí, a zachycuje nuance, jako jsou:
– Použití horkých kláves.
– Interakce s rozevíracími nabídkami.
– Procházejte pracovní aplikace a webové stránky (včetně Gmailu, GChatu a interního asistenta umělé inteligence Meta, Metamate).
Konečným cílem je podle technického ředitele společnosti Meta Andrewa Boswortha vytvořit agenty umělé inteligence, kteří mohou provádět úkoly autonomně. Podle této dlouhodobé vize AI „udělá práci“, zatímco zaměstnanci přejdou do rolí zaměřených na správu a zlepšování těchto digitálních agentů.
Nespokojenost zaměstnanců a problémy se soukromím
Toto oznámení vyvolalo ve společnosti vážné třenice. Zaměstnanci vyjádřili obavy ohledně úrovně dohledu a někteří se ptali na možnost „odhlásit se“. Bosworth však potvrdil, že při používání firemního notebooku neexistuje žádný způsob, jak se odhlásit.
Zastánci soukromí a odborníci na digitální práva vyjádřili před tímto krokem řadu varování:
* Narušení soukromí: Eric Null z Centra pro demokracii a technologie označil tento plán za jednu z nejrušivějších forem dohledu na pracovišti.
* Riziko zkreslení: Existuje obava, že používání dat interakce mezi člověkem a systémem k trénování umělé inteligence může neúmyslně replikovat a škálovat strukturální zkreslení.
* Dopad na přístupnost: Odborníci varují, že takové podrobné sledování může nespravedlivě penalizovat nebo nesprávně interpretovat jednání zaměstnanců se zdravotním postižením, kteří mohou používat různé navigační vzorce.
V reakci na to Meta uvedla, že data se používají výhradně pro školení AI, nepoužívají se k hodnocení výkonu a manažeři nemají přístup k nezpracovaným datům. Společnost tvrdí, že má zavedena „záruky“ na ochranu citlivého obsahu.
Širší kontext: Investice do umělé inteligence vs. zmenšování
Tento krok ke zvýšení dohledu přichází pro Meta v paradoxní chvíli. I když společnost agresivně investuje do umělé inteligence a letos vynaložila více než 135 miliard $, provádí také masivní škrty v počtu zaměstnanců.
“Zaměstnanci všude pomáhají školit systémy, které jim zaberou práci.” — Bill Howe, docent na Washingtonské univerzitě
Meta je v současné době v procesu propouštění přibližně 8 000 zaměstnanců (10 % své pracovní síly), čímž pokračuje trend, díky kterému společnost zrušila 25 000 pracovních míst od roku 2022. To vytváří napětí mezi snahou společnosti o technologickou „superinteligenci“ a zmenšující se lidskou pracovní silou.
Shrnutí
Meta využívá své vlastní zaměstnance jako živé tréninkové hřiště pro vytváření autonomních agentů AI. Tento krok slibuje rychlý technologický pokrok, ale vyvolává hluboké otázky ohledně soukromí pracovníků, etiky dohledu a dlouhodobé stability lidských rolí v ekonomice řízené umělou inteligencí.
