Dnes Meta představila nový nástroj AI. Vytváří obrazy, které vypadají docela realisticky. Pokud je váš účet na Instagramu veřejný, v podstatě dobrovolně dáváte svou tvář k dispozici ostatním. Opravte tuto situaci hned teď.
Model se jmenuje Muse Image. Je součástí rodiny nástrojů Meta s názvem Muse Spark, vyvinutých v jejich superinteligenčních laboratořích. Blog společnosti uvádí, že systém dokáže zpracovávat složité dotazy, vytvářet složené fotografie a upravovat stávající obrázky. Vyzkoušet si to můžete právě teď v aplikaci Meta AI, Instagramu nebo WhatsAppu. Společnost plánuje integraci nástroje do Facebooku, Messengeru a v budoucnu i pro inzerenty.
Mark Zuckerberg v úterý ukázal nové funkce na svém zdroji. Zveřejnil asi třicet nových AI efektů pro příběhy Instagramu. Objevily se klony Zuckerberga. 360stupňový pohled s avatarem AI Alexandra Wena. Výstavní portrét Chief Technology Officer Andrew Bosworth.
Toto není nová technologie. V loňském roce OpenAI experimentoval s něčím podobným v Soře a umístil uživatele na pozadí videa. Uživatelům se to nelíbilo. Celebrity byly pobouřeny. Vytváření deepfakes se stalo příliš snadným. Nástroj Meta vytváří přesně stejný problém. Stejná rizika, jiná společnost.
Zapomeňte na chvíli na záplavu nekvalitního obsahu AI. Ignorujte skutečnost, že pokaždé, když nahrajete fotografii, trénujete jejich systémy. Podívejte se na nastavení.
Pokud je vám více než osmnáct let a váš účet je veřejný, může vás kdokoli „označit“ v žádosti. Kdokoli může vytvořit hyperrealistické obrázky vaší tváře. V podstatě deepfakes. Jediné, co musíte udělat, je zadat své jméno.
Jak to zablokovat
To jsem vyzkoušel v praxi. Chtěl jsem pochopit, jak je to jednoduché.
Vzal jsem si přezdívku kolegy CNET, Abrar Al-Hiti. Má otevřený účet. Zadal jsem dotaz pomocí jejího uživatelského jména. O minutu později se proměnila v pirátku. Podrobnosti. Vážně. Je to děsivě snadné. Snažil jsem se udělat totéž se svým soukromým účtem. Meta AI nefungovala. Žádost nebyla dokončena. Vypadá to, že na soukromí záleží.
Jak se tedy chránit?
Musíte vypnout přepínač „Povolit lidem opětovné použití vašeho obsahu…“.
Přejděte do nastavení Instagramu. Přejděte do části Sdílet a znovu použít. Vypněte možnost Povolit ostatním znovu používat váš obsah z tohoto účtu a ve funkcích AI Meta. Můžete to nakonfigurovat samostatně pro sloupky a kotouče.
Pokud je váš účet uzavřen? Ve výchozím nastavení jste v bezpečí. Žádný remix. Žádné generování obrázků na základě vašich fotografií. Můj kolega tuto možnost ihned po našem testu vypnul.
Ale je tu ještě jedna úroveň ochrany. Když poprvé povolíte aplikaci, aby vás poznala v Meta AI, systém požádá o povolení. Může vyžadovat, abyste nahráli selfie nebo více fotografií. Zde si stanovíte hranice. Můžete omezit, kdo může váš obrázek používat: pouze vy, schválení sledující, vzájemní sledující nebo všichni. Chcete-li tato nastavení opravit, zkontrolujte v aplikaci sekci „Nastavení > Váš obrázek“.
Snaží se to prezentovat jako neškodnou věc. Zábavný nový efekt. Ale jednoho dne, až budou brány otevřené, kdo rozhodne, co by mělo projít? 🏴☠️
