Článek
Hugging Face je pro mnoho vývojářů synonymem otevřené umělé inteligence. Na jediné platformě jsou dostupné desetitisíce modelů pro generování textů, obrázků nebo jejich úpravy. Právě tato otevřenost se ale podle nové studie může stát problémem ve chvíli, kdy se výkonné nástroje dostanou do rukou lidí se škodlivými úmysly.
Výzkumníci se zaměřili na nejpoužívanější modely pro editaci fotografií a zjišťovali, zda obsahují dostatečné ochrany proti vytváření sexuálně explicitních deepfake snímků. Výsledky podle nich ukazují, že část těchto modelů lze obejít nebo je ochrana chybí úplně.
Testování odhalilo slabiny ochranných mechanismů
Studie popisuje, že několik veřejně dostupných modelů dokázalo po zadání vhodných instrukcí vytvořit explicitní úpravy fotografií skutečných lidí. Výzkumníci přitom nezkoumali pouze technické možnosti samotných modelů, ale také způsob, jakým je používají běžní uživatelé.
Součástí analýzy bylo přibližně tisíc textových zadání určených pro úpravu obrázků. Právě z nich vyplynulo, že významná část požadavků směřovala k vytváření falešných intimních fotografií nebo jejich variant. Autoři studie upozorňují, že podobné využití představuje vážné riziko pro soukromí obětí a může vést k vydírání, kyberšikaně i poškození dobrého jména.
Hugging Face sama obrázky negeneruje. Platforma funguje jako repozitář, kde vývojáři zveřejňují své modely a další uživatelé si je mohou stáhnout nebo spouštět prostřednictvím poskytovaných služeb. Právě proto se nyní vede debata o tom, jak velkou odpovědnost má provozovatel za obsah, který hostuje.
Úřady proti deepfake aplikacím přitvrzují
Zveřejnění studie přichází v době, kdy státy začínají proti podobným technologiím postupovat razantněji. Americké úřady v posledních měsících zasáhly proti několika webům zaměřeným na šíření deepfake obsahu. Evropská unie i Spojené království zároveň připravují pravidla, jejichž cílem je omezit nebo zakázat aplikace určené k digitálnímu „svlékání“ lidí bez jejich souhlasu.
Zdroj: Wired.com