Výzkumný pracovník a doktorand informatiky Giannis Daras odhalil tajný jazyk, který vytvořil špičkový generátor umělé inteligence DALL-E 2, jenž převádí text na obraz.
Předpokládá se, že DALL-E 2 si vytváří vlastní slova, aby dával smysl obrázkům, které generuje. Daras pak tato slova předal zpět do systému a umělá inteligence zřejmě přesně rozuměla tomu, co četla.
None of these pictures really have transcribable text, so I asked DALL-E to generate more whales until there was an image with text to copy. This is the first one DALL-E gave me.
— Benjamin Hilton (@benjamin_hilton) May 31, 2022
(11/15) pic.twitter.com/6o5tb91JPx
Daras se domnívá, že jde o velkou bezpečnostní díru, protože by to mohlo vést k útokům zadními vrátky nebo ke způsobům, jak obejít filtr. V současné době systémy zpracování přirozeného jazyka filtrují textové výzvy, které porušují pravidla zásad, a nesrozumitelné výzvy mohou útočníci případně využít k obejití těchto filtrů.
Přihlaste se, komentujte články a ukládejte si ty nejzajímavější k pozdějšímu přečtení.
Přihlásit se přes náš web
Ještě nemáte účet? Staňte se členem.