Systém umělé inteligence DALL-E 2 si vytvořil vlastní tajný jazyk, kterému nikdo nerozumí

Výzkumný pracovník a doktorand informatiky Giannis Daras odhalil tajný jazyk, který vytvořil špičkový generátor umělé inteligence DALL-E 2, jenž převádí text na obraz.

Předpokládá se, že DALL-E 2 si vytváří vlastní slova, aby dával smysl obrázkům, které generuje. Daras pak tato slova předal zpět do systému a umělá inteligence zřejmě přesně rozuměla tomu, co četla.

Daras se domnívá, že jde o velkou bezpečnostní díru, protože by to mohlo vést k útokům zadními vrátky nebo ke způsobům, jak obejít filtr. V současné době systémy zpracování přirozeného jazyka filtrují textové výzvy, které porušují pravidla zásad, a nesrozumitelné výzvy mohou útočníci případně využít k obejití těchto filtrů.

Zdroj: dailystar.co.uk

Upozornit na nové komentáře
Upozornit na
guest
0 Komentáře
Inline zpětná vazba
Zobrazit všechny komentáře
0
Budeme rádi, když okomentujete tento článekx