Anthropic obvinil Alibaba z rozsáhlé operace zaměřené na neoprávněné získávání schopností jeho modelu Claude. Podle dopisu, který viděla agentura Reuters, jde o dosud největší známý distilační útok namířený proti společnosti.

Ve zmíněném dopise adresovaném americkým senátorům a představitelům Bílého domu Anthropic tvrdí, že osoby napojené na laboratoř Qwen AI od Alibaby využily téměř 25 000 falešných účtů k vygenerování 28,8 milionu interakcí s Claudem mezi dubnem a červnem. Podle firmy tím obcházely regionální omezení i podmínky používání služby.

Známý vzorec, větší rozsah

Obvinění navazuje na dřívější případ, který Anthropic zveřejnil v únoru. Tehdy firma označila DeepSeek, Moonshot AI a MiniMax za laboratoře, jež vedly „průmyslové kampaně“ s využitím 24 000 podvodných účtů a 16 milionů dotazů s cílem přenést schopnosti Clauda do vlastních modelů.

V případě Alibaby má jít podle Anthropic o ještě rozsáhlejší a sofistikovanější operaci. Distilace obvykle spočívá v zadávání velkého množství promyšlených dotazů, jejichž cílem je získat vzorce chování a výstupy modelu a použít je při trénování konkurenčního systému za výrazně nižší náklady.

Anthropic uvedl, že kampaň mířila zejména na nejsilnější schopnosti Clauda, včetně softwarového inženýrství a autonomního uvažování.

Bezpečnost a politika

Obvinění přichází v době rostoucího napětí mezi Anthropicem a Trumpovou administrativou kvůli bezpečnosti umělé inteligence. Začátkem měsíce ministerstvo obchodu zavedlo exportní omezení, která společnosti Anthropic nařizují zpřístupňovat nejnovější modely Fable 5 a Mythos 5 pouze občanům USA.

Anthropic na to reagoval stažením obou modelů z trhu. Firma zároveň dlouhodobě upozorňuje, že podobná distilace může představovat riziko pro národní bezpečnost, protože získané schopnosti mohou být zneužity i pro útočné kybernetické operace.

Dopad na trh

Po zveřejnění zprávy akcie Alibaby klesly přibližně o 3%. Zveřejnění zřejmě ještě posílí tlak ve Washingtonu na omezení přístupu Číny k americkým systémům umělé inteligence.

Anthropic označil údajnou operaci za dosud největší pokus čínského subjektu zneužít pokroky předních amerických AI laboratoří.