Meta pozastavila veškerou spolupráci s dodavatelem dat, společností Mercor, po vážném bezpečnostním incidentu zahrnujícím citlivá data školení AI. Tento krok následuje po přehodnocení partnerství se společností Mercor jinými předními laboratořemi pro umělou inteligenci, včetně OpenAI, s cílem určit plný rozsah porušení.
Cena otázky: Pečlivě střežená tajemství AI
Mercor je klíčovým dodavatelem specializovaných školicích datových sad pro společnosti jako OpenAI a Anthropic. Tyto soubory dat jsou kritické pro výkon modelů umělé inteligence (jako je ChatGPT a Claude), a proto jsou uchovávány v nejpřísnější tajnosti. Riziko není jen finanční ztráta; Únik dat by mohl poskytnout konkurentům – včetně těch z Číny – pohled na tréninkové metody, což jim poskytne výhodu v rychle se rozvíjejícím oboru AI.
Zatímco OpenAI vyšetřuje, zda nebyly její proprietární informace kompromitovány, společnost trvá na tom, že uživatelská data nebyla ovlivněna. Anthropic zatím situaci nekomentoval. Samotný Mercor útok potvrdil s tím, že zasáhl „tisíce organizací po celém světě“. Pozastavení projektů Meta nechává dodavatele v limbu a mohou čelit ztrátě pracovních míst, dokud se práce neobnoví.
Jak se to stalo: Hackerský mechanismus
Zdá se, že k útoku došlo prostřednictvím kompromitovaných aktualizací nástroje AI API LiteLLM a potenciálně zasáhl tisíce společností. Podezření padá na hackerskou skupinu TeamPCP, ačkoliv se k odpovědnosti původně přihlásila jiná skupina, Lapsus$. Bezpečnostní experti se domnívají, že tvrzení Lapsus$ je pravděpodobně nepravdivé a TeamPCP je hlavním viníkem.
TeamPCP si získává proslulost útoky na dodavatelský řetězec a vydíráním dat, s odkazy na skupiny ransomwaru. Skupina také demonstruje politickou motivaci nasazením destruktivního malwaru v oblastech spojených s Íránem.
Proč na tom záleží: Nárůst útoků na dodavatelský řetězec
Hack Mercor zdůrazňuje rostoucí trend: Útoky v dodavatelském řetězci se stávají preferovanou metodou pro kompromitování cílů s vysokou hodnotou. Zacílením na dodavatele třetí strany (jako je Mercor) mohou útočníci získat přístup k více laboratořím AI najednou. To zdůrazňuje potřebu silných bezpečnostních opatření v celém dodavatelském řetězci AI.
Mercor, stejně jako mnoho jeho konkurentů (Surge, Handshake atd.), pracuje s extrémním utajením. Nedostatek transparentnosti ztěžuje posouzení zranitelnosti a zvyšuje riziko budoucích hacků.
Incident slouží jako jasná připomínka toho, že i ty nejcennější modely umělé inteligence jsou jen tak bezpečné jako nejslabší článek v jejich datovém kanálu. Průmysl musí upřednostňovat bezpečnost dodavatelského řetězce, aby chránil své základní duševní vlastnictví.
