Dva bývalí zaměstnanci OpenAI a koalice neziskových organizací zabývajících se bezpečností AI tvrdí, že investoři by měli být opatrní před nákupem akcií SpaceX. Minulý týden zaslali otevřený dopis adresovaný investorům, kteří zvažují nadcházející primární veřejnou nabídku akcií (IPO). Tato událost by mohla být největší v historii Wall Street. Existuje však vážné upozornění: SpaceX je nyní spojena se společností xAI, která má špatný zvyk šetřit na bezpečnostních opatřeních.
„Nezapočtená rizika“
To je termín používaný autory dopisu. Taková rizika často nedají správcům fondů spát.
SpaceX právě získala xAI, která má soukromé ocenění přes 1 bilion dolarů. Elon Musk se chystá získat až 75 milionů dolarů v hotovosti, případně na vypuštění datových center na oběžnou dráhu, která budou zpracovávat data pro jeho umělou inteligenci. Zní to lákavě. Autoři varování však tvrdí, že kombinovaná struktura se jeví jako zranitelná, zejména z hlediska právní odpovědnosti.
Převážnou část dopisu připravila organizace Guidelight AI Standards, kterou založili Steven Adler a Paige Headley, bývalí zaměstnanci OpenAI. K nim se připojily Legal Advocates for Safe Science, Encode AI a The Midas Group.
Headley nedělá kompromisy. Označuje xAI za nejhorší mezi hlavními AI laboratořemi. OpenAI, Google DeepMind a Anthropic podle něj řeší bezpečnostní problémy mnohem lépe. Proč by tedy investoři měli investovat do SpaceX, když zdědí toto toxické aktivum?
SpaceX a xAI mlčí. To je typické.
Dopis usiluje o jasnost: Vyvíjí xAI pokročilé modely umělé inteligence? Společnost nedávno prodala výpočetní výkon GPU společnosti Anthropic. To je zavádějící. Je xAI konkurencí nebo jen datovou farmou pro rakety SpaceX? Pokud zůstane developerem, potřebuje plán veřejné bezpečnosti. Žádné výmluvy.
Minulé incidenty byly extrémně nepříjemné. Pamatujte si Groka – tento chatbot náhodně generoval diskuse o „bílé genocidě“. Později přes Platformu X kolovaly tisíce sexualizovaných obrázků žen a dětí. Rychlost byla okamžitá a reakce byla rozzlobená.
Třicet sedm amerických státních zástupců poslalo dopisy. Musk je musel poslouchat, nebo to alespoň předstírat.
Proporce zjevně neodpovídají podílu na trhu.
To je podstata. xAI se ocitá pod drobnohledem regulátorů, který se obvykle týká pouze průmyslových gigantů. Situaci sleduje i Trumpova administrativa. Nové výkonné příkazy by mohly dát zpravodajským agenturám větší kontrolu nad kódem umělé inteligence.
Adler zaznamenal problémy s personálem. V lednu zaměstnávala xAI jen dva nebo tři bezpečnostní inženýry, uvedl Washington Post. To není příkaz, je to spíše deklarace záměru.
Investoři by se měli ptát: co se stane, když xAI bude pokračovat ve svém závodě na špičkové technologie bez jakýchkoli brzd? Mohlo by to zničit celou společnost?
Ano, společnost přidala několik testerů doporučených Bílým domem. Situace se zlepšila, ale na prospekt nestačí.
Pozice regulátorů
Guidelight si nejen stěžuje. Organizace vyžaduje zavádění jasných standardů, pravidel a hodnocení, kterým mohou právníci a novináři rozumět. Headley opustil OpenAI v roce 2019, ale poznamenává, že interní zaměstnanci byli vždy znepokojeni. Adler opustil společnost v roce 2024 a všiml si důležitého trendu.
V technologickém průmyslu vítězí rychlost. Model je vypuštěn do vysílání a problémy jsou následně opraveny. Nejčastěji to funguje.
Některé věci ale nelze opravit pomocí záplat.
