Nvidia slíbila britskému výzkumu bezpečnosti AI kapacitu za 250 milionů dolarů
Nvidia poskytne britskému výzkumu bezpečnosti AI výpočetní kapacitu oceněnou na 250 milionů dolarů během pěti let. Většina má sloužit širší výzkumné obci; podíl dostanou také laboratoře vedené Oxfordem a UCL či Imperial College London.
Nvidia v oznámení datovaném 13. října přislíbila britským výzkumníkům přístup k výpočtům za 50 milionů dolarů ročně po dobu pěti let. Podpora má sloužit výzkumu bezpečnosti AI agentů, tedy systémů, které pomocí nástrojů samostatně provádějí více navazujících úkonů. Firma oceňuje celý závazek na 250 milionů dolarů.
Poskytovatelé kapacity se teprve vyberou
Výpočty mají běžet na infrastruktuře v Británii a přístup k nim Nvidia zaplatí prostřednictvím tamních partnerů svého programu NVIDIA Cloud Partners. Konkrétní poskytovatelé, technické uspořádání i obchodní podmínky podle oznámení ještě čekají na dohodu. Zpráva neuvádí počet čipů ani objem výpočetního času, který za uvedenou částku výzkumníci dostanou.
Jde o příslib služby. Pro jednotlivou laboratoř z něj zatím neplyne, kolik výpočtů bude moci spustit současně ani kdy dostane přístup. Nvidia se zavázala hradit kapacitu; oznámení nepopisuje předání vlastních serverů jednotlivým univerzitám.
Většina podpory má sloužit širší výzkumné obci
Mezi příjemci jsou laboratoř BOLD vedená Oxfordskou univerzitou, SOFAIR pod vedením University College London a Imperial College London. Nvidia výslovně uvádí, že většina podpory připadne širší britské obci zabývající se bezpečností AI. Jmenovaná pracoviště mají získat jen část závazku. UCL 14. října potvrdila, že konkrétní částky pro příjemce budou oznámeny později.
SOFAIR spolupracuje s univerzitami v Cambridgi, Oxfordu a Edinburghu. Zkoumá jiné možnosti stavby AI a přístupnější způsoby jejího vývoje a provozu. Její ředitel David Barber podle zprávy UCL chce přidělené výpočty využít ke zkoumání nových otevřených architektur a k ověřování jejich bezpečnosti už během vývoje. Základem bezpečnější AI je podle něj lepší porozumění tomu, jak systémy fungují.
Laboratoř přitom usiluje o širší výběr technologií, na kterých AI stojí. UCL vysvětluje její zaměření tím, že dnešní modely spoléhají na malý počet rozšířených architektur, velké objemy trénovacích dat a rozsáhlou výpočetní infrastrukturu. SOFAIR vznikla jako součást programu britské výzkumné agentury UKRI, financovaného přes její radu EPSRC. Ten má za 60 milionů liber podpořit dvě laboratoře, které přehodnocují způsoby, jak se AI učí a pracuje. Druhou je BOLD; její výzkum se soustředí na učení systémů, které se průběžně přizpůsobují novým situacím. Imperial má v nynějším programu Nvidie pracovat na bezpečnostním inženýrství a robotice.
Dar neznamená přímé financování státního institutu
Guardian upozornil, že Nvidia ve svém oznámení nejmenuje britský AI Security Institute, který zkouší pokročilé modely před vydáním. Novou podporu univerzitního výzkumu proto nelze automaticky přičíst tomuto státnímu pracovišti. Zpráva deníku zasazuje dar do debaty o rizicích agentů a britské snahy hodnotit bezpečnost AI.
Výzkumné programy mají podle Nvidie zahrnout bezpečné agenty, ochranu otevřených modelů a omezování skutečných hrozeb. Firma počítá s oddělenými prostředími pro bezpečné spouštění úloh, opakovatelnými pokusy a srovnávacími testy. Jmenuje také svůj návrh ochrany agentů Sentry, o němž jsme psali při jeho zářijovém ohlášení. Jaké úlohy se na přidělené kapacitě skutečně rozběhnou, bude záviset na programech příjemců a dohodnutém přístupu.