Bank of America najala tisíc externistů na opravy chyb odhalených AI
Bank of America přibrala tisíc externistů na opravy chyb nalezených AI včetně modelu Mythos od Anthropicu. Pomáhají třem tisícům interních pracovníků. Výdaje banka zveřejnila společně s náklady na opatření proti praní peněz.
Bank of America přidala ve druhém čtvrtletí tisíc externích pracovníků, kteří pomáhají opravovat slabiny jejího softwaru. Generální ředitel Brian Moynihan to popsal 14. října v rozhovoru pro CNBC po zveřejnění čtvrtletních výsledků. K posílení týmu banku vedly schopnosti pokročilých modelů AI včetně Mythosu od Anthropicu odhalovat bezpečnostní chyby. Práce zahrnuje vlastní kód banky i software od dodavatelů.
Tisíc nových externistů pomáhá dosavadnímu týmu
Podle Moynihana tito lidé v bance pracovali i v době říjnového rozhovoru. Připojili se ke třem tisícům interních zaměstnanců působících v dané oblasti. Dohromady jde o čtyři tisíce lidí, ale nově přijatých je z tohoto součtu tisíc. Zbylé tři tisíce ředitel popsal jako dosavadní pracovníky banky.
Stejný přírůstek externistů uvedl už při výsledkové konferenci z 14. října. V jejím přepisu na straně 11 výslovně odlišuje konzultanty od počtu vlastních zaměstnanců. Čísla o posílení oprav proto nelze přímo porovnávat s tím, kolik zaměstnanců banka celkově přijala nebo propustila.
V rozhovoru Moynihan vyjádřil také obavu z obchodního vztahu s dodavateli: banky se podle něj musí mít na pozoru i proto, že lidé vyvíjející tuto technologii jim současně prodávají služby. Je to vyjádření zákazníka bezpečnostních nástrojů. Samo o sobě nedokládá, kolik zranitelností model v bance našel ani jakou škodu by jejich zneužití způsobilo.
Účet za opravy je spojený s jinými výdaji
Veřejně uvedená částka není samostatným rozpočtem na Mythos. Moynihan při výsledkové konferenci spojil výdaje na nápravu problémů souvisejících s tímto modelem s opatřeními proti praní peněz, označovanými zkratkou AML. Za obě činnosti dohromady podle něj banka ve třetím čtvrtletí utratila několik set milionů dolarů. Rozdělení mezi ně nezveřejnil.
Rozlišení je podstatné pro každého, kdo chce z oznámení odvodit cenu obrany proti chybám odhaleným AI. Z celkové částky nejde zjistit odměny externistů, náklady na vlastní zaměstnance ani platby za přístup k modelům. V přepisu stojí společný výdaj, nikoli cena jedné z těchto položek. Ani rozdělit částku mezi čtyři tisíce pracovníků by nedalo jejich průměrnou mzdu.
Ředitel očekává, že výdaje na opravy spojené s Mythosem budou postupně klesat. V rozhovoru to vysvětlil tím, že po provedení záplat ubývá práce na již nalezených slabinách. Jde o očekávání vedení. Banka k němu nepřipojila termín ukončení práce externího týmu ani samostatný výhled částky na příští čtvrtletí.
Anthropic rozšiřuje řízený přístup k obranným nástrojům
Mythos se k prvním vybraným organizacím dostal v rámci projektu Glasswing, oznámeného 7. dubna. Anthropic ho zaměřil na hledání a opravy zranitelností v důležitém softwaru. Mezi jmenovanými partnery byla banka JPMorganChase, vedle technologických firem a správců otevřeného softwaru. Schopnost odhalit chybu zde slouží jako podklad pro práci obránců.
Na stejné stránce už Anthropic uvádí také změnu z 6. října: rozšíření programu Cyber Verification Program pro prověřené bezpečnostní pracovníky do tří úrovní přístupu. Dosavadní účastníci Glasswingu mají přejít do úrovně Specialized Access. O podmínkách tohoto programu jsme psali samostatně. Banka ve svých nynějších vyjádřeních nerozepsala, přes jaké rozhraní či tarif model používá.
Banka současně počítá s úsporami jinde
Moynihan při konferenci uvedl přibližně 130 zavedených projektů AI uvnitř banky. Jejich přínos pro letošní rok popsal částkou 250 až 300 milionů dolarů a pro rok 2027 očekává zhruba 700 milionů. Do budoucího čísla zahrnul projekty připravené k zavedení; nejde o již dosaženou úsporu.
Jednou z oblastí je vývoj technologií, na který podle ředitele banka vydává přes čtyři miliardy dolarů ročně. Vedení očekává desetiprocentní zvýšení efektivity: příští rok chce za stejné náklady zvládnout více práce.