Sandersův návrh zákona by zakázal vývoj superinteligence

Americký senátor Bernie Sanders a člen Sněmovny reprezentantů Greg Casar 23. září představili návrh, který by zabrzdil vývoj nejvýkonnějších systémů umělé inteligence. Agentura Associated Press popsala jeho zveřejnění ve stejný den. Sandersova kancelář záměr ohlásila už 3. září, tehdy ale mluvila o připravovaném textu.

Samotný návrh Ban Artificial Superintelligence Act of 2026 má 19 stran. Jeho dostupná verze zatím neuvádí číslo senátního tisku ani výbor, kterému by byl přidělen: na obou místech zůstaly prázdné řádky. Nejde tedy o platné pravidlo. Jde o návrh dvou zákonodárců, který teprve čeká politický střet.

Pauza začíná u 10²⁵ operací

Text rozlišuje pokročilý systém a superinteligenci. Za pokročilý považuje model vytrénovaný s výpočetním rozpočtem nejméně 10²⁵ celočíselných operací nebo operací s plovoucí desetinnou čárkou. Ministr pro umělou inteligenci by měl hranici každý rok upravit podle účinnosti trénovacích metod a technického vývoje tak, aby odpovídala dnešnímu limitu.

Po nabytí účinnosti by se takové systémy nesměly dál trénovat, měnit ani dolaďovat. Nevydaný model nad hranicí by se nesměl nasadit. Pauza by skončila až ve chvíli, kdy bude nové ministerstvo plně obsazené a vydá pravidla pro bezpečný vývoj. Ta mají zahrnovat ohlášení plánů před zahájením práce, průběžné hodnocení, audity a konečný souhlas před nasazením.

Po skončení obecné pauzy by vývojáři stále potřebovali zvláštní oprávnění. Držitel by ministerstvu musel zpřístupnit modely, postupy, zaměstnance i fyzickou infrastrukturu v rozsahu, který úřad uzná za potřebný. Žádný pokročilý systém by se navíc nesměl vydat, převést ani dovézt bez kontroly před nasazením.

Zákaz sahá od vývoje až k držení modelu

Superinteligenci návrh vymezuje dvěma cestami. Buď překonává lidské poznávací schopnosti ve většině oborů a úloh, nebo dokáže naplánovat a provést zničení či zbavení lidstva moci, včetně podkopání americké federální vlády. Zákaz by se netýkal pouze trénování. Text jmenuje také nasazení, pořízení, držení, financování, dovoz a převod systému nebo částí, ze kterých lze jeho schopnosti obnovit.

Ještě širší je seznam znaků, které mají superinteligenci předcházet. Patří mezi ně automatizace výzkumu AI, neoprávněný přístup k chráněné infrastruktuře, pokračování v činnosti navzdory pokusu o vypnutí, pomoc s vývojem jaderných, chemických či biologických zbraní, samostatné vylepšování a klamání lidského dohledu. Systém s takovým znakem by musel být ihned odpojen od internetu. Když se rizikovou schopnost nepodaří odstranit a ověřit, návrh žádá jeho vyřazení do 30 dnů.

Kdo takový systém objeví, měl by to ministerstvu oznámit do 24 hodin. Návrh zároveň chrání zaměstnance a dodavatele, kteří možné porušení nahlásí úřadu, policii nebo Kongresu.

Nové ministerstvo by rozhodovalo i o zničení systému

Návrh zakládá Department of Artificial Intelligence, tedy federální ministerstvo pro umělou inteligenci. V čele by stál prezidentem jmenovaný ministr potvrzený Senátem. Radit mu má odborná rada, jejíž členy vybere sám ministr. Úřad by sledoval pokročilé modely před trénováním, během něj i po nasazení a mohl by nařídit odstranění nebezpečné schopnosti nebo vyřazení systému.

Nejpřísnější trest míří na vedoucí pracovníky a samostatné pachatele, kteří pravidla poruší z nedbalosti: pokuta a nejvýše 20 let vězení. Řadovému zaměstnanci by hrozil desetiletý zákaz práce v oboru, ministr by ho však mohl prominout oznamovateli. Firma by přišla o oprávnění a po potvrzení porušení odvolacím soudem by stát mohl zabavit její duševní vlastnictví a majetek potřebný ke zničení dotčených systémů a hardwaru.

Politická překážka je podstatná. Associated Press připomíná, že návrh přichází do Kongresu ovládaného republikány, který se dosud neshodl ani na mírnější regulaci AI. Dokument proto zatím ukazuje hlavně jednu krajní variantu americké debaty: pevnou výpočetní hranici, nový federální úřad a zákaz systému podle jeho schopností.

Zdroje

• Ban Artificial Superintelligence Act of 2026, plné znění návrhu
• Sanders, Casar to Introduce Legislation to Ban Artificial Superintelligence, kancelář Bernieho Sanderse, 3. září 2026
• Sen. Sanders unveils bill to ban artificial superintelligence, Associated Press, 23. září 2026