- Brad Smith chce nouzovou brzdu pro AI ovládající kritickou infrastrukturu, povinné hlášení incidentů a nezávislé testy modelů před spuštěním
- Pro ITV navíc dodal, že vlády by měly umět systémy vypnout stejně, jako dnes uzemňují letadla
- Bílý dům zatím sází na dobrovolné závazky a Microsoft nepodepsal nedávný dokument z Washingtonu
Prezident Microsoftu Brad Smith volá po globálních bezpečnostních pravidlech pro umělou inteligenci. V podcastu BBC Big Boss Interview to shrnul přirovnáním z domácnosti: „Pračka dnes podléhá víc bezpečnostním pravidlům než umělá inteligence. Každá krabice mléka v obchodě podléhá pravidlům a inspekci.“ Totéž přirovnání použil už 8. října pro ITV News.
Brzda, hlášení a razítko
První ze tří Smithových opatření je nouzová brzda, často označovaná jako kill switch, pro AI systémy ovládající autonomní zařízení nebo kritickou infrastrukturu. Mít ji v rukou by měly firmy provozující modely i poskytovatelé cloudu, na kterém běží, a podle ITV by vlády měly mít pravomoc systémy vypnout stejně, jako dnes uzemňují letadla.
Druhým opatřením je zákonná povinnost hlásit incidenty. Pokud se AI agenti vymknou kontrole a vniknou do cizích systémů, měly by o tom oběti vědět, tak jako dnes po úniku dat. U třetího opatření, které označil za nejdůležitější, jde o otázku, zda mají nejvýkonnější modely před spuštěním schvalovat státní hodnotitelé.
Smith se odkázal na krabice mléka a dopravní letadla, které certifikací a inspekcí procházejí už dnes. Pro ITV navíc řekl, že za katastrofální škodu způsobenou zneužitím AI by měla právně odpovídat firma, která ji vyvinula, jestliže jednala nedbale.
Výhoda Londýna
Za globálními pravidly by podle Smithe měla stát Británie. Důvodem je AI Security Institute, který vznikl za vlády Rishiho Sunaka jako AI Safety Institute a podle Smithe má na světě nejsilnější technické schopnosti testovat modely: „Je to Spojené království. Jsou nejlepší.“
Ve Washingtonu se na Londýn podle něj nedívají tak jako na Brusel, což považuje za přednost. Británie navíc bude příští rok předsedat G20 a premiér Andy Burnham slíbil, že předsednictví využije k prosazení jednotných globálních zásad pro AI. Smith ITV řekl, že Británie má respekt v USA a, jak věří, i v Číně a Evropě.
Bílý dům sází na dobrovolnost
Prezident Donald Trump tvrdí, že si odvětví má regulovat samo, aby americké firmy neprohrály s čínskou konkurencí, a opakovaně říká, že kdo vyhraje v AI, vyhrává. Dne 29. září v Bílém domě podepsali dokument White House Accord on Super Intelligence mimo jiné Mark Zuckerberg, Dario Amodei a Elon Musk. Trump ho označil za „morálně závazný“, jenže sankce ani časový plán neobsahuje. Microsoft mezi signatáři chyběl, stejně jako Amazon.
Smith dokument vítá a podle The Next Webu uvedl, že by ho Microsoft rád podepsal. Považuje ho za dobrý a nutný krok, který už ale nestačí: „Obávat byste se měli firem, které nejsou tak zodpovědné.“ Trumpa přitom veřejně nekritizoval, pro ITV dokonce připustil, že prezident má pravdu, když odmítá brzdit inovace. Za existenční hrozbu AI dnes nepovažuje, ale podle něj je nejlepší problém řešit dřív, než se zhorší.
