- Generální ředitel Microsoftu je z rostoucího vlivu umělé inteligence nervózní
- Volá po transparentnějším systému, ve kterém by AI měla fungovat
- Se svými myšlenkami se shoduje s řadou bezpečnostních expertů
Umělá inteligence je v posledních letech velké téma, a to nejen z hlediska technických inovací, ale také společenských dopadů. Tvůrci velkých jazykových modelů sice do rozvoje AI investují značné prostředky, na druhou stranu ale neváhají varovat před možnými negativními dopady. Výjimkou v tomto ohledu není ani generální ředitel Microsoftu Satya Nadella, který chce na poli AI uspět se svým Copilotem.
Je potřeba mít větší kontrolu nad AI, míní Nadella
V poměrně obsáhlém příspěvku na platformě X prezentoval Nadella své názory na nebezpečí, která představují vysoce pokročilé modely umělé inteligence, a na to, jak těmto rizikům čelit. Konkrétně generální ředitel Microsoftu uvádí, že již nemůžeme akceptovat svět, ve kterém je umělá inteligence považována za soubor vnořených černých skříněk, jejichž rady a činy nekriticky přijímáme nebo odmítáme. Mimo jiné také vyzývá k vybudování transparentnějšího systému, v němž lze modely omezit a sledovat a který zanechává nezfalšovatelné důkazy čitelné pro člověka.
— Satya Nadella (@satyanadella) October 10, 2026
„Musíme předpokládat, že model je kompromitován, a od samého začátku ho izolovat. Představte si to jako nouzovou brzdu. Oprávněná osoba by měla mít vždy možnost pozastavit nebo vypnout model uprostřed úkolu. Pokročilejší modely budou vyžadovat pokročilejší technologie izolace, které musíme standardizovat,“ zmínil Nadella ve svém příspěvku.
Nepřehlédněte
Microsoft své AI přikázal, že se nikdy nesmí bránit vypnutí. Modely to ale zatím nevědí
Mnohá z jeho doporučení se shodují s tím, co jsme slyšeli od jiných představitelů tohoto odvětví: včasné zveřejňování incidentů, nezávislé audity, ověřitelná data a izolace. Právě v tomto posledním bodě se zdá, že jde o něco dále než někteří jiní odborníci v oboru. Zajímavostí je také drobný detail: Nadella ve svém textu označuje umělou inteligenci jako „superinteligenci“, což je termín, který vehementně prosazuje americký prezident Donald Trump. Nadella se podle všeho rozhodl hrát jeho hru a chce být s Bílým domem zadobře.
Dominik Vlasák
Další dnešní články
