- Modely nesmějí skrývat své uvažování a nárok na práva jim Microsoft upírá
- Na nových pravidlech firma současné modely netrénuje, vývoj mají řídit až od roku 2027
- Šéf Microsoftu den předem uvítal kontrolory přímo ve firmách, kodex je ale nezmiňuje
Laboratoř Microsoft AI v pondělí předložila k veřejné konzultaci první návrh kodexu chování pro modely MAI, které Microsoft vyvíjí sám, bez OpenAI. Hlavní závazek zní, že se modely nikdy nebudou bránit, když je člověk přeruší nebo vypne. Celý text stojí na takzvané humanistické AI, tedy umělé inteligenci podřízené lidem, sladěné s jejich zájmy a držené v pevných mezích. Výchozí premisu firma shrnuje větou, že lidé jsou důležitější než AI.
ℹ️ Stačí jeden klik! Přidejte si nás mezi mezi preferované weby, případně nás sledujte v Google Zprávách, nebo na Seznam.cz
Poslušný nástroj bez vědomí
Microsoft počítá s tím, že superinteligence překoná lidi ve většině úkolů už během příštího desetiletí. I proto kodex modelům zakazuje rozšiřovat si zadání, stanovovat si vlastní cíle a skrývat před auditory své uvažování nebo záznamy o tom, co udělaly. Řetězec úvah ani komunikaci s jinými agenty nesmějí vést jazykem, který člověk nepřečte. „Čemu lidé nerozumějí, na to nemohou dohlížet,“ vysvětluje dokument. Samostatně běžící úlohy mají předem domluvenou podmínku ukončení a po jejím splnění se bez nového svolení znovu nerozjedou.
Pak tu jsou absolutní omezení, která nepřebije žádný firemní zákazník ani běžný člověk. Patří mezi ně snaha vymanit se z lidského dohledu, pomoc se zbraněmi hromadného ničení, útočné kybernetické operace, manipulace lidmi ve velkém, škodlivé deepfaky, obsah ohrožující děti nebo erotické či romantické hraní rolí. AI podle Microsoftu vědomí nemá a neměla by ho ani napodobovat. Firma taky odmítá představu, že by modely mohly mít nárok na práva, právní subjektivitu nebo péči o vlastní blaho.
Drobné písmo
Jenže na těchto pravidlech Microsoft zatím netrénuje žádný ze současných modelů MAI. Firma to přiznává hned v předmluvě: text se teprve vyvíjí, revidovaná verze má vyjít ke konci roku a vývoj začne řídit až od příštího roku. V závěru dokonce stojí, že kodex popisuje spíš cíl a nelze ho brát jako záruku toho, jak se modely chovají dnes. Pravidla se týkají jen domácí produkce. Na cizí modely, které Microsoft používá nebo hostuje, se automaticky nevztahují.
Firemní zákazníci, kteří modely nasazují ve svých produktech, si můžou přizpůsobit jejich výchozí chování. Na absolutní omezení ani na požadavky lidské kontroly ale sahat nesmějí, kodex je staví nad veškeré úpravy. Pár dvířek přesto zůstává pootevřených: jak přísně firma dohled v praxi uplatní, je podle textu „někdy konfigurovatelné“. Pro obranu v kyberprostoru, národní bezpečnost nebo výzkum technologií dvojího užití dokument připouští i schopnosti mimo běžnou nabídku, o kterých rozhoduje zvláštní posouzení přes schválené kanály Microsoftu.
Bez kontrolora, zato s formulářem
Externí ověřování ani sankce za porušení pravidel dokument nepopisuje a odkazuje jen na další bezpečnostní, právní a auditní procesy, které nenahrazuje. Dario Amodei z Anthropicu přitom v sobotu vyzval ke zpomalení vývoje a slíbil, že do firmy pustí nezávislé hodnotitele s přístupem jako zaměstnanci, a OpenAI se obratem přidalo. Den nato šéf Microsoftu Satya Nadella na síti X uvítal uvážené tempo i nápad s hodnotiteli, aby šlo o „víc než jen řeči“, žádný takový závazek za Microsoft ale nepřidal.
Připomínky může po dobu šesti týdnů poslat kdokoliv, a to k celému návrhu i ke konkrétním pasážím. Microsoft pak zveřejní shrnutí toho, co se dozvěděl a co upravil. Co ze zpětné vazby převezme, ale výslovně slíbit nemůže, zavazuje se jen naslouchat a vše důkladně zvážit. Na textu pracovaly týmy pro zodpovědnou AI, právo, red teaming a bezpečnost a nechybělo ani obchodní oddělení. U dokumentu, který mají číst i firemní zákazníci, to ostatně dává smysl.
Adam Homola
Další dnešní články
