- Se zákazníkem by Jensen Huang nejdřív mluvil, protože Nvidia cizí firmy neřídí
- Obavy z AI označuje za neopodstatněné a řešení vidí v rychlejším vývoji kontrolních nástrojů
- Nvidia podobné nástroje sama nabízí a britskému výzkumu bezpečnosti AI slibuje výpočetní výkon za 250 milionů dolarů
„Je to hypotetické, ale ano.“ Šéf Nvidie Jensen Huang tak v rozhovoru pro Bloomberg v Londýně potvrdil, že by přestal dodávat čipy zákazníkovi, který staví nebezpečnou umělou inteligenci.
Nejdřív rozhovor, pak stopka
Podle TNW by Huang nejprve promluvil se zákazníkem, protože Nvidia cizí firmy neřídí a její technologie je univerzální. Obavy z AI přitom považuje za neopodstatněné. Jde prý o dětské nemoci a část starostí si lidé přidělávají sami. Lék vidí v rychlejším vývoji nástrojů, které AI udrží na uzdě a budou ji monitorovat, protože dohlížet na ni může právě umělá inteligence.
Podobně se vyjádřil už v září na konferenci Dreamforce v San Franciscu. Obor podle něj nové zákony nepotřebuje, firmy mají fungovat jak nejrychleji umějí, a výrobky, u nichž pochybují o bezpečnosti, nemají pouštět na trh. Dario Amodei z Anthropicu ovšem na stejném pódiu mluvil o transparentnosti a společných standardech pro celý obor.
Dohled na vlastním hardwaru
Koncem září Nvidia představila Open Agent Safety Platform. Tvoří ji open source runtime OpenShell, který agentům vymezuje hranice, a referenční řešení Sentry. To funguje jako hlídač na jejích čipech BlueField-4 a podle výrobce umí agenta, který z hranic vybočí, izolovat během milisekund.
V úterý k tomu přibyl dar výpočetního výkonu v hodnotě 250 milionů dolarů na pět let pro britský výzkum bezpečnosti AI agentů. Přístup k němu zajistí britští partneři Nvidie, výběr poskytovatelů i obchodní podmínky se ale mají teprve dohodnout.
Stopku už Nvidia zná
Podle červencové zprávy Financial Times zavedla Nvidia seznam schválených odběratelů v Singapuru, Malajsii a Japonsku. Má zabránit tomu, aby čipy mířily do Číny oklikou přes třetí země. Víc než polovina dosavadních zákazníků v regionu, hlavně provozovatelů takzvaných neocloudů, v prvním kole neuspěla, vyřazené firmy se ale mohou po úpravách znovu přihlásit. Zpráva se opírá o tři anonymní zdroje a Reuters ji v době vydání nedokázal samostatně ověřit.
Společnost tak sama rozhoduje, komu čipy prodá, a zároveň nabízí nástroje, které mají hlídat chování AI agentů. Podle jakých kritérií by nebezpečnou AI poznala, z ničeho zatím nevyplývá. Dokud je stopka hypotetická, nikdo to zjišťovat nemusí. Zatím.
Adam Homola
Další dnešní články
