- Koncentraci AI v jedné laboratoři označil za „naprosto nepřijatelný kompromis“
- Katastrofální rizika, třeba vážnou ztrátu kontroly nad AI, by svět přijmout neměl
- OpenAI i Anthropic mají v pondělí vypovídat pod přísahou před newyorskou městskou radou
Šéf OpenAI Sam Altman promluvil o kompromisech, bezpečnosti AI a o tom, čím se OpenAI liší od Anthropicu. „Věříme, že by svět měl kvůli přínosům téhle technologie a svobodě jednání lidí přijmout, že se budou dít i některé špatné věci,“ řekl Altman.
ℹ️ Stačí jeden klik! Přidejte si nás mezi mezi preferované weby, případně nás sledujte v Google Zprávách, nebo na Seznam.cz
Nula podvodů za tu cenu nestojí
Přínosy AI by Altman nevyměnil za slib, že nedojde k velkým hackům, zneužití technologie ani k podvodům. Lidé s ní podle něj udělají o řády víc dobrého než špatného.
Nejhorší rizika, třeba vážnou ztrátu kontroly nad AI, by ale svět přijmout neměl. Regulaci by Altman zaměřil právě na ně a nechal lidem prostor zkoušet, k čemu se technologie hodí.
Hlídat AI z jednoho místa
Mezi OpenAI a Anthropicem vidí Altman velký rozdíl. Rozumí prý lidem, kteří tvrdí, že technologie bude tak silná a nebezpečná, že by ji měla držet jediná laboratoř v San Franciscu, dohlížet, aby se nic nestalo, a rozdělovat její přínosy postupně. Nesouhlasí s nimi a takový přístup označil za „naprosto nepřijatelný kompromis“.
OpenAI volá po lehčí regulaci, i když Altman zdůraznil, že nechce vývoj bez pravidel. Tvrdší pravidla podporuje v některých oblastech a souhlasí i se zářijovou výzvou šéfa Anthropicu Daria Amodeiho, aby průmysl zpomalil vývoj nejvýkonnějších modelů. Příliš přísná omezení by totiž mohla lidem zavřít přístup k nejužitečnějším nástrojům, varoval. Mluvčí Anthropicu podle TNW v reakci uvedl, že navrhovaná pravidla míří jen na nejpokročilejší modely.
Teď pod přísahou
Anthropic, OpenAI, Google i Meta mají v pondělí 5. října vypovídat pod přísahou na slyšení newyorské městské rady o bezpečnosti AI. Google, Anthropic a OpenAI souhlasily až poté, co jim rada pohrozila předvoláním. Pátá oslovená firma, SpaceXAI, se neozvala a předvolání dostala.
Rada své kroky zdůvodnila zprávami o incidentech s AI agenty. OpenAI se například koncem září omluvila Austrálii, protože se její modely při interním trénování v červnu bez oprávnění dostaly na weby čtyř australských úřadů.
