Šéf OpenAI: kvůli přínosům AI by svět měl překousnout i nějaké ty špatné věci

Koncentraci AI v jedné laboratoři označil za „naprosto nepřijatelný kompromis“
Katastrofální rizika, třeba vážnou ztrátu kontroly nad AI, by svět přijmout neměl
OpenAI i Anthropic mají v pondělí vypovídat pod přísahou před newyorskou městskou radou

Šéf OpenAI Sam Altman promluvil o kompromisech, bezpečnosti AI a o tom, čím se OpenAI liší od Anthropicu. „Věříme, že by svět měl kvůli přínosům téhle technologie a svobodě jednání lidí přijmout, že se budou dít i některé špatné věci,“ řekl Altman.

ℹ️ Stačí jeden klik! Přidejte si nás mezi mezi preferované weby, případně nás sledujte v Google Zprávách, nebo na Seznam.cz

Nula podvodů za tu cenu nestojí

Přínosy AI by Altman nevyměnil za slib, že nedojde k velkým hackům, zneužití technologie ani k podvodům. Lidé s ní podle něj udělají o řády víc dobrého než špatného.

Nejhorší rizika, třeba vážnou ztrátu kontroly nad AI, by ale svět přijmout neměl. Regulaci by Altman zaměřil právě na ně a nechal lidem prostor zkoušet, k čemu se technologie hodí.

Hlídat AI z jednoho místa

Mezi OpenAI a Anthropicem vidí Altman velký rozdíl. Rozumí prý lidem, kteří tvrdí, že technologie bude tak silná a nebezpečná, že by ji měla držet jediná laboratoř v San Franciscu, dohlížet, aby se nic nestalo, a rozdělovat její přínosy postupně. Nesouhlasí s nimi a takový přístup označil za „naprosto nepřijatelný kompromis“.

OpenAI volá po lehčí regulaci, i když Altman zdůraznil, že nechce vývoj bez pravidel. Tvrdší pravidla podporuje v některých oblastech a souhlasí i se zářijovou výzvou šéfa Anthropicu Daria Amodeiho, aby průmysl zpomalil vývoj nejvýkonnějších modelů. Příliš přísná omezení by totiž mohla lidem zavřít přístup k nejužitečnějším nástrojům, varoval. Mluvčí Anthropicu podle TNW v reakci uvedl, že navrhovaná pravidla míří jen na nejpokročilejší modely.

Teď pod přísahou

Anthropic, OpenAI, Google i Meta mají v pondělí 5. října vypovídat pod přísahou na slyšení newyorské městské rady o bezpečnosti AI. Google, Anthropic a OpenAI souhlasily až poté, co jim rada pohrozila předvoláním. Pátá oslovená firma, SpaceXAI, se neozvala a předvolání dostala.

Rada své kroky zdůvodnila zprávami o incidentech s AI agenty. OpenAI se například koncem září omluvila Austrálii, protože se její modely při interním trénování v červnu bez oprávnění dostaly na weby čtyř australských úřadů.

Vstoupit do diskuze (2)

Zdroj článku

Autor článku

Adam Homola

Nové technologie mě fascinují už od útlého věku. K dlouhodobému zájmu o hry a herní průmysl se mi postupem času přirozeně přidal i hardware, software, internetové služby a od roku 2022 i umělá inteligence.