- Rapidní rozvoj umělé inteligence nejspíše začíná ohrožovat samotné lidstvo
- To se domnívají alespoň někteří zaměstnanci OpenAI, kteří poslali předchozímu představenstvu varovný dopis
- Na jeho základě nejspíše došlo k odvolání generálního ředitele Sama Altmana
Společnost zabývající se umělou inteligencí OpenAI v letošním roce prakticky nešlo přehlédnout. V posledních dnech nicméně plnily stránky novin a technologických webů informace o škatulatech na pozici generálního ředitele. Představenstvo totiž nejprve kvůli neshodám ohledně vedení společnosti vyhodilo ředitele a jednoho ze zakladatelů Sama Altmana, který se přes krátkou štaci v Microsoftu během několika dní vrátil zpět do vedení firmy, k čemuž pomohla i hrozba hromadného odchodu zaměstnanců. O důvodech prapodivných změn se široce spekulovalo, přičemž pravý důvod možná nyní vyplaval na povrch.
Průlomový objev má potenciál ohrozit lidstvo
Jednou z verzí byly neshody ohledně dalšího směřování společnosti, přičemž podle dostupných informací chtěl Altman rychlejší a mnohem agresivnější rozvoj AI, zatímco členové představenstva preferovali pomalejší a mnohem opatrnější postup při vývoji. Agentura Reuters zveřejnila informace z dopisu, který několik výzkumných pracovníků napsalo předchozímu představenstvu společnosti OpenAI. Tento dopis obsahoval varování před objevem, který společnost učinila.
Společnost OpenAI odmítla tyto informace komentovat. Následně v interní zprávě pro zaměstnance ovšem přiznala, že má projekt nazvaný Q* (Q-Star), a dopis, který zaměstnanci výzkumu zaslali předchozímu představenstvu. Zprávu pro zaměstnance odeslala Mira Murati, která byla technologickou ředitelkou společnosti OpenAI a dva dny dočasnou generální ředitelkou společnosti. Podle agentury Reuters se někteří zaměstnanci domnívají, že Q* by mohl být průlomem v hledání obecné umělé inteligence (AGI). AGI je autonomní systém, který překonává člověka ve většině ekonomicky hodnotných úkolů. Nový model Q* údajně vyřešil některé matematické problémy, což vědce naplňuje optimismem ohledně jeho budoucího úspěchu.
Dopis výzkumných pracovníků předchozí radě údajně upozorňoval na potenciální nebezpečí umělé inteligence. Výzkumníci rovněž upozornili na práci skupiny vědců AI, který vznikl spojením týmů „Code Gen“ a „Math Gen“ v rámci OpenAI. Tento kombinovaný tým zkoumal, jak optimalizovat stávající modely AI, aby se zlepšilo jejich uvažování a případně vykonávaly vědeckou práci. Ačkoli Altman souhlasil se sestavením vyšetřovacího týmu, který by práci vědců prošetřil, představenstvo se domnívalo, že k nim není generální ředitel v tomto ohledu upřímný, a proto přistoupilo k radikálnímu kroku v podobě jeho propuštění. Jak je na tom projekt nyní a zda je stále pro lidstvo hrozbou, je otázka.
Michael Chrobok
Další dnešní články
