Sledujte nás na YouTube

Šéf Tesly chce znát rizika spojená s umělou inteligencí: Obává se, že se může obrátit proti lidstvu

Umělá inteligence se rozvíjí závratnou rychlostí a nezadržitelně se blíží doba, kdy bude schopna uvažovat sama o sobě. Rozbíhají se tedy výzkumy, jak ji udržet v mezích, aby neohrožovala lidské pokolení.

Mnoho velkých mozků dnešní doby, například Stephen Hawking, Bill Gates nebo Elon Musk, pravidelně vyslovuje své obavy ohledně vývoje umělé inteligence. Ta podle nich není tak růžová, jak by se na první pohled mohlo zdát.

 

Již od počátku vývoje výpočetní techniky se objevovaly otázky, zda nás může někdy náš vlastní výtvor překonat. Prozatím je jedním z nejdokonalejších systémů superpočítač Watson od firmy IBM, který je schopen pracovat s daty z historie, s fakty a dalšími informacemi a sám se je učit. I díky tomu dokázal vyhrát Jeopardy, americkou obdobu soutěže Riskuj! Spolu s takto rychlým vývojem roste i tlak na kontrolu a vytváření mantinelů, ve kterých by se měl umělý mozek pohybovat, aby nedošlo k ohrožení lidstva.

 
Superpočítač Watson od firmy IBM vyhrává v soutěži Jeopardy

37 výzkumných týmů v čele s Oxfordem

Elon Musk, zakladatel projektu SpaceX a spoluzakladatel automobilky Tesla, v lednu daroval 10 milionů dolarů (zhruba 250 milionů Kč) institutu The Future of Life, který nyní 7 milionů (175 milionů Kč) z tohoto daru přerozděluje mezi 37 vybraných výzkumných týmů. Ty budou hledat odpovědi na mnoho otázek ohledně umělé inteligence. Granty budou týmům vypláceny v horizontu 3 let podle toho, jak se jim bude ve výzkumu dařit.

 
Úvodní obrázek na LinkedInu institutu The Future of Life: „Technologie dala životu příležitost rozkvést jako nikdy předtím… a nebo zničit sebe sama.“

Největší grant dostane Oxfordská univerzita, konkrétně 1,5 milionu dolarů (37 milionů Kč), která bude mimo jiné zkoumat především dlouhodobé dopady existence umělé inteligence. Také slíbila vytvoření zásad, jež budou minimalizovat rizika související s využíváním počítačových mozků a naopak maximalizovat prospěch z jejich využívání.

 

Machine Intelligence Research Institute (Institut pro výzkum strojové inteligence) dostane grant 250 000 dolarů (6,25 milionů Kč), s jejichž pomocí bude zjišťovat, jak udržet zájmy a hodnoty umělé inteligence v souladu s těmi lidskými.

Na Univerzitu Carnegie Mellon poputuje dalších 200 000 dolarů (5 milionů Kč) na hledání možností, jak by mohly počítače vysvětlovat svá rozhodnutí lidem, abychom je byli schopni pochopit. Univerzita v Duke dostane taktéž 200 000 dolarů a zaměří se především na možný konflikt etiky a umělé inteligence.

Další týmy se zaměří například na to, jak naučit roboty rozeznávat řeč těla a na základě toho poznat, co člověk od umělé inteligence očekává, nebo na to, jak zajistit, aby se roboti a inteligentní zbraně nevymkly lidské kontrole.

 
Takto vypadá prototyp inteligentního brnění Lorica, budou takto jednou vypadat i robotičtí vojáci?

Mnoho povyku pro nic?

Institut Future of Life se podporou těchto týmů nesnaží vyvolat paniku, spíše se snaží pohlížet do budoucna a vyvarovat se případným nevítaným následkům, které by mohly plynout z rychlého a ničím nekontrolovaného vývoje umělé inteligence. Vzhledem k velikosti finančních prostředků, které institut přerozděluje, je však zřejmé, že tento problém nebere na lehkou váhu a samotný Elon Musk by nejspíše byl rád jedním z těch, kteří budou mít na regulace v této oblasti velký vliv.

 

Podobné iniciativy mě samotného vedou k zamyšlení, zda fakt, že očekáváme, že nás námi vytvořená umělá inteligence bude chtít zničit, odráží naši lidskou povahu. Proč by nás chtěla vymazat z povrchu Země? Bylo by to chybou lidského programování, nebo by se sama mohla dostat k závěru, že vzhledem k našim nárokům na planetu a jejímu drancování je naše existence neefektivní a planetě by prospělo, kdybychom zde nebyli?

I neznámé objekty na obloze se snažíme nejdříve zlikvidovat, a až poté zkoumat. Z čeho plyne tento pocit ohrožení a neustálá snaha chránit se všemi možnými prostředky? Je to pud sebezáchovy, určitá paranoia, nebo zkrátka touha mít vše pod kontrolou a nenechat nic náhodě, což bohužel, vzhledem ke komplexnosti našeho světa, není možné? Bojíme se sami sebe a podezříváme tedy, pro jistotu, jeden druhého? Chceme umělou inteligenci primárně využívat jako zbraň? Nebo se jen snažíme jednat s velkou opatrností a nic z výše uvedeného nehraje roli?

Jaký je váš názor na tuto problematiku a její další vývoj? Jsou podobné výzkumy oprávněné, nebo se jedná o mrhání penězi? 

David Preiss

Student vysoké školy žijící v Praze. Rád zkouší nové věci a neustále šilhá po novém telefonu, i když ho nepotřebuje. Fanoušek Elona Muska a jeho projektů, především pak vozů Tesla. Rád běhá, plave a odpočívá na gauči.

6 komentářů

  1. Chuy (neregistrovaný)

    Vůbec nemáme páru vo co go s vesmírem nebo lidstvem. Natož abychom měli páru, jak se bude chovat / co přinese umělá inteligence. Možnosti co přinese mohou být neprosto nepřestavitelné lidské mysli.

  2. Payer (neregistrovaný)

    Mě by nejspíš zajímalo, jestli něco, co náznakem umělou inteligenci připomíná existuje, všelijací jednoúčeloví robotci mají od inteligence celkem hodně daleko a takový Watson je zase jen databáze…

  3. Petrohrad (neregistrovaný)

    Dřív než umělá inteligence nás zdecimují války o zdroje nebo kolaps současného systému, krize, hladomor, protože to jakýme směrem jde naše civilizace, je podle mě dlouhodobě neúnosné.

  4. Tony (neregistrovaný)

    Skôr sa bojím, že nás to nepriamo zničí. Rovnako ako nepriamo nás ničí dnešná technológia kvôli ktorej sa ľudia viac a viac oddeľujú od seba.

  5. cicolably (neregistrovaný)

    skôr by sa mali zamerať kam speje ludská hlúposť

    lebo „Absudristán“ je tu , ani si to neuvedomujeme

  6. krt (neregistrovaný)

    Doporučuji knihu [odkaz]

    Osobně si myslím že technologie jsou naším posledním řesením situace která na světě probíhá, člověk potřebuje něco chytřejšího nad sebou než je on sám. Planetu si z největší části ničíme kvuli honbě za maximalizací zisku, bez ohledu na důsledky. Stroje byly odjakživa prodlouženýma rukama a počítače jsou zase prodloužením našich mozků. Nabízí se scenář z I, robot nebo terminatora že by nás technologie chtěla vyhladit, spíš si ale myslim že by z toho neměl nikdo prospěch. Lidé by ztratili duvěru ve stroje a ty samy o sobě nemají smysl. Lidi si to ztím neumí predstavit, protože i přez neskutečný progress v oblasti IT a zjednodušebí veškere lidské činnosti, pořád žijeme ve starém světě, který ovladají mocní, stejně jako ve středověku kde moc církve byla vším, kde nad světem stále vysí hrozba jaderné války a kde moc medií ovlivňuje ať už přímo nebo nepřímo vsechny lidi z rádoby vyspělejších zemí. Tohle staré uspořádání by se technologii mělo dle mého bát nejvíce.

Napsat komentář

Vaše emailová adresa nebude zveřejněna. Vyžadované informace jsou označeny *