Při umělé inteligenci nesmíme zapomenout na rizika.
Autor je odborník na umělou inteligenci z Ústavu robotiky a kybernetiky, Fakulty elektrotechniky a informatiky STU v Bratislavě.
Stroje lidé původně začali vymýšlet a vyrábět, aby jim usnadňovali těžkou práci. Dnes už stroje postupně nabývají i jiné schopnosti a inteligenci člověka a budou jej postupně nahrazovat ve většině činností. Postupně dokáží bez problémů nahradit úředníka, prodavače, překladatele a pomalu a jistě i lékaře, soudce, programátora, novináře nebo i vědce, který vyvíjí nové léky, nové materiály nebo umělou inteligenci.
Je pravděpodobné, že inteligentní stroje nám v budoucnu pomohou řešit velké civilizační výzvy jako jsou klimatické změny, získávání energie, zdravotnictví, problém stárnutí populace či prodlužování života.
To, že nás stroje nahradí, ne vždy rádi akceptujeme. Bude to ale ekonomická nezbytnost, abychom byli konkurenceschopní. Stroje přinášejí vyšší produktivitu, vyšší spolehlivost, nebývají nemocné, pokud si dobře udržují, nestěžují si a neúnavně a přesně vykonávají to, co se od nich požaduje.
Kromě toho nás stále více překonávají svým výpočetním výkonem, kapacitou paměti, rychlostí a objemem zpracování dat, schopností získat informace a znalosti. Tak, jako v minulosti člověk přestal konkurovat strojům v těžké manuální práci, později i v precizní práci, dnes jim přestává konkurovat ve vysoce kvalifikované intelektuální a tvůrčí práci.
Strojem delegujeme stále více kompetencí. Pokud to neuděláme, udělá to náš obchodní konkurent, technologický konkurent, ale co je horší, i geopolitický nebo vojenský protivník. A my se dostaneme do nevýhody, ba až do ohrožení.
Stroj nemá vlastní cíle
Omezovat nebo regulovat vývoj a implementaci technologií a umělé inteligence je tedy problematické. A pokud se už rozhodneme delegovat jisté lidské kompetence inteligentním strojem, musíme mít na paměti důležitý fakt: stroj není člověk. Stroj, alespoň prozatím, je nevědomé zařízení, jehož chování a aktuální rozhodování určuje přísně racionální strojová logika, která se řídí člověkem vytvořenými pravidly a algoritmy.
Stroj má jiný žebříček hodnot (pokud o něčem takovém u stroje vůbec můžeme mluvit) než člověk. Nemůžeme od něj očekávat ohleduplnost, zodpovědnost, empatii nebo nebodaj přátelství či lásku. Stroj (zatím) nemá vlastní vědomí az toho vyplývající vlastní cíle.
Provádí to, co určuje jeho program a disponibilní data, ať je jakkoli složitý, schopný se učit, adaptovat na prostředí a zdokonalovat se. Nerozumí tomu, co dělá a proč to člověk po něm chce. Pouze to „jako stroj“ vykonává.
Jeho výpočetní výkon a strojová inteligence přitom mohou být i vyšší, než mají jeho lidští tvůrci. Inteligence je, zjednodušeně řečeno, schopnost řešit problémy.
Dáme-li stroji za úkol řešit problém nebo mu delegujeme jisté kompetence, bude to dělat nejlépe, jak umí, zpravidla lepší a spolehlivější, než to dělá člověk. V tomto duchu může stroj sehrát pozitivní roli v různých pozicích, kde dosud vykonával rozhodnutí člověk.
Na úrovni managementu firmy, ve státní správě nebo v justici. A může to provádět, narozdíl od člověka, bez prosazování vlastních zájmů. Ale aniž by rozuměl, proč to dělá. Na druhé straně se ale ani nebude ptát, zda je přidělený úkol smysluplný, etický nebo zodpovědný. Bude ji provádět maximálně přesně a neúnavně.
Mozek budeme používat méně
Z toho, co jsme řekli dosud, se dá tušit, že vedle mnoha přínosů a pozitiv zde mohou vzniknout i jisté otázky, nové výzvy, ale i rizika, která nám inteligentní stroje mohou přinášet. Tato rizika lze kategorizovat do několika skupin.
První typ se týká dlouhodobého vlivu umělé inteligence na lidskou (přirozenou) inteligenci. Přirozená inteligence se vyvíjela v průběhu evoluce člověka s tím, jak on byl nucen řešit stále složitější problémy (lov, zemědělství, chov, stavba příbytků, obrana, průmysl, moderní společnost).
Dnešní technologie a umělá inteligence ale začínají řešení problémů stále více přenášet na stroje. A to na úrovni, která odpovídá stále vyšší kvalifikaci lidských profesí. Na cokoli se dnes můžeme zeptat chatbota. Nebo ho požádáme, aby za nás něco napsal.
To znamená, že člověk nemusí už tolik používat svůj mozek, jako před několika lety nebo desítkami let. Tento trend určitě bude pokračovat a zrychlovat se.
Brzy ani nebudeme umět řídit auto, nebudeme se umět orientovat v prostoru bez navigace, řešit jednoduché matematické úkoly nebo napsat něco, co má hlavu a patu. To budou projevy postupné degradace lidské inteligence.
Alespoň pokud se tomu zodpovědná lidská společenství nezačnou bránit a nezačnou své mozky alespoň v nezbytné míře trénovat a připravovat na rovnocennou symbiózu s inteligentními stroji. Toto riziko je jedním z největších, které lidské civilizaci hrozí.
Nových profesí nebude dost
Druhý typ rizika se týká sociálně-ekonomických dopadů umělé inteligence na společnost a budoucnosti trhu práce.
V budoucnosti v mnoha profesích, včetně mnoha vysoce kvalifikovaných, nebude ekonomické zaměstnávat lidi. Počet neuplatnitelných lidí tak bude narůstat. Pravděpodobně neobstojí ani argument dnešních ekonomů, že v minulosti nové technologie s tím, jak nahradily jednu skupinu profesí, vytvořily nové profese.
To platilo, zatímco technologie nahrazovaly profese vyžadující relativně nízkou kvalifikaci. Ale s nástupem umělé inteligence bude přetrvávat potřeba pouze vybraných profesí se špičkovou a stále vyšší mírou kvalifikace.
Navíc, potřeba nových pracovních míst bude klesat i díky globalizaci dopravy, obchodu, služeb a komunikace. Tisíce lidí, kteří ztratí práci v průmyslu, zemědělství i službách, budou těžko hledat uplatnění jako špičkoví programátoři, finanční analytici či youtoubeři.
Perspektiva uplatnění ale na druhé straně může narůstat v profesích, kde se vysloveně žádá živý člověk, jako jsou zdravotní sestry/bratři, pečovatelé, učitelé na nižších stupních vzdělání, pracovníci ve stravování, v turistickém ruchu či v kultuře. Smysluplným uplatněním mnoha lidí se může stát také například ekologické zemědělství.
Porostou sociální nerovnosti
Dalším velkým problémovým tématem je zvětšování sociálních nerovností. Díky novým technologiím, automatizaci a umělé inteligenci se rychleji koncentruje ekonomická moc u stále menší skupiny lidí, kteří vlastní kapitál i prostředky umělé inteligence. To bude vyžadovat efektivní sociálně-ekonomická opatření.
Další hledisko představují taková rizika umělé inteligence, kde se její možnosti využijí při negativních činnostech, které dosud vykonával člověk. Tak jako vždy v minulosti, mnozí se i nyní snaží využívat narůstající možnosti technologického pokroku, aby dosáhli svých vlastních cílů, na úkor jiných.
Dokonce můžeme říci, že to vždy byla jedna z hybných sil pokroku. A tím víc to platí při umělé inteligenci, která poskytuje nebývalé možnosti ke zneužití. Do této skupiny patří několik dalších typů rizik. V pořadí třetí typ rizika tak tvoří ohrožení soukromí jednotlivce, až ohrožení jeho osobnostní integrity a také s tím související kybernetická bezpečnost.
Elektronické zařízení neustále monitorují naši polohu, naši činnost, komunikujeme jimi jiným informace o našich postojích, náladách, přenášíme důvěrný obsah i nakupujeme. Algoritmy založené na umělé inteligenci z tohoto obsahu dokáží vydolovat náš sociální, ekonomický, politický nebo psychologický profil, dokáží se o nás dozvědět více, než o sobě víme sami. Tyto poznatky mohou být zneužity i proti nám.
Jak se rozhoduje stroj
Rozdíly v interpretaci vnímání světa živým člověkem a neživou umělou inteligencí vyúsťují do velké skupiny odlišností, které tvoří čtvrtý a významný typ rizik. Vysoce inteligentní a velmi výkonný stroj se rozhoduje na základě přísně pragmatické strojní logiky, která je odlišná od rozhodování se člověka. Stroj zatím nerozumí tomu, o čem rozhoduje.
Naproti tomu rozhodování se člověka vychází jednak z jeho racionálního uvažování, z komplexního modelu světa v jeho hlavě, ale také z jeho duševního světa a emocí, které spolutvoří jeho hodnotový systém. Tato odlišná interpretace světa mezi člověkem a strojem vyúsťuje do rozdílů a problémů, které je třeba řešit a zmírňovat. Klasickým příkladem je problém, jak se má rozhodnout váš autonomní vůz, když mu do jízdní dráhy nečekaně vejde maminka s kočárkem.
Má ji srazit, nebo se jí má za každou cenu vyhnout, i když tím může ohrozit na životě posádku vašeho vozidla včetně vašeho malého dítěte? Ještě vypouklejšími problémy jsou bezpečnostní otázky ve vojenském sektoru. Z důvodů konkurenceschopnosti jsme nuceni delegovat stále větší kompetence autonomním zbraním.
Jak se rozhodne autonomní dron nebo autonomní ponorka disponující obrovskou ničivou silou v kritické situaci? Lidé mají k dispozici jaderné zbraně už více než půlstoletí, ale zatím se jim je podařilo, i přes různé krize, udržet pod kontrolou. Dokáží to i stroje?
Pátou kategorií rizik jsou otázky etiky a práva. Zamýšlejí se například nad tím, kdo bude zodpovědný za škody na majetku způsobené autonomním vozidlem na silnici nebo autonomním robotem na veřejnosti či v medicíně. Do této kategorie problémů patří také otázky duševního vlastnictví děl vytvořených umělou inteligencí. Tato agenda je již poměrně široce rozpracována a velkou pozornost jí věnuje především Evropská unie.
Vyjádření, která nikdo nevyslovil
Velmi problematickou oblast zneužití umělé inteligence představuje šesté riziko, kterým je manipulace veřejného mínění, i šířením dezinformací. Může jít o texty, zvuk nebo i video (deepfake).
Umělá inteligence může vyrobit vyjádření veřejně známých osob a politiků v médiích a na sociálních sítích, které ve skutečnosti nikdy nevyslovily, ale které působí důvěryhodně a přesvědčivě.
Takové aktivity jsou velmi nebezpečné a mohou představovat až rozměry ohrožení demokracie. Těžko se odhalují a bude nutné vytvořit mechanismy k jejich identifikování.
Dalším, v našem pořadí sedmým rizikem je provádění nekalých finančních aktivit. Umělá inteligence má potenciál používat takové metody a transakce, které mohou oklamat finanční trhy a zneužívat je ve prospěch podvodníků. Tyto aktivity mohou být tak složité, že jim ani nebudeme rozumět. Umělá inteligence může disponovat takovým rozsahem znalostí, zkušeností a dat, jaké žádný lidský expert za celý život nemůže absorbovat. Stroj je však dokáže průběžně využívat, zpracovávat a reagovat na aktuální situace nesrovnatelně rychleji a efektivněji než člověk.
Kdo má v rukou kontrolu
Všechna tato rizika jsou příklady používání prostředků umělé inteligence jednou skupinou lidí k dosažení svých cílů či k ovlivňování jiné skupiny lidí. O použití umělé inteligence zde vždy rozhoduje člověk, který určí cíl. Umělá inteligence pak tento cíl pomůže zrealizovat dokonaleji a rychleji, než by to učinil člověk jiným způsobem.
Umělá inteligence je schopna najít skryté rezervy, a tedy i téměř optimální řešení úlohy, kterou formuloval člověk. Poslední, osmá kategorie rizik se ale v tomto principiálně odlišuje.
Stále více vědců z různých oblastí vědy připouští takovou hypotézu, že stav existence vědomí, který přisuzujeme člověku (případně i některým jiným vyšším živočichům) by mohl za jistých podmínek vzniknout i ve stroji. Z toho by vyplývalo, že i superinteligentní stroj s vědomím by mohl mít své vlastní cíle, které by mohly být i v rozporu s cíli člověka.
Takový průlom by mohl představovat pro budoucnost až existenci lidstva těžko předvídatelné důsledky. Měli bychom pečlivě a zodpovědně zvážit, zda se k této hranici chceme přiblížit, případně jak mít takový vývoj pod kontrolou.
