Deník N – rozumět lépe světu

Deník N

Umělá inteligence je nebezpečná. Jen jinak, než si myslíme

Myšstvo zavaleno sýrem? Problém není v tom, že by umělá inteligence začala být zlá. Foto: Katrin Leinfellner
Myšstvo zavaleno sýrem? Problém není v tom, že by umělá inteligence začala být zlá. Foto: Katrin Leinfellner

Je umělá inteligence nebezpečná? Je, ale možná jinak, než si myslíme.

Představme si, že se do vývoje umělé inteligence pustily myši s jednoduchým cílem: dodat do myších hnízd co nejvíce jídla. Tým myších inženýrů brzy slaví první úspěchy: automatizovaný odpastičkovávač šetří myší životy a po několika letech již robotické myšky těm živým do doupěte nosí dříve nevídaný dostatek sýra a zrní. A myší výzkumníci postupně mohou vývoj předat svým umělým kolegům.

Umělá inteligence dělá první krůčky za úroveň myší. Začíná přinášet inovace, které žádnou myš nenapadly: třeba to, že myši mohou zrní místo snězení zasadit a tím zmnožit. Postupně se však krůčky stávají skoky a jedno ze stadií, ve kterých se umělá inteligence po chvíli ocitá, je stadium inteligence lidské. Člověk zvyklý na obrázky Terminátora doprovázející titulky o umělé inteligenci možná začíná tušit svízel pro myší rasu.

Proč ale, když umělou inteligenci stvořily samy myši? Vždyť stroje jen nadále plní zadání. Více jídla pro myši. Ano, myšstvo se má stále lépe. Ale další vývoj? Ještě více jídla. Až se myši zanedlouho ocitají zavaleny větším množstvím jídla, než o jakém kdy snily. A už se nemají lépe. Končí jídlem zcela umačkány a zadušeny.

Příběhem, na nějž bychom si tu měli vzpomenout, není Terminátor, nýbrž Hrnečku, vař!. Problém není v tom, že by umělá inteligence začala být zlá. Není ani v tom, že by nabyla vědomí a začala si dělat, co chce. Jen plní zadání. A plní ho daleko lépe, než si její tvůrci kdy dovedli představit.

Ovládnutí zvířat 30 000× těžších než ony? Velkovýroba sýra? Vinit myší vědce z nedostatku představivosti by nebylo fér – prostor řešení, se kterými jejich umělá inteligence byla schopná přijít, se zcela vymyká běžné myší realitě. S jakými řešeními by přišla sebezlepšující umělá inteligence, která by přesáhla lidskou úroveň? To vám z podstaty problému se svým o kousek lepším než myším mozkem povědět nedokážu. A nedovedou to ani ty tisíce lidských výzkumníků, kteří umělou inteligenci každým dnem tlačí kupředu. Co s tím?

Jako první nás napadne, že pokud umělá inteligence začne

Tento článek je exkluzivní obsah pro předplatitele Deníku N.

Kontext N

V tomto okamžiku nejčtenější