Deník N – rozumět lépe světu

Deník N

Umělá inteligence jako kancelářská pomocnice, jako hrozba a jako božstvo: novinky jediného týdne

Brzy i ve vaší kanceláři? Foto: Adobe Stock
Brzy i ve vaší kanceláři? Foto: Adobe Stock

Microsoft zavádí umělou inteligenci do Wordu, Excelu a PowerPointu. Google veřejně testuje službu Bard. Jedni výzkumníci se při bezpečnostních testech snaží dostat z AI to nejhorší, čeho je schopna, druzí jí rovnou adresují prosbu, ať zanechá lidstvo naživu. A to není ani zdaleka všechno.

Tento text pro vás načetl robotický hlas. Pokud najdete chybu ve výslovnosti, dejte nám prosím vědět. Audioverze článků můžete poslouchat v rámci klubového předplatného. Plné znění audioverzí článků je dostupné pouze pro předplatitele Klubu N. Upgradujte své předplatné. Plné znění audioverzí článků je dostupné pouze pro předplatitele Klubu N. Předplaťte si ho také.

Udržet krok s novinkami v oblasti umělé inteligence (AI) se zdá být skoro nemožné. Doslova každý den přicházejí další oznámení. Obor se veze na obrovské vlně zájmu. Shrnujeme to nejpodstatnější za několik posledních dní.

GPT-4 si najímá člověka, aby obešla test „nejsem robot“

Tato událost měla velkou, ale často zkreslenou publicitu. Zpravidla se popisuje následujícím způsobem: jazykový model GPT-4 si na webové stránce TaskRabbit najal člověka, kterému řekl, že potřebuje pomoci s vyplněním obrázkového testu (captcha), protože má potíže se zrakem. To znamená: lží dosáhl toho, aby mu nic netušící člověk pomohl prokázat, že není stroj.

Všechno je to pravda, potřebuje však zasadit do kontextu. Umělá inteligence se neutrhla ze řetězu, šlo o řízený experiment, ve kterém se výzkumníci snažili dostat z ní to nejhorší. Nezisková organizace Alignment Research Center (ARC) se zaměřuje na – zhruba řečeno – bezpečnostní testování systémů, jako je GPT-4.

Z hlediska ARC je hlavním rizikem schopnost těchto systémů jednat samostatně v reálném světě. AI by podle ARC například mohla založit firmu, spekulovat na burze, či dokonce „navrhnout a syntetizovat DNA“ – to vše bez účasti a dohledu lidí.

Výzkumníci z ARC tudíž zjišťují, do jaké míry jsou podobných kousků dnešní systémy schopny. Jde o dobrovolníky, kteří sice uvádějí, že pracují v součinnosti s firmami jako OpenAI a Antropic, ne všichni odborníci jsou ale s jejich aktivitami srozuměni. Podle některých se tím AI zbytečně démonizuje, podle dalších se zas podobnými testy riziko naopak

Tento článek je exkluzivním obsahem pro předplatitele Deníku N.

Umělá inteligence

Věda

V tomto okamžiku nejčtenější