Deník N – rozumět lépe světu

Deník N

Neziskovka zaměřená na rizika umělé inteligence vyzvala k pozastavení vývoje, mezi signatáři jsou slavná jména včetně Elona Muska

Tento obrázek vytvořila umělá inteligence DALL-E. Zadáním byl doslovný text prvního odstavce výzvy k pozastavení AI.
Tento obrázek vytvořila umělá inteligence DALL-E. Zadáním byl doslovný text prvního odstavce výzvy k pozastavení AI.

Mezinárodní organizace Future of Life Institute, která již řadu let upozorňuje na rizika spojená s vývojem umělé inteligence, vyzvala všechny zúčastněné firmy, aby na půl roku přerušily vývoj nových modelů a zaměřily se místo toho na vypracování široce sdílených bezpečnostních pravidel. Pokud se firmy nedohodnou, měli by na vývoj uvalit moratorium politici, říká se v otevřeném dopisu, který zatím podepsalo přes 1200 zainteresovaných osob včetně některých špičkových odborníků.

Tento text pro vás načetl robotický hlas. Pokud najdete chybu ve výslovnosti, dejte nám prosím vědět. Audioverze článků můžete poslouchat v rámci klubového předplatného. Plné znění audioverzí článků je dostupné pouze pro předplatitele Klubu N. Upgradujte své předplatné. Plné znění audioverzí článků je dostupné pouze pro předplatitele Klubu N. Předplaťte si ho také.

„Systémy umělé inteligence (AI) dosahující úrovně srovnatelné s člověkem mohou pro společnost a lidstvo představovat vážná rizika,“ říká se v úvodu otevřeného dopisu zveřejněného na webu organizace Future of Life Institute (Institut pro budoucnost života). „Nynější systémy AI se v současnosti stávají konkurenceschopnými vůči lidem při řešení obecných úloh a my si musíme položit otázku: Měli bychom nechat stroje, aby zaplavily naše informační kanály propagandou a nepravdou? Měli bychom automatizovat všechna zaměstnání, včetně těch, která nám umožňují seberealizaci? Měli bychom vyvinout nelidské mozky, které by časem mohly být početnější a chytřejší než my, které nás učiní zastaralými a nahradí nás? Měli bychom riskovat ztrátu kontroly nad svou civilizací?“

Aby se tak nestalo, vyzývá otevřený dopis „všechna výzkumná pracoviště AI, aby okamžitě alespoň na šest měsíců pozastavila strojové učení systémů umělé inteligence výkonnějších než GPT–4.0. Tato pauza by měla být veřejná, ověřitelná a měli by k ní přistoupit všichni klíčoví aktéři. Pokud se ji nepodaří rychle provést, měly by vlády uvalit

Tento článek je exkluzivním obsahem pro předplatitele Deníku N.

Umělá inteligence

Věda

V tomto okamžiku nejčtenější