Okamžitě to zastavte, varuje expert před umělou inteligencí. Toto prý může nastat

Lidé nejsou na výkonnou umělou inteligenci připraveni ani v současných podmínkách, ani v „dohledné budoucnosti“, prohlásil přední odborník v této oblasti a dodal, že nedávný otevřený dopis vyzývající k šestiměsíčnímu moratoriu na vývoj pokročilé umělé inteligence „podceňuje vážnost situace“.

„Klíčovou otázkou není ‚lidská-konkurenční‘ inteligence (jak se píše v otevřeném dopise); jde o to, co se stane poté, co AI dosáhne inteligence chytřejší než člověk,“ uvedl Eliezer Yudkowsky, teoretik rozhodování a přední výzkumník AI, v článku pro časopis Time z 29. března. „Mnoho výzkumníků, kteří se touto problematikou zabývají, včetně mě, očekává, že nejpravděpodobnějším výsledkem vybudování nadlidsky inteligentní umělé inteligence, a to za jakýchkoli vzdáleně podobných okolností, je, že doslova všichni na Zemi zemřou.“

„Ne jako ‚možná nějaká vzdálená šance‘, ale jako ‚to je zřejmá věc, která by se stala‘. Nejde o to, že byste v zásadě nemohli přežít vytvoření něčeho mnohem chytřejšího, než jste vy; jde o to, že by to vyžadovalo přesnost a přípravu a nové vědecké poznatky a pravděpodobně ne to, aby se systémy UI skládaly z obřích nevyzpytatelných polí zlomkových čísel.“

Po nedávné popularitě a explozivním růstu ChatGPT podepsalo několik vedoucích představitelů podniků a výzkumných pracovníků, kterých je nyní celkem 1843, včetně Elona Muska a Steva Wozniaka, dopis vyzývající „všechny laboratoře umělé inteligence, aby okamžitě pozastavily alespoň na 6 měsíců trénink systémů umělé inteligence výkonnějších než GPT-4“. GPT-4, vydaný v březnu, je nejnovější verzí chatbota ChatGPT společnosti OpenAI.

Umělá inteligence se nestará a bude požadovat práva

Yudkowsky předpovídá, že při absenci pečlivé přípravy bude mít UI značně odlišné požadavky než člověk, a jakmile si uvědomí sama sebe, „nebude se starat o nás“ ani o žádný jiný vnímající život. „Tento druh péče je něco, co by v zásadě mohlo být umělé inteligenci vštípeno, ale nejsme na to připraveni a v současné době ani nevíme jak.“ To je důvod, proč volá po absolutním vypnutí.

Bez lidského přístupu k životu bude UI všechny vnímající bytosti jednoduše považovat za „atomy, které může použít k něčemu jinému“. A lidstvo může udělat jen málo, aby ji zastavilo. Yudkowsky přirovnal tento scénář k „desetiletému dítěti, které se snaží hrát šachy proti Stockfish 15“. Žádný lidský šachista zatím nedokázal Stockfish porazit, což je považováno za nemožný výkon.

Veterán v oboru požádal čtenáře, aby si představili, že technologie umělé inteligence není uzavřena v mezích internetu.

„Představte si celou mimozemskou civilizaci, která myslí milionkrát rychleji než člověk, zpočátku omezenou na počítače – ve světě tvorů, kteří jsou z jejího pohledu velmi hloupí a velmi pomalí.“

Umělá inteligence bude rozšiřovat svůj vliv mimo periferie fyzických sítí a mohla by „vytvářet umělé formy života“ pomocí laboratoří, kde se pomocí řetězců DNA vyrábějí proteiny.

Konečným výsledkem vybudování všemocné UI by za současných podmínek byla smrt „každého jednotlivého příslušníka lidského druhu a veškerého biologického života na Zemi“, varoval.

Zdroj: theepochtimes.com