Q:
Proč se někteří lidé obávají umělé inteligence?
A:Změna není snadná a mnoho lidí se jí obtížně přizpůsobuje. To platí zejména o technologických změnách. Známý harvardský profesor Calestous Juma napsal knihu na téma „Inovace a její nepřátelé: Proč lidé odolávají novým technologiím.“ Kniha nastiňuje napětí mezi inovacemi a společenským řádem a čerpá z 600 let historie. Dopad technologie je obzvláště problematický, pokud jde o umělou inteligenci.
Ne každý je pro tyto zálohy nepříznivý. Ray Kurzweil, autor knihy „Singularity is Near“ a „Age of Spiritual Machines“, není ničím jiným než evangelistem propagujícím výhody genetiky, nanotechnologie a robotiky (termín používaný pro nebiologickou inteligenci). Ale to jsou stejné problémy - a Kurzweil stejný člověk -, které v roce 2000 vyvolaly velké obavy pro Bill Joy, hlavního vědce společnosti Sun Microsystems.
Joy psal o svých starostech v nyní slavném článku v časopisu Wired nazvaném „Proč nás budoucnost nepotřebuje.“ Věřil, že je v sázce samotná budoucnost lidské rasy. S odvoláním na soutěž evoluční historie napsal Joy: „Biologické druhy téměř nikdy nepřekonají setkání s nadřazenými konkurenty.“ Vědecké průlomy, které vedou k tomu, že stroje, které předčí lidi, jsou spojeny se značnými riziky. Vize dystopické budoucnosti přicházejí na mysl.
Předpokládejme, že vědci jsou schopni vyvinout stroje s umělou superintelligence (ASI), úroveň inteligence vyšší než lidé. Radost říká, že může nastat jedna ze dvou věcí: Buď si stroje budou moci dělat vlastní rozhodnutí, nebo si lidé nad nimi budou udržovat kontrolu. Co se stane, když předáte energii strojům? Jaké by mohly být výsledky?
Bill Joy není jediný, kdo vyjadřuje obavy. Tech guru Elon Musk řekl: „S umělou inteligencí přivoláváme démona.“ Nazval to „naší největší existenciální hrozbou.“ Fyzik Stephen Hawking řekl účastníkům technologické konference, že „nemůžeme vědět, jestli nám bude AI nekonečně pomáhat, nebo to ignorovalo a na boku lemovalo, nebo by to mohlo být zničeno. “A řekl časopisu Wired:„ Obávám se, že AI může lidi úplně nahradit. “
Jsou tyto obavy oprávněné? Sci-fi filmy jako „Transcendence“, kde Johnny Depp charakterově pojí s umělou inteligencí a způsobuje chaos, připomínají Kurzweilovy předpovědi, jak by se lidé mohli spojit se stroji. Představivost se šíří všemi způsoby, jak by umělá inteligence mohla selhat. Co se stane, když stroje převezmou kontrolu?
Dva příklady ze skutečného života ukazují, jak mohou být obavy z umělé inteligence pochopitelné. V roce 2007 robotické dělo zabilo devět lidí a zranilo 14. Některé pokročilé vojenské zbraně automaticky vyberou své cíle, ale čekají, až člověk stiskne spoušť. Kdo zde rozhodoval? V roce 2016 srazil bezpečnostní robot 300 liber a přejel šestnáctiměsíční batole. Kdo měl v tomto případě kontrolu: člověk nebo stroj?
Důvodem, proč se někteří lidé obávají umělé inteligence, je skutečnost, že rizika jsou reálná. Další otázka: Jak budeme tato rizika řídit?
