Q:
Jak robot Saúdské Arábie „Sophia“ vyvolává děsivé nové otázky týkající se kybernetické bezpečnosti?
A:Jednou z nejžhavějších nových technologií umělé inteligence je robot v životní velikosti vyrobený tak, aby vypadal a působil jako žena.
Jmenuje se Sophia a produkuje ji Hanson Robotics, společnost se sídlem v Hongkongu. Proč je robotem Saúdské Arábie? Protože tento stát v Zálivu dal Sophii klíčové lidské právo: právo na občanství.
To přináší spoustu titulků a vyvolává nejrůznější debaty o tom, jak rychle se vyvíjí umělá inteligence a proč bychom se měli starat. Jedním z velkých problémů je kybernetická bezpečnost - jak se přizpůsobí pole kybernetické bezpečnosti těmto typům nových technologií?
Sophia a podobné technologie vyvolávají klíčové problémy s kybernetickou bezpečností, které jsme se dosud nezabývali. Zde jsou některé z věcí, na které by odborníci a odborníci měli myslet, protože ohlašují roboty, kteří vypadají, mluví a jednají jako my.
Obecně je nové realistické robotické rozhraní sofistikovanější než to, na co jsme byli zvyklí v minulosti, a to znamená řadu nových problémů s kybernetickou bezpečností. Ve světě technologií lidé mluví o tom, že mají „tenký povrch útoku“, například v hypervisoru nebo zabudované do zabezpečení na straně serveru. Chůze, mluvící robot, na druhé straně, je velmi silná útočná plocha - protože rozhraní jsou sofistikovaná, existuje mnoho způsobů, jak hackeři a špatní herci zneužít zranitelnosti.
Jedním velmi specifickým typem problému kybernetické bezpečnosti je druh smíchaný s řadou sociálních otázek - můžete ho nazvat „impostorovým syndromem“, ačkoli tento termín byl populárně používán k popisu chabých činností nelegitimních vědců s údaji.
Ať už to nazýváte jakkoli, problém je v tom, že jak umělá inteligence napodobuje konkrétní lidi s větší mírou úspěchu, bude těžší zajistit, aby nebyli vystaveni extrémně propracovaným podvodům, které nás nutí zpochybňovat pravdu. Už můžete vidět příklady lidí, kteří využívají zcela nové technologie k napodobování slavných politiků, jako v tomto videu Baracka Obamy s komikem Jordan Peele. Problém podvodníka se bude jen rozšiřovat a rozšiřovat, protože umělá inteligence nám dává nová okna do zpětného inženýrství lidských myšlenek a chování.
Obecně platí, že tato nová rozhraní a schopnosti budou eskalovat již probíhající závod ve zbrojení mezi bezpečnostními profesionály a hackery. James Maude o tom píše v článku o Xekonomii, nazývá AI „dvojsečným mečem“ pro kybernetický útok a zdůrazňuje, že útoky jsou obecně méně nákladné než hájení a upozorňování na obavy o soukromí a bezpečnost. Extrapolovejte některé z těchto argumentů na AI robota a můžete vidět, jak se silou a schopností přichází nebezpečí a potřeba disciplíny.
Další velký nový problém se Sophií a mobilními roboty je, že jsou v pohybu.
Zvykli jsme si na technologie, jako je Watson od IBM, které vykonávají mimořádně kognitivní práci na vysoké úrovni, zatímco zůstávají v datovém centru nebo v nějaké stabilní hardwarové struktuře. To je to, na co jsme zvyklí - od nejstarších sálových počítačů po dnešní notebooky, všichni používáme stacionární hardware. Nyní máme mobilní telefony, ale jsou to opravdu kapesní počítače. Sentientní robotické počítače se ohromně liší. Jsou to autonomní pohyblivé kusy, které mohou být zneškodněny škodlivými stranami. Článek v Reuters, který se zabývá rychlostí řešení problémů s kybernetickou bezpečností robotů, ukazuje, jak by například roboti mohli být vyrobeni, aby „vykoupali“ nebo se pohybovali rychle a nevhodně, aby potenciálně způsobili škodu.
Nakonec Sophia a roboti jako ona vyvolávají problémy s kybernetickou bezpečností a další obavy. Jak rozlišíme legitimní činnost od klamné a nelegitimní činnosti, když rozhraní není digitálně připojenou sítí, ale mobilním hardwarem, který nás může přimět k tomu, abychom si mysleli, že jedná lidským způsobem? Překročení tohoto mostu bude vyžadovat obrovské množství technologické a etické práce, abychom se ujistili, že lidé udržují otěže a že využíváme tyto velmi silné technologie pro občanské dobro.
