Q:
Proč někteří odborníci říkají, že AI „zničí digitální autentičnost“?
A:Strojové učení a umělá inteligence rychle mění mnoho průmyslových odvětví a skutečně mění způsob, jakým uvažujeme o technologickém pokroku. Zabývají se však také některými zajímavými dichotomiemi a rozpory, pokud jde o to, jak se vztahujeme k našim počítačům a zařízením smartphone nebo jiným novým rozhraním, ke kterým dochází.
Jednou z velkých otázek s umělou inteligencí je to, jak to ovlivní „autentičnost“ - nebo jak lidé ověřují a potvrzují realitu, která existuje, v „masovém prostoru“ nebo v digitálním světě. Když se opravdu podíváte na to, jak to funguje, vidíte vlastní rozpor mezi omezeními naší technologie a způsoby, kterým věříme technologii, kterou máme k dispozici.
Jeden z nejlepších příkladů lze nalézt v nedávném článku Wired, který ukazuje, jak jsou lidé s umělou inteligencí a strojovým učením schopni pořídit obrázek pohybujícího se koně a překrýt pruhy zebry v procesu, který autor nazývá „zebrafikace“.
Je čistý a nový, ale také může potenciálně představovat problém. Když vidíte zebru na digitální obrazovce, jak víte, že je to zebra, a ne jen kůň s pruhy zebry, které na něj chytře přijde nějaký technicky zdatný člověk?
Může to vypadat jako teoretická otázka, ale stejné druhy otázek se brzy budou vztahovat i na zprávy, které dostáváme v digitální podobě - od politiky k ekonomice k náboženství, to vše se bude spoléhat na naši schopnost prosévat informace, zkontrolovat a rozlišit mezi pravdou a fikcí, mezi mýtem a realitou. Protože nové nástroje umělé inteligence nabízejí více způsobů manipulace s obrazem a videem, bude to mnohem obtížnější.
Dalším vynikajícím příkladem jsou nové hlasové technologie. V článku před několika lety jsme se zabývali začínajícím IT projektem, který převzal hlasy slavných lidí a postavil motory hlasového modelu, díky nimž by tito slavní lidé mohli říci cokoli z hrobu.
Opět je to elegantní a zajímavá technologie - vypadá to jako zábavný způsob, jak používat technologie zpracování řeči. Ale opravdu to bude představovat problém, když uděláme přechod ze staré analogové a nedekstruované digitální hlasové technologie na nový syntetický a prefabrikovaný hlas. Jak budete vědět, kdo s vámi mluví - telefonicky, v televizi nebo přímo do ucha?
Konkrétně může myšlenka změny zvuku, obrazu a videa sofistikovaným způsobem vyzdvihnout některé z našich nejcennějších myšlenek jako společnost. Jak budou lidé věřit tomu, co slyší a vidí v politickém světě? A co zákon - budou mít obžalovaní z trestných činů nové typy odvolání na základě potenciální změny důkazů?
Dalším způsobem, jak porozumět některým z těchto problémů, je podívat se na psaní sci-fi - od „Fahrenheita 451“ Raye Bradburyho po „1984“ George Orwella a dále nás vyprávěči minulých věků opakovaně varovali, že technologie by mohla být využita k oběma užitečným a problematické cíle. Jedním z důvodů, proč tolik odborníků a vedoucích IT společností volá po „vysvětlitelné umělé inteligenci“ a etických panelech, je, že rozumí problému - že pokud nebudeme technologie důkladně kontrolovat, nebudeme jim moci věřit rozsah. Namísto toho, aby nám pomohli dosáhnout našich cílů, by nás nakonec mohli ublížit, částečně tím, že způsobili druhy sociálního chaosu, který existuje, když nemůžeme opravdu zvládnout pravdu a realitu. Dobrou zprávou však je, že technologie, jako je blockchain, které poskytují transakční autentizaci, mohou při použití na digitální záznamy pomoci.
