Můžete věřit AI? Měli byste přijmout jeho zjištění jako objektivně platná bez pochyb? Problém je v tom, že ani zpochybnění samotné AI nepřinese jasné odpovědi.
Systémy AI obecně fungovaly jako černá skříňka: Data jsou vstupy a data jsou výstupy, ale procesy, které transformují tato data, jsou záhadou. To vytváří dvojí problém. Jedním je, že není jasné, které algoritmy jsou nejspolehlivější. Druhým je, že zdánlivě objektivní výsledky mohou být zkresleny hodnotami a zkreslením lidí, kteří programují systémy. Z tohoto důvodu existuje potřeba transparentnosti pro procesy virtuálního myšlení, které tyto systémy používají, nebo „vysvětlitelné AI“.
Etický imperativ se stal právním pro každého, kdo podléhá GDPR, což má dopad nejen na podniky se sídlem v EU, ale na všechny, které tam mají jednání s lidmi nebo organizacemi. Obsahuje řadu ustanovení o ochraně údajů, která se vztahují na občany EU „právo nepodléhat pouze automatizovanému rozhodování, s výjimkou určitých situací“ a „právo na poskytování smysluplných informací o logice zapojené do rozhodnutí . “
