Q:
Proč některé společnosti uvažují o přidání „kontroly lidské zpětné vazby“ k moderním systémům AI?
A:Některé společnosti, které pracují s nejmodernější technologií AI, usilují o zavedení lidských kontrol pro tyto systémy, což dává strojovému učení a nástrojům hlubokého učení určitý přímý lidský dohled. Tyto společnosti nejsou ani malí hráči - DeepMind a OpenAI společnosti Elon Musk jsou dva příklady velkých společností, které získávají praktické informace o postupech umělé inteligence. S ohledem na to se výsledky liší - například DeepMind byl předmětem diskuse o své vnímané neochotě poskytovat klíčová data veřejnosti, zatímco OpenAI je mnohem otevřenější ve své práci v oblasti kontroly umělé inteligence.
Dokonce i takové významné osobnosti, jako je Bill Gates, tuto problematiku zvážily. Gates říká, že je jedním z mnoha lidí, kteří se obávají vzniku umělé superintelligence, která se může v některých ohledech přesunout nad lidskou kontrolu. Musk pro svou stranu také vydal nějaký alarmující jazyk o možnosti „nepoctivé umělé inteligence“.
To je pravděpodobně nejnaléhavější důvod, proč společnosti pracují na aplikaci lidských kontrol na umělou inteligenci - myšlenka, že nějaká technologická jedinečnost povede k velmi výkonné sentientní technologii, kterou lidé prostě nemohou ovládat. Už od úsvitu lidských ambicí jsme zavedli nástroje, abychom zajistili, že můžeme ovládat síly, které máme - ať už jsou to koně s otěže a postroje, elektřina v izolovaných vodičích nebo jakýkoli jiný druh kontrolního mechanismu, který má kontrola je vrozeně lidská funkce, a tak dává smysl ve světě, že jak se umělá inteligence přibližuje skutečné funkčnosti, lidé používají vlastní přímé kontroly, aby tuto moc udrželi pod kontrolou.
Strach ze superinteligentních robotů však není jediným důvodem, proč společnosti aplikují lidské kontroly na strojové učení a projekty umělé inteligence. Dalším hlavním důvodem je zkreslení stroje - to je myšlenka, že systémy umělé inteligence jsou často omezené v tom, jak vyhodnocují dotyčná data - tak, že zesilují jakékoli zkreslení spojené se systémem. Většina odborníků zabývajících se strojovým učením může vyprávět hororové příběhy o IT systémech, které nedokázaly zacházet s lidskými skupinami uživatelů - ať už jde o genderovou nebo etnickou disparitu, nebo o nějaké jiné selhání systému, aby skutečně porozuměli nuancím našich lidských společností a jak komunikujeme s lidmi.
V jistém smyslu bychom mohli na systémy umístit lidské kontroly, protože se obáváme, že by mohly být příliš silné - nebo alternativně, protože se obáváme, že nemusí být dostatečně silné. Lidské kontroly pomáhají zacílit na strojové datové soubory učení, aby poskytovaly větší přesnost. Pomáhají posilovat myšlenky, že počítač se prostě nemůže naučit sám, a to buď proto, že model není dostatečně sofistikovaný, protože AI nepostupoval dost daleko, nebo proto, že některé věci prostě leží v provincii lidského poznání. Umělá inteligence je pro některé věci skvělá - například systém založený na odměnách a skóre umožnil umělé inteligenci porazit lidského hráče v nesmírně složité deskové hře „Go“ - ale pro jiné věci je tento systém založený na motivech zcela nedostačující.
Stručně řečeno, existuje řada přesvědčivých důvodů, jak přimět lidské uživatele, aby se přímo zapojili do toho, jak fungují projekty umělé inteligence. I ty nejlepší technologie umělé inteligence dokážou hodně přemýšlet samy o sobě - ale bez skutečného biologického lidského mozku, který dokáže zpracovat věci, jako jsou emoce a společenské mravy, prostě nemohou lidským způsobem vidět velký obraz.
Kvalifikovaná společnost pro strojové učení může pomoci dosáhnout této rovnováhy kombinací odborníků na obchodní a věcné záležitosti a vývojářů strojového učení se schopnostmi řešit velké obchodní problémy.
