Obsah:
Definice - Co znamená Value Value Problem?
Problém učení hodnoty je specifický základní problém ve vývoji technologií strojového učení a umělé inteligence, které řeší rozdíl mezi lidmi a počítači a způsoby, jak si myslí.
Stručně řečeno, problém učení hodnoty je založen na tom, jak těžké je pro počítače, aby zjistili, co „mají hodnotu“ (z hlediska dat i politiky) a jak jednat v síti strojového učení a jak programátoři mohou optimalizovat, jak program se chová tak, aby odpovídal jejich původním záměrům, když je vytvořili.
Techopedia vysvětluje problém Value Learning
Klíčem k problému učení hodnoty je to, že je nesmírně důležité, aby programátoři mohli vyrábět programy strojového učení, které provádějí zamýšlené hodnoty. Ovšem catch-22 je to, že hodnoty nelze explicitně stanovit způsoby, které brání samotnému učení programu.
Lidé někdy hovoří o „konvergenci“ technologií strojového učení jako o úspěšném zaměření na hodnotová data, ale problém učení se hodnoty je v některých ohledech trochu odlišný. Je to myšlenka, že musí existovat nějaký základní způsob, jak ukázat programu strojového učení to, co je žádoucí, spíše než to pouze hláskovat, což je deterministický způsob běhu ML.
Vezměte si například tento dokument o problému učení hodnoty, který navrhuje, aby programy strojového učení mohly mít úložný soubor vstupů vykazujících pozitivní lidské reakce na podněty. Při čtení těchto typů adres na problém učení se hodnotě je zřejmé, že existuje velká mezera ve strojovém učení, kterou není snadné opravit - v podstatě - jak lidé vytvářejí stroje, které mohou opravdu myslet jako lidé? Dalším způsobem, jak to vysvětlit, je to, že problém učení hodnoty jde do srdce toho, jak si myslíme, že jsme lidé, a jak naše myšlenky nejsou vždy založeny na vstupech rote.
Počítače modelují naši intuici, náš instinkt, naše sociální sklony a naše nejhlubší etické hodnoty, to je vysoký řád, i když se počítače mohou naučit hrát šachy lidským způsobem, nebo nás předstihnout při řešení obtížných matematických problémů. Odborníci mohou očekávat, že program učení hodnoty bude i nadále ústřední ve vývoji technologií strojového učení.
