Q:
Proč může společnost ukončit projekt AI chatbot?
A:Společnosti by mohly vypnout projekty chatování umělé inteligence z mnoha důvodů, ale ty nejpravděpodobnější lze seskupit do několika kategorií. Za prvé, společnosti mohou vypnout technologie chatbot, pokud budou jednat způsobem, který by společnost nepohodlil, jako je například podpora nežádoucí řeči. Alternativně by společnosti mohly ukončit projekt chatbot, pokud začne prokazovat vnímání a schopnosti, které buď nelze snadno ovládat, nebo mohou představovat určitý druh potenciálního ohrožení veřejného zdraví a bezpečnosti.
Oba tyto scénáře jsme dokumentovali v nedávné historii. Microsoftův experiment s Tay chatbotem skončil, když Tay začal převzít některé z nejhorších charakteristik svých lidských protějšků - rasistické a agresivní komentáře a obecně nežádoucí činnost, z nichž většina byla jasně učena nebo dokonce parrotována přímo od uživatelů.
Ve velmi odlišné případové studii bylo nastavení chatbotu propagované společností Facebook ukončeno, když vědci pozorovali, jak dva chatboti spolu komunikují způsobem, který byl poněkud výlučný lidskému pozorování. Hovořilo se o tom, že entity chatbotů začaly „mluvit v jakémsi kódu“, který byl pro ně pohodlnější a méně průhledný pro jejich lidské manipulátory. Toto je příklad tohoto velmi skutečného zájmu o umělou inteligenci obecně - že když děláme velké pokroky v progresi silné umělé inteligence, lidé musí jednat tak, aby obsahovali a kontrolovali všechny příklady implementace umělé inteligence, aby se ujistili, že nepřekračují dané hranice. Existuje velké množství etických problémů a bezpečnostních otázek, které je třeba řešit pomocí silné umělé inteligence, a to je jeden z hlavních důvodů, proč mohou některé chatboty nebo jiné projekty umělé inteligence v budoucnu ukončit zúčastněné strany, které vybudovaly a podpořil je prostřednictvím určitého procesu.
