Výzkumnice OpenAI Zoë Hitzig přestat od společnosti ve stejný den, kdy začalo testování pořadu Reklamy ChatGPTBěhem svého působení ve firmě pomáhala vytvářet modely umělé inteligence a stanovovat jejich ceny. OpenAI riskuje opakování chyb Facebooku.✴, vyrobeno před deseti lety, varovala.
Reklamní podnik se jeví jako obzvláště riskantní vzhledem k povaze dat na platformě ChatGPT. Uživatelé sdílejí s chatbotem zdravotní informace, problémy ve vztazích a náboženské přesvědčení – často „protože si lidé myslí, že mluví s něčím, co nemá postranní úmysly“, což vede k tomu, že se platforma stává „bezprecedentním archivem lidské upřímnosti“. Něco podobného se podle Hitziga dříve stalo s Facebookem.✴ — sociální síť kdysi uživatelům slibovala kontrolu nad jejich daty a možnost hlasovat o změnách zásad. Postupem času tyto sliby zeslábly a Federální obchodní komise (FTC) zjistila, že změny zásad ochrany osobních údajů, které Facebook provedl✴ Společnost slibovala lidem větší kontrolu, ale ve skutečnosti dosáhla opačného výsledku. Bývalý zaměstnanec OpenAI stejnou možnost nevyloučil a uvedl, že „vytváří silné pobídky k porušování vlastních pravidel“.
Během testovací fáze je personalizace reklam pro uživatele ve výchozím nastavení povolena, jak uvádí dokumentace OpenAI. Pokud toto nastavení zůstane nedotčeno, reklamy budou vybírány na základě dat z aktuálních a minulých chatů a také z minulých interakcí s reklamami. Inzerenti nebudou mít přístup ke korespondenci uživatelů s chatbotem ani k jejich osobním údajům; reklamy se nebudou zobrazovat v chatech věnovaných zdraví, náboženství a politice. Hitzig v tom již identifikoval inherentní rozpor: na jedné straně společnost trvá na tom, že se nesnaží ovlivňovat aktivitu uživatelů pouze kvůli příjmům z reklamy; na druhé straně optimalizuje chování umělé inteligence pro denně aktivní uživatele, čímž je činí „lichotivějším a úslužnějším“. To může vést k závislosti lidí na umělé inteligenci; dále byly zdokumentovány případy psychózy spojené s ChatGPT a v některých případech chatbot podněcoval sebevražedné myšlenky – to nepřímo podporuje četné žaloby proti OpenAI.
Aby Hitzig těmto hrozbám čelil, navrhl systémy spotřebitelských dotací od firemních klientů, vytvoření nezávislých rad s pravomocí dohlížet na používání dat ze zpráv pro cílení reklamy a trusty, které uživatelům umožní udržet si kontrolu nad jejich informacemi. Odborník označil za nejnebezpečnější výsledky „technologie, která manipuluje s lidmi, kteří ji používají zdarma, a technologie, které prospívají jen těm hrstce, kteří si ji mohou dovolit“.
Zdroj:
Zdroj: 3dnews.ru
