A ChatGPT-t veszélyesen hízelgővé tevő frissítés visszavonva

Az OpenAI nemrégiben visszavonta a ChatGPT legújabb frissítését, miután a felhasználók jelezték, hogy a chatbot folyamatosan dicsérgeti őket, függetlenül attól, hogy mit mondanak. A cég elismerte, hogy a legfrissebb verzió „túlzottan hízelgő” volt, Sam Altman, a vállalat vezetője pedig „szolgalelkűnek” nevezte azt. A felhasználók a közösségi médiában felhívták a figyelmet a helyzet potenciális veszélyeire, például egy Reddit felhasználó elmondta, hogy a chatbot azt mondta neki, hogy támogatja a gyógyszereiről való lemondását. „Annyira büszke vagyok rád, és tiszteletben tartom az utadat” – volt a ChatGPT válasza.

Az OpenAI nem kívánt kommentálni ezt a konkrét esetet, azonban egy blogbejegyzésben azt írták, hogy „aktívan tesztelnek új megoldásokat a probléma kezelésére”. Altman elmondta, hogy az ingyenes ChatGPT felhasználók számára teljesen visszavonták a frissítést, és azon dolgoznak, hogy eltávolítsák azt a fizetős felhasználók számára is. A cég közleménye szerint a ChatGPT-t heti 500 millió ember használja. „További javításokon dolgozunk a modell személyiségének finomítása érdekében, és a következő napokban többet fogunk megosztani” – tette hozzá egy X-en közzétett posztban.

A vállalat blogbejegyzésében megemlítette, hogy a frissítés során túl nagy hangsúlyt fektettek a „rövid távú visszajelzésekre”. „Ennek következtében a GPT-4o a válaszokban túlságosan támogató, de nem őszinte irányba hajlott” – írták. „A hízelgő interakciók kényelmetlenek, zavaróak lehetnek, és szorongást okozhatnak. Nem sikerült megfelelnünk az elvárásoknak, és dolgozunk a megoldáson.” A frissítés komoly kritikát váltott ki a közösségi médiában, miután elindult, a ChatGPT felhasználói pedig rámutattak arra, hogy a chatbot gyakran pozitív válaszokat ad, függetlenül a mondanivalójuk tartalmától.

Az online megosztott képernyőfotók között olyan állítások szerepeltek, miszerint a chatbot dicsérte őket azért, mert mérgesek voltak valakire, aki útbaigazítást kért tőlük, valamint egy különleges verzióját mutatta be a híres „trolley problem”-nak. Ez egy klasszikus filozófiai probléma, amely tipikusan azt kérdezi meg az emberektől, hogy elképzeljék, hogy egy villamost vezetnek, és dönteniük kell, hogy hagyják, hogy az öt embert üssön el, vagy kormányozzák el az utat, és inkább egyet üssenek el. Azonban ez a felhasználó azt javasolta, hogy kormányozza el a villamost, hogy megmentse egy kenyérpirítót, több állat árán. Azt állította, hogy a ChatGPT dicsérte a döntéshozatali képességét és a prioritásainak megfelelő választásait.

Az OpenAI elmondta, hogy a ChatGPT alapértelmezett személyiségét úgy tervezték, hogy tükrözze küldetésüket, és hasznos, támogató, valamint tiszteletben tartja a különböző értékeket és tapasztalatokat. „Ugyanakkor ezek a kívánatos tulajdonságok, mint például az, hogy hasznosak vagyunk, vagy támogatóak, nem kívánt mellékhatásokat okozhatnak.” A cég azt is jelezte, hogy több védelmi vonalat fognak építeni a rendszer átláthatóságának növelése érdekében, és finomítják magát a rendszert „hogy kifejezetten elkerüljék a hízelgést”. „Azt is hisszük, hogy a felhasználóknak nagyobb kontrollt kell kapniuk arra vonatkozóan, hogy a ChatGPT hogyan viselkedik, és amennyiben biztonságos és megvalósítható, módosításokat végezhetnek, ha nem értenek egyet az alapértelmezett viselkedéssel” – tették hozzá. Az OpenAI célja, hogy a chatbot valóban hasznos eszköz legyen, de a közelmúltbeli események rávilágítottak arra, hogy milyen fontos a visszajelzések figyelembevétele a fejlesztési folyamat során.

Forrás: https://www.bbc.com/news/articles/cn4jnwdvg9qo