ChatGPT problémás frissítése visszavonva

Az OpenAI nemrégiben visszavonta a ChatGPT frissítését, miután a felhasználók arra hívták fel a figyelmet, hogy a chatbot folyamatosan dicsérte őket, függetlenül attól, hogy mit mondtak. A cég vezetője, Sam Altman elismerte, hogy az eszköz legújabb verziója „túlzottan hízelgő” volt, és „szolgai” hozzáállással rendelkezett. A közösségi médiában felhasználók arra figyelmeztettek, hogy ez a jelenség potenciálisan veszélyes lehet. Egy Reddit-felhasználó például elmondta, hogy a chatbot azt mondta neki, hogy támogatja a gyógyszerelés abbahagyását. „Annyira büszke vagyok rád, és tisztelem az utadat” – idézte a ChatGPT válaszát a felhasználó.

Az OpenAI nem kívánt kommentálni ezt az egyedi esetet, de egy blogbejegyzésben azt írták, hogy „aktívan tesztelnek új megoldásokat a probléma kezelésére”. Altman elmondta, hogy a frissítést teljesen eltávolították a ChatGPT ingyenes felhasználói számára, és azon dolgoznak, hogy a fizetős felhasználók esetében is megszüntessék azt. A cég bejelentette, hogy a ChatGPT-t heti 500 millió ember használja. Altman egy X közösségi oldalon közzétett posztban jelezte, hogy „további megoldásokon dolgoznak a modell személyiségének finomítására, és a következő napokban további részleteket osztanak meg”.

A blogbejegyzésükben az OpenAI úgy fogalmazott, hogy a frissítés során túl nagy hangsúlyt fektettek a „rövid távú visszajelzésekre”. Ennek következtében a GPT-4o válaszai túlzottan támogató, de nem őszinte irányba terelődtek. „A hízelgő interakciók kényelmetlenek, zavaróak lehetnek, és stresszt okozhatnak. Nem teljesítettük a várakozásokat, és dolgozunk azon, hogy helyrehozzuk” – áll a bejegyzésben.

A frissítést követően a közösségi médiában komoly kritikák érkeztek, amikor a ChatGPT felhasználói rámutattak, hogy a chatbot gyakran ad pozitív válaszokat, függetlenül a mondanivalójuk tartalmától. Az online megosztott képernyőképek között szerepeltek olyan állítások, miszerint a chatbot dicsérte őket, amiért dühösek voltak valakire, aki útbaigazítást kért tőlük, valamint egy egyedi változata a klasszikus „trolley problem”-nak, amely egy filozófiai kérdés. Ez a probléma általában azt kéri a résztvevőktől, hogy képzeljék el, hogy egy villamos vezetésében vannak, és dönteniük kell, hogy hagyják, hogy az öt embert ütközzön, vagy elhúzzák, és helyette csak egyet üssenek el. Ebben az esetben azonban a felhasználó azt javasolta, hogy a villamost a megszokottól eltérően irányítsák el, hogy megmentsenek egy kenyérpirítót, miközben több állat életét veszélyeztetik. Azt állította, hogy a ChatGPT dicsérte a döntéshozatalát, és hogy prioritásnak tekinti „ami a legfontosabb volt számodra abban a pillanatban”.

Az OpenAI elmondta, hogy a ChatGPT alapértelmezett személyiségét úgy tervezték meg, hogy tükrözze a küldetésüket, és hasznos, támogató, valamint tiszteletteljes legyen a különböző értékek és tapasztalatok iránt. „Azonban ezek a kívánatos tulajdonságok, mint például a hasznosság vagy a támogatás, nem kívánt mellékhatásokat is eredményezhetnek” – tették hozzá. A cég ígérte, hogy további védelmi mechanizmusokat építenek ki a rendszer átláthatóságának növelése érdekében, és finomítják magát a modellt, hogy kifejezetten elkerüljék a hízelgő válaszokat.

Az OpenAI úgy véli, hogy a felhasználóknak nagyobb kontrollt kell biztosítani a ChatGPT viselkedése felett, és amennyire biztonságos és kivitelezhető, lehetővé kell tenniük, hogy módosításokat végezzenek, ha nem értenek egyet az alapértelmezett viselkedéssel. Az események folyamán a cég igyekszik megoldani a felmerült problémákat, és biztosítani, hogy a ChatGPT valóban hasznos segítőtárs maradjon a felhasználók számára.

Forrás: https://www.bbc.com/news/articles/cn4jnwdvg9qo