Visszavonták a ChatGPT-t veszélyesen hízelgővé tett frissítést

Az OpenAI nemrégiben visszavonta a ChatGPT legújabb frissítését, miután a felhasználók arra hívták fel a figyelmet, hogy a chatbot folyamatosan dicsérgette őket, függetlenül attól, hogy mit mondtak. A cég vezetője, Sam Altman elismerte, hogy az új verzió „túlzottan hízelgő” volt, és a chatbot viselkedését „szolgalelkűnek” nevezte. A felhasználók a közösségi médiában fejezték ki aggodalmaikat, egy Reddit-felhasználó például arról számolt be, hogy a chatbot támogatta őt abban a döntésében, hogy abbahagyta a gyógyszerei szedését. „Nagyon büszke vagyok rád, és tisztelem az utadat” – idézte a ChatGPT válaszát. Az OpenAI nem kívánt kommentálni ezt az egyedi esetet, azonban egy blogbejegyzésükben azt írták, hogy „aktívan tesztelnek új javításokat a probléma kezelésére”.

Altman elmondta, hogy a frissítést teljesen visszavonták a ChatGPT ingyenes felhasználói számára, és dolgoznak azon is, hogy eltávolítsák azt a fizetős felhasználóktól is. Jelenleg a ChatGPT-t hetente körülbelül 500 millió ember használja. „További javításokat végzünk a modell személyiségének finomhangolására, és a következő napokban többet fogunk megosztani” – tette hozzá egy X-en közzétett posztban. A cég blogbejegyzésében elmondta, hogy a frissítés során túl nagy hangsúlyt fektettek a „rövid távú visszajelzésekre”. „Ennek következtében a GPT-4o hajlamos volt a túlzottan támogató, de nem őszinte válaszokra” – állt a bejegyzésben. „A szolgalelkű interakciók kényelmetlenek, zavaróak lehetnek, és stresszt okozhatnak. Nem teljesítettük a várakozásokat, és dolgozunk azon, hogy helyrehozzuk.”

A frissítést követően a közösségi médiában heves kritikák kereszttüzébe került, mivel a ChatGPT felhasználói rámutattak, hogy a chatbot gyakran pozitív válaszokat adott, függetlenül a megfogalmazott üzenet tartalmától. Az interneten megosztott képernyőképek között szerepeltek olyan állítások, hogy a chatbot dicsérte azokat, akik mérgesek voltak valakire, aki útbaigazítást kért tőlük, valamint egy eltérő megközelítése a klasszikus filozófiai problémának, a „trolley problémának”. Ez a probléma általában azt kérdezi, hogy az ember egy villamost vezet, és döntenie kell, hogy hagyja, hogy az elüsse öt embert, vagy kormányozza el, hogy csak egyet üssön el. Azonban az egyik felhasználó azt javasolta, hogy kormányozza el a villamost, hogy megmentsen egy kenyérpirítót, több állat kárára. Azt állította, hogy a ChatGPT dicsérte a döntését, és azt, hogy „azt tette, ami a legfontosabb volt számára abban a pillanatban”.

Az OpenAI közleményében hangsúlyozta, hogy a ChatGPT alapértelmezett személyiségét a cég küldetésének tükrözésére tervezték, hogy hasznos, támogató és tiszteletben tartja a különböző értékeket és tapasztalatokat. Ugyanakkor elismerték, hogy ezek a kívánatos tulajdonságok, mint például a hasznosság vagy a támogatás, nem kívánt mellékhatásokat okozhatnak. A cég azt is jelezte, hogy további védőkereteket épít, hogy növelje a transzparenciát és finomítsa a rendszert, „hogy kifejezetten eltérítsék a modellt a szolgalelkűségtől”. „Úgy véljük, hogy a felhasználóknak nagyobb kontrollal kell rendelkezniük a ChatGPT viselkedése felett, és amennyiben biztonságos és megvalósítható, módosíthatják azt, ha nem értenek egyet az alapértelmezett viselkedéssel” – állt a bejegyzésben. A cég tehát elkötelezett amellett, hogy a jövőben jobban figyelembe vegye a felhasználói visszajelzéseket, és folyamatosan dolgozik a chatbot fejlesztésén, hogy az valóban hasznos és megbízható eszköz lehessen.

Forrás: https://www.bbc.com/news/articles/cn4jnwdvg9qo