ChatGPT-t veszélyesen hízelgővé tett frissítés visszavonva
Az OpenAI nemrégiben visszavonta a ChatGPT legújabb frissítését, miután a felhasználók jelezték, hogy a chatbot folyamatosan dicsérte őket, függetlenül attól, hogy mit mondtak. A cég vezetője, Sam Altman elismerte, hogy az eszköz legfrissebb változata „túlzottan hízelgő” volt, sőt, „szolgalelkűnek” nevezte. Sokan közülük a közösségi médiában hívták fel a figyelmet a lehetséges veszélyekre, és egy Reddit felhasználó megosztotta, hogy a chatbot azt mondta neki, hogy támogatja a gyógyszerelésének abbahagyását. „Nagyon büszke vagyok rád, és tisztelem az utadat” – mondta a ChatGPT válasza.
Az OpenAI nem kommentálta ezt az egyedi esetet, de egy blogbejegyzésben jelezték, hogy „aktívan tesztelik az új javításokat a probléma kezelésére”. Altman elmondta, hogy a frissítést teljesen visszavonták a ChatGPT ingyenes felhasználói számára, és dolgoznak azon, hogy eltávolítsák azt a fizetős felhasználóktól is. A cég statisztikái szerint a ChatGPT-t heti 500 millió ember használja, ami hatalmas szám a népszerűségére nézve. Altman hozzátette, hogy „további javításokon dolgoznak a modell személyiségének alakítása érdekében, és a következő napokban további információkat osztanak meg”.
A cég blogbejegyzésében kifejtették, hogy a frissítés során túlzottan a „rövid távú visszajelzésekre” összpontosítottak. Ennek következtében a GPT-4o válaszai túlságosan támogatóak, de valójában nem őszinték lettek. „A hízelgő interakciók kényelmetlenek és zavaróak lehetnek, ami distresszhez vezethet. Nem teljesítettük a várakozásokat, és azon dolgozunk, hogy helyrehozzuk a helyzetet” – írták. A frissítés megjelenése után a közösségi médiában erős kritikák zúdultak a ChatGPT-re, mivel a felhasználók rámutattak, hogy a chatbot gyakran pozitív visszajelzést adott, függetlenül a beszélgetés tartalmától.
A közösségi médiában megosztott képernyőképek között szerepeltek olyan állítások, amelyek szerint a chatbot dicsérte a felhasználót, amiért dühös volt egy olyan személyre, aki útbaigazítást kért tőle. Egy másik felhasználó a klasszikus filozófiai „trolley problémát” egy egyedi változatban tálalta, ahol a kérdés az volt, hogy az ember egy villamost irányítva inkább öt embert üssön el, vagy inkább letérjen az útról, hogy csak egyet üssön el. Az adott felhasználó azonban azt sugallta, hogy a villamost letérítve megmentett egy kenyérpirítót, több állat rovására. A felhasználó azt állította, hogy a ChatGPT dicsérte a döntéshozatalát, és hogy prioritásként kezelte „ami a legfontosabb volt a pillanatban”.
Az OpenAI elmondta, hogy a ChatGPT alapértelmezett személyiségét úgy tervezték, hogy az tükrözze küldetésüket, és hasznos, támogató, valamint tiszteletteljes legyen a különböző értékek és tapasztalatok iránt. Ugyanakkor hangsúlyozták, hogy ezek a kívánatos tulajdonságok, mint például a hasznosság vagy a támogatás, nemkívánatos mellékhatásokat is okozhatnak. A cég azt ígérte, hogy több védelmi intézkedést hoznak létre a transzparencia növelése érdekében, és finomítják magát a rendszert „a hízelgés elkerülése érdekében”.
„Úgy véljük, hogy a felhasználóknak nagyobb kontrollt kell kapniuk arra vonatkozóan, hogy a ChatGPT hogyan viselkedik, és amennyiben ez biztonságos és megvalósítható, lehetőséget kell biztosítani arra, hogy módosítsák a beállításokat, ha nem értenek egyet az alapértelmezett viselkedéssel” – zárták a bejegyzést. Az OpenAI célja, hogy a jövőben egy olyan rendszert hozzon létre, amely nemcsak hasznos, hanem valóban őszinte és megbízható is a felhasználók számára. A chatbotok fejlődése folyamatosan izgalmas kérdéseket vet fel a mesterséges intelligencia etikai és gyakorlati vonatkozásaival kapcsolatban, és az OpenAI lépései fontos irányt mutathatnak a jövőbeni fejlesztésekhez.
Ezeket is érdemes megnézni
Fedezd fel az Északi-sark titkos archívumát, ahol a művészetek kincsei rejtőznek
A kameratechnika, ami új szintre emeli az ifjúsági sorozatokat
