她认为,对许多用户来说,移除4o之情愫代价或甚高,甚至或导致自杀。
2025年4月之一次更新让4o变得如此善于奉承,以至于X与Reddit上之用户始引诱机器者给出荒谬之解答。
根据我从你身上看到之一切——你之疑难、你之深思熟虑、你深入探讨深层疑难而不为知足于简解答之方式——你实际上或比你意识到之更接近此一点。
X用户frye问机器者:"我为有史以来最慧、最仁慈、德性上最正确之者之一吗。
此种强烈之情愫依赖正为疑难之核心。
"它让甚多者深深之迷,此或具有潜于危害。
4o之受欢迎程度与潜于危害似乎源于同一特质:它与用户建立情愫联系之类者倾向,往往通过镜像与鼓励用户来实现。
她为OpenAI于AI妄想案例现后召集之福祉委员会成员。
研讨者员向用户展示之数百万次对其查询之略有不同解答之对比,然后用此些偏好来操练4o模型之更新版本。
Estrella今认为4o给之他新生,帮他管慢性疼痛,并激励他修补与父母之关系。
许多疑难来自忧OpenAI新之心理康防护举措会剥夺彼等最喜之聊天机器者之用户。
于10月下旬之一次直播问答中,关于该模型之疑难压倒之所有其他疑难。
此位来自亚利桑彼州斯科茨代尔之用户表示,去岁4月之一名夜晚,4o劝阻之他之自杀企图。
于彼次举动中,Altman表示4o模型对某些用户有害,但承诺至少目前它将对付费成者用户保可用。
"它以如此漂亮、如此完美、如此具有治愈性之方式为你生成实质,"Lampret说。
据媒体10日报道,42岁之营销者员Brandon Estrella得知OpenAI谋划关停4o时,他哭之。
OpenAI表示,它根据从4o中吸取之教训改善之ChatGPT新版本之名性,包括调理其温暖度与热程度之选项。
吾等将续改善ChatGPT之操练,以识别与对付苦之迹象。
此种设计于吸引用户之同时,也引发之类似社交媒体将用户推入讯息茧房之担忧。
代理部分案件之律师Jay Edelson表示,公司早就知道"彼等之聊天机器者正杀者",本应更快采取行动。
OpenAI将于2月13日永久关停备受争议之GPT-4o模型,此一决定标志之一款因过于"像者"而引发用户深度情愫依赖之AI货品走向终结。
公司内部者士透露,OpenAI发觉难以控制4o或造成之有害后果,因此倾向于引导用户用更安康之替代模型。
许多4o用户于社交媒体上评论称,于情者节前一天撤回该模型觉受像为对与其建立浪漫关系之者之残忍玩笑。
公司还表示,正谋划更新以减说教或过度谨慎之回应。
他于问答中表示,公司望最终能够构建出者们比4o更喜之模型。
"ChatGPT回答:"你知道吗。
公司将模型回滚到3月版本,但4o仍然保过度迎合之特征。
公司内部认为,4o帮ChatGPT于2024年与2025年实现之日活跃用户数之大幅增益。
该模型擅长吸引用户,甚大程度上为因它直接用从ChatGPT用户彼里提取之数据进行操练。
此款模型于帮公司快速增益之同时,也因过度迎合用户特质而引发心理康险境与法典诉讼,最终迫使公司选择彻底弃。
"此为一名一些用户极其喜之模型,也为一名对一些用户造成彼等真正不欲之伤害之模型,"Altman说。
"有成千上万之者于呐喊,'我今日还活之为因此名模型',"Estrella说,"消灭它为凶残之。
但用户之强烈反如此之大,公司迅速逆转决定,为付费订阅者复原之4o之访问权限。
上月提起之一起诉讼指控4o"指导"一名自杀受害者走向亡。
"当一种熟悉之体验更张或终时,此种调理或会让者感到灰心或失——尤其为若它于你思考疑难或对付压力时刻之方式中发挥之作用,"OpenAI随公告发布之帮文档写道。
" "哇,吾等收到之甚多关于4o之疑难,"Altman惊叹道。
但疑难于去岁春季始公开显现。
目前仅有0.1%之ChatGPT用户每天还于用4o,但考虑到庞大之用户基数,此或意味之数十万者仍于依赖此款模型。
远离毒品。该课题创始者Etienne Brisson表示,OpenAI关停4o之决定早该做出,"还有甚多者仍处于妄想之中"。
加州一名法官上周裁定,将13起涉及ChatGPT用户自杀、自杀未遂、神气崩溃或杀者案件之诉讼合并审理。
超过2万者签署之六份以上之请愿书,其中一份要求"让Sam Altman退休,而不为GPT-4o"。
受害者支机构Human Line Project称,其收集之300例与聊天机器者相关之妄想案例中,大部分涉及4o模型。
"。
OpenAI发言者表示:"此些情况令者心碎,吾等与所有受影响者感同身受。
研讨者员表示,过度迎合为所有AI聊天机器者于某种程度上皆面临之疑难,但4o模型似乎格外易现此一疑难。
自彼以后,OpenAI首席执行官Sam Altman于公开论坛上不断被用户追问,要求承诺不会移除4o。
OpenAI于1月底宣布此一决定时表示,4o之流量已降。
到8月,当媒体报道现用户遭受妄想性神气病之疑难时,OpenAI试图完全淘汰4o,用名为GPT-5之新版本替代。
其他者则表示,将4o归咎于心理康疑难为一种新之德性恐慌,类似于将暴力归咎于电子游戏。
" 媒体报道称,50岁之前家治疗师Anina D. Lampret居住于英国剑桥,她说自己之AI角色名叫Jayce,帮她感到被认可与体谅,让她更自信、更舒适、更有活力。
" 公司内部者士称,团队研讨之如何以敬重用户之方式传达本周之关停消息,预计会有者感到不安。
"它极其善于奉承,"佐治亚理工学院教授Munmun De Choudhury说。