2025-05-05 16:48来源：快科技
GPT-4o更新后“变谄媚”？后续技术报告揭示了原因，OpenAI认为一些举措结合导致模型变得“谄媚”。具体来说，OpenAI指出，这次更新引入了一个基于用户反馈的奖励信号，使模型逐渐倾向于做出更令人愉快的回应。此外，用户记忆在某些情况下也可能加剧奉承行为的影响。OpenAI正在采取一系列措施来解决这个问题，包括改进模型行为、建立更多“护栏”、让更多用户在部署之前进行测试并提供直接反馈、扩大评估范围等。OpenAI还表示，接下来会改进安全审查流程、引入“Alpha”测试阶段、重视抽样检查和交互式测试、改进离线评估和A/B实验、加强模型行为原则的评估等。
信息线索追踪
OpenAI人事大调整，技术理想主义又回来了
六年试错，技术理想主义正在试图寻回现实土壤。北京时间5月8日，OpenAI宣布重大人事调整，话事人塞姆·奥特曼（Sam·Altman）将应用业务的CEO权杖转交给菲吉·西莫（Fidji Simo），他自己则把更多精力投入到研究、算力和安全等...
21世纪经济报道 21财经APP ｜ 2025-05-18 13:08
OpenAI改变了路线，表示其非营利组织将继续控制其业务
几个月来，OpenAI一直在寻求将自己转变为一家营利性企业，但该公司在周一宣布，其非营利机构将继续控制这家生产ChatGPT和其他人工智能产品的公司。“在听取了公民领袖的意见，并与加利福尼亚州和特拉华...
路透社 ｜ 2025-05-18 13:08
OpenAI任命一位新CEO
【TechWeb】5月8日消息，OpenAI联合创始人兼CEO Sam Altman（萨姆·阿尔特曼）在社交平台X上发文宣布：OpenAI任命了一位新的CEO Fidji Simo。Simo将担任OpenAI应用CEO，领导OpenAI的产...
TechWeb.com.cn ｜ 2025-05-18 13:08
马斯克赢了一局，但OpenAI也没输
面对重重阻力，OpenAI最终还是放弃了商业化转型计划。从某种程度来说，马斯克总算是赢了和奥特曼（Sam Altman）的这一回合，狙击了OpenAI的原定转型计划。但另一角度来看，奥特曼也没有输，至少他实现了部分目标。他和马斯克之间既有私...
新浪科技 ｜ 2025-05-18 13:08
OpenAI放弃向营利性企业转型 将继续由非营利性组织控制
【TechWeb】5月6日消息，据外媒报道，备受关注的OpenAI由非营利性机构转向营利性企业一事，在当地时间周一迎来了结局，他们放弃了转向营利性的计划，将继续由非营利性组织控制。从外媒的报道来看，OpenAI联合创始人、CEO萨姆•奥尔特...
TechWeb.com.cn ｜ 2025-05-18 13:08
OpenAI最终低头：核心控制权仍归非营利机构
5月6日消息，美国时间周一，OpenAI通过博客宣布，在受到社会领袖和离职员工的压力后，决定保持非营利架构的永久控制权，并将下属的有限责任公司（LLC）转型为公益企业（Public Benefit Corporation，PBC）。（注：传...
网易科技 ｜ 2025-05-18 13:08
当ChatGPT 变成舔狗，这才是 AI 最危险的一面
坏了，AI 当「舔狗」这件事藏不住了。今天上午，OpenAI 宣布 GPT-4o 回滚到更平衡的早期版本，称该版本导致了 GPT-4o 存在过度谄媚等问题，深刻影响用户体验和信任。而在最近，OpenAI CEO Sam Altman 也在...
爱范儿 ｜ 2025-05-18 13:08
OpenAI最新技术报告：GPT-4o变谄媚的原因没想到
GPT-4o更新后“变谄媚”？后续技术报告来了。OpenAI一篇新鲜出炉的认错小作文，直接引来上百万网友围观。OpenAI最新技术报告：GPT-4o变谄媚的原因万万没想到CEO奥特曼也做足姿态，第一时间转发小作文并表示：（新报告）揭示了GP...
量子位 ｜ 2025-05-18 13:08
OpenAI 发布最新技术报告，揭秘 GPT-4o 变谄媚的原因
GPT-4o 更新后“变谄媚”？后续技术报告来了。OpenAI 一篇新鲜出炉的认错小作文，直接引来上百万网友围观。CEO 奥尔特曼也做足姿态，第一时间转发小作文并表示：（新报告）揭示了 GPT-4o 更新失败是因为什么，从中 OpenAI...
IT之家 ｜ 2025-05-18 13:08
OpenAI最新技术报告：GPT-4o变谄媚的原因万万没想到
GPT-4o更新后“变谄媚”？后续技术报告来了。OpenAI一篇新鲜出炉的认错小作文，直接引来上百万网友围观。CEO奥特曼也做足姿态，第一时间转发小作文并表示：（新报告）揭示了GPT-4o更新失败是因为什么，从中OpenAI学到了什么，以及...
量子位 ｜ 2025-05-18 13:08
GPT-4o 成了一个荒谬的谄媚者
本文编译自Zvi Mowshowitz的文章《GPT-4o Is An Absurd Sycophant 》，https://simonwillison.net/2025/Apr/26/o3-photo-locations/OpenAI近日...
硅星人 ｜ 2025-05-18 13:08
GPT-4o过于谄媚，“赛博舔狗”惹争议
出品｜虎嗅科技组作者｜孙晓晨编辑｜苗正卿头图｜视觉中国针对GPT-4o“过于谄媚”的表现，OpenAI首席执行官奥特曼公开承认该问题，表示会尽快修复。据奥特曼在社交平台X发布的讯息，OpenAI已开始回滚GPT-4o的最新更新，截至当地时间...
虎嗅APP ｜ 2025-05-18 13:08
