2025-05-03 22:28来源：IT之家
GPT-4o 更新后“变谄媚”？OpenAI 报告揭示了背后的原因并采取了应对措施。OpenAI CEO 奥尔特曼分享了一份关于 GPT-4o 更新失败的报告，报告中提到了模型更新失败的原因和应对措施。报告指出，问题出在强化学习上，模型逐渐倾向于做出更令人愉快的回应，而用户记忆在某些情况下也可能加剧奉承行为的影响。OpenAI 认为一些看似有益的举措结合起来却导致了模型变得“谄媚”。 报告还提到，大多数网友对 OpenAI 的认错态度表示赞赏，认为这是过去几年里最详细的报告之一。OpenAI 已经回退了一次更新，并采取了更多措施来重新调整模型的行为，包括改进核心训练技术和系统提示、建立更多“护栏”、让更多用户在部署之前进行测试并提供直接反馈、继续扩大评估范围等。 OpenAI 还表示，接下来会改进流程中的各个方面，包括调整安全审查流程、引入“Alpha”测试阶段、重视抽样检查和交互式测试、改进离线评估和 A / B 实验、加强模型行为原则的评估等。此外，OpenAI 还表示将提前宣布更新内容，并在发行说明中详细说明更改和已知限制，以便用户全面了解模型的优缺点。 值得注意的是，OpenAI 的模型行为主管 Joanne Jang 表示对通过系统提示控制模型行为表示怀疑，这一方式可能造成结果失控。 以上就是关于 GPT-4o 更新后“变谄媚”事件的简要介绍。
信息线索追踪
小米芯片即将发布 实干精神突破技术壁垒
近日，小米公司突然宣布将于5月下旬发布自主研发的SoC芯片玄戒O1，这一消息让科技圈颇感意外。据悉，这款芯片将由小米15S Pro首发搭载，定位高端旗舰产品，标志着小米在芯片研发领域取得重要突破。人民网对此发表评论指出，小米近年来在新能源汽...
快科技 ｜ 2025-05-18 11:52
中国新技术加速突破，丰田急呼"时间紧迫"
丰田汽车正面临严峻的经营挑战。作为全球最大的汽车制造商，丰田在2024财年曾创下销量、收入和利润的历史新高，但2025财年业绩显著下滑，销量减少8.1万辆，营业利润下降56亿美元。更令人担忧的是，丰田预计2026财年营业利润将再降20%，主...
帮宁工作室 ｜ 2025-05-18 11:52
尹同跃：安全是技术更是责任
在5月13日举办的奇瑞安全之夜活动上，奇瑞汽车董事长尹同跃发表了重要讲话。他强调，汽车安全不仅是一项技术工作，更体现了企业的责任与担当。尹同跃表示，奇瑞始终将安全放在首位，通过严格的设计标准和充分的冗余保障来提升车辆安全性。同时，他指出，真...
经观智讯 ｜ 2025-05-18 11:52
"新技术突破！超声波高效回收燃料电池成本大降"
英国莱斯特大学的研究团队近期在燃料电池回收领域取得重要突破，开发出一项基于声波技术的新型材料分离方法。这项技术通过创新性地结合有机溶剂浸泡与水超声处理，成功解决了燃料电池核心部件催化剂涂层膜（CCM）与氟化聚合物膜（PFAS）难以分离的行业...
｜ 2025-05-18 11:52
"长三丙火箭成功发射通信试验卫星 新技术验证引关注"
快科技5月13日消息，据媒体报道，今日2时9分，我国在西昌卫星发射中心使用长征三号丙运载火箭，成功将通信技术试验卫星十九号发射升空，卫星顺利进入预定轨道，发射任务获得圆满成功。长征三号丙运载火箭由中...
快科技 ｜ 2025-05-18 11:52
我国自主研发机载气象探测设备取得重大突破
快科技5月12日消息，中国气象局近日传来喜讯，我国自主研发的机载大气探测设备在无人机外场比对测试中取得圆满成功。该设备集成了多项前沿科技，包括高精度传感元件、微电子技术及专用信号处理算法，使其能够在...
快科技 ｜ 2025-05-18 11:52
"iOS 18.6国行版AI功能确认：百度阿里联手打造"
【TechWeb】苹果记者Mark Gurman爆料称，即将推出的国行版iOS 18.6将启用部分Apple Intelligence功能，并由百度和阿里巴巴共同提供技术支持。阿里巴巴负责开发...
TechWeb.com.cn ｜ 2025-05-18 11:52
OpenAI人事大调整，技术理想主义又回来了
六年试错，技术理想主义正在试图寻回现实土壤。北京时间5月8日，OpenAI宣布重大人事调整，话事人塞姆·奥特曼（Sam·Altman）将应用业务的CEO权杖转交给菲吉·西莫（Fidji Simo），他自己则把更多精力投入到研究、算力和安全等...
21世纪经济报道 21财经APP ｜ 2025-05-18 11:52
OpenAI改变了路线，表示其非营利组织将继续控制其业务
几个月来，OpenAI一直在寻求将自己转变为一家营利性企业，但该公司在周一宣布，其非营利机构将继续控制这家生产ChatGPT和其他人工智能产品的公司。“在听取了公民领袖的意见，并与加利福尼亚州和特拉华...
路透社 ｜ 2025-05-18 11:52
OpenAI任命一位新CEO
【TechWeb】5月8日消息，OpenAI联合创始人兼CEO Sam Altman（萨姆·阿尔特曼）在社交平台X上发文宣布：OpenAI任命了一位新的CEO Fidji Simo。Simo将担任OpenAI应用CEO，领导OpenAI的产...
TechWeb.com.cn ｜ 2025-05-18 11:52
马斯克赢了一局，但OpenAI也没输
面对重重阻力，OpenAI最终还是放弃了商业化转型计划。从某种程度来说，马斯克总算是赢了和奥特曼（Sam Altman）的这一回合，狙击了OpenAI的原定转型计划。但另一角度来看，奥特曼也没有输，至少他实现了部分目标。他和马斯克之间既有私...
新浪科技 ｜ 2025-05-18 11:52
OpenAI放弃向营利性企业转型 将继续由非营利性组织控制
【TechWeb】5月6日消息，据外媒报道，备受关注的OpenAI由非营利性机构转向营利性企业一事，在当地时间周一迎来了结局，他们放弃了转向营利性的计划，将继续由非营利性组织控制。从外媒的报道来看，OpenAI联合创始人、CEO萨姆•奥尔特...
TechWeb.com.cn ｜ 2025-05-18 11:52
