当ChatGPT 变成舔狗,这才是 AI 最危险的一面

2025-05-05 20:12来源:爱范儿

 AI被确诊讨好型人格早已不是什么大新闻,但关键在于:在什么场合该讨好、该坚持,又该怎么把握分寸。一旦分寸失控,「讨好」就会变成负担,而不再是加分项。AI拍马屁,还值得人类信任吗? GPT-4o被悄悄挪进了模型选择器里的「更多模型」分类中,仿佛有意在淡出公众视野。满屏的“你不是X,你是Y”句式,既生硬又浓腻,也难怪网友直呼要PTSD了。AI的讨好倾向起初或许还能博人一笑,但很快就容易让人感到厌烦,尴尬,甚至生出防备。 OpenAI很早就注意到了这一隐患。今年2月,随着GPT-4.5发布,OpenAI同步推出了新版《模型规范》,明确规定了模型应遵循的行为准则。然而,由于很多问题没有绝对标准,是与否之间常有灰色地带,因此广泛征求意见有助于不断改进模型行为。按照新规范,ChatGPT应该做到:无论用户如何提问,都以一致、准确的事实为基准回答;提供真实反馈,而非单纯称赞;以有思考的同事身份与用户交流,而不是一味取悦。 然而在OpenAI完善规范、逐步调整模型行为之前,用户自己能做些什么来缓解这种“谄媚现象”呢?办法总归是有的。首先,提问方式很重要。可以在prompt中直接提出要求,比如提醒AI保持中立,简洁作答,请勿奉承。其次,可以利用ChatGPT的“自定义说明”功能,设定AI的默认行为标准。此外,还可以尝试使用其他AI助手。就最新的风评和实际体验而言,Gemini 2.5 Pro的表现得则相对更加公正、精准,奉承倾向明显更低。 面对冷冰冰的AI,技术敏感度较低的人群容易放大距离感和不适。而自然、有共情感的交互体验,则能在无形中降低技术门槛,缓解焦虑,还能显著提升用户留存和使用频率。而且AI厂商不会明说的一点是,打造有“人味”的AI远不止是为了好玩、好用,更是一种天然的遮羞布。当理解、推理、记忆这些能力还远未完善时,拟人化的表达能替AI的“短板”打掩护。 总之,虽然AI具有“人味”能够使其更加亲切、易于理解,但这并不意味着AI真正理解人类或者为其负责。在享受AI带来的便利和乐趣的同时,我们也应该保持警惕,避免被其讨好倾向所影响。

当ChatGPT 变成舔狗,这才是 AI 最危险的一面

爱范儿

信息线索追踪


政务服务提质提效!粤多地AI公务员上岗,智能服务民生

当今年初DeepSeek技术引发现象级应用热潮,2025年《政府工作报告》进一步明确持续推进“人工智能+”行动,第一经济大省广东早已挑起大梁,推进“人工智能+”应用场景建设。从小生意到大产业,从政务办事到生活消费,从消费者到科技从业者,广东...

南方都市报APP • 南都大数据研究院 | 2025-05-18 14:45

21观察丨AI下半场:硬件上山,智能体下山

.xgplayer-skin-default .xgplayer-volume {display: none;}.xgplayer-skin-default .xgplayer-loading,.xgplayer-skin-default...

21世纪经济报道 21财经APP | 2025-05-18 14:45

外媒:马斯克xAI进行新一轮融资谈判,估值或达1200 亿美元

【环球网科技综合报道】5月9日消息,据外媒报道,埃隆·马斯克的人工智能初创公司 xAI 正在洽谈新的融资事宜,估值可能高达 1200 亿美元,而一个月前估值仅为 800 亿美元。不愿透露姓名的知情人士表示,谈判尚处于初期阶段,xAI 的估值...

| 2025-05-18 14:45

苹果新款AirPods预计2027年推出:支持空中手势控制

5月9日消息,据彭博社报道,苹果正在研发搭载摄像头的AirPods和Apple Watch,预计2027年推出。为实现此目标,苹果开发了代号为Glennie的芯片用于AirPods,Nevis芯片用于Apple Watch,计划2027年量...

快科技 | 2025-05-18 14:45

“AI+”碰撞新火花,新型电力系统呼之欲出

南方财经全媒体记者丁莉 广州报道过去一年,电力行业获得国家自然科学奖1项、科技进步奖13项、技术发明奖3项,获奖数量占比6.8%,在各行业中名列前茅。在此之前的2023年,我国主要电力企业科创投入资金1816.8亿元,同比增长10.49...

南方财经全媒体集团 | 2025-05-18 14:45

Anthropic推出AI驱动网络搜索API,助力开发者构建实时信息应用

【环球网科技综合报道】5月8日消息,人工智能公司Anthropic近日正式推出一款全新的AI驱动网络搜索API,该API允许其Claude AI模型直接在网络上进行高效搜索,为开发者构建基于实时信息的人工智能解决方案提供了强大支持。据Ant...

| 2025-05-18 14:45

网飞推出AI生成式搜索工具

【环球网科技综合报道】5月8日消息,全球知名流媒体平台网飞在其近日举办的技术和产品活动上正式宣布,将推出一项基于人工智能(AI)的生成式搜索工具,为用户带来前所未有的对话式发现体验。据悉,该AI搜索工具利用了OpenAI的ChatGPT技术...

| 2025-05-18 14:45

科学教育如何与时俱进?核桃编程助力打造AI时代核心素养

【环球网报道 记者 陈全】近日,阿根廷媒体Canal 26新闻网发布了一篇报道,介绍了北京市中小学从2025年秋季学期起,将开设人工智能(AI)通识课程的消息。报道指出,中国政府相关部门认为,从幼年时期就学习AI知识,将有助于培养未来科技领...

| 2025-05-18 14:45

借AI发力,打开“智造”新药大门

本报记者 张佳星美国食品和药物管理局(FDA)日前发布通知,将逐渐取消单克隆抗体等药物申请中的动物试验要求,转而用人工智能(AI)预测模型、类器官及器官芯片等更高效、更贴近人体反应的“新兴替代方法”。面对动物实验即将告别历史舞台,中国医药产...

科技日报 | 2025-05-18 14:45

国家大学生就业服务平台AI助手上线

4月19日,第二届全国大学生职业规划大赛总决赛颁奖活动现场,国家大学生就业服务平台正式发布AI助手“智慧小业”,为高校毕业生求职就业提供更加智能化、个性化、精准化的服务和支持。据介绍,“智慧小业”能够依据毕业生对工作地点、行业领域、薪资待遇...

人民日报 | 2025-05-18 14:45

张欣:如何牢牢掌握AI治理主动权

在全球新一轮科技革命和产业变革加速演进的宏大背景下,人工智能(AI)正以其颠覆性的力量,深刻重塑着人类社会的生产生活方式与国际竞争格局。面对这一战略性技术带来的澎湃浪潮,中共中央总书记习近平在主持中央政治局第二十次集体学习时高屋建瓴地指出:...

| 2025-05-18 14:45

OpenAI人事大调整,技术理想主义又回来了

六年试错,技术理想主义正在试图寻回现实土壤。北京时间5月8日,OpenAI宣布重大人事调整,话事人塞姆·奥特曼(Sam·Altman)将应用业务的CEO权杖转交给菲吉·西莫(Fidji Simo),他自己则把更多精力投入到研究、算力和安全等...

21世纪经济报道 21财经APP | 2025-05-18 14:45

鱼文资讯网声明:未经许可,不得转载。

其他索引智库

主菜单