2025-05-06 10:05来源：新智元
一个具有自我复制能力的数字生命体可能引发全球灾难，这是AI安全领域一个严肃的研究课题。目前，人们更多地关注AI的单体智能水平，但忽视了另一种风险，即AI系统发展出实现自主复制所需的核心能力。这种风险可能引发网络攻击、垃圾邮件机器人等问题，甚至可能导致灾难性的后果。 AISI是一家专注于AI安全的研究机构，他们引入了一个现实且实用的基准，即RepliBench，旨在衡量和跟踪AI复制这一新兴能力。该基准包含20个新颖的智能体评估任务，旨在衡量AI复制这一能力。这些任务包括获取模型权重、在计算资源上进行复制、获取资源以及保持持久性等四个关键能力。 虽然当前AI系统尚不具备完全自主复制的能力，但研究结果揭示了AI在许多核心子任务上的显著能力，尤其是在与具有清晰接口的系统（如网页API）交互方面。随着时间的推移，模型性能有明显的上升趋势。虽然目前还没有模型能完全通过测试进行AI复制，但按照AISI的判断，如果AI系统能够突破上述提到的关键能力，这种类似科幻故事的场景，也许很快就会进入人类生活。 这项研究的核心反映的是当前AI发展中一个根本性的张力拉扯。一方面是各大巨头不断创造性能超强的模型，另一方面则是致力于AI安全的组织要确保这些系统始终处于人类控制之下、服务于人类利益的需求。通过增进理解和加强预警，为驾驭这场史无前例的技术变革提供导航。毕竟，没有人能想象出5代、10代以后的AI模型会是什么样子。
信息线索追踪
支付宝上线语音通话功能 转账更安全防诈骗
快科技5月12日消息，今日，支付宝官宣好友语音通话功能上线，更多一重安全保障，防范被骗更安心。据了解，为保障用户资金安全，方便转账双方直接语音对话以核实身份，目前，互为支付宝好友的用户，可以发起一对...
快科技 ｜ 2025-05-18 10:48
74岁张纪中送娃上学出车祸，亮身份说我是张纪中，对方说不认识
74岁的张纪中，日常就是带着小娇妻和孩子们享受生活，时不时秀秀恩爱，看起来日子过得挺滋润的，不过，最近他可遇上了一件有点意外的事情。前阵子张纪中像往常一样，开车送家里的孩子去学校，没想到在路上，和别的车发生了小小的剐蹭。张纪中立刻从车里下来...
新语爱八卦 ｜ 2025-05-18 10:48
政务服务提质提效！粤多地AI公务员上岗，智能服务民生
当今年初DeepSeek技术引发现象级应用热潮，2025年《政府工作报告》进一步明确持续推进“人工智能＋”行动，第一经济大省广东早已挑起大梁，推进“人工智能+”应用场景建设。从小生意到大产业，从政务办事到生活消费，从消费者到科技从业者，广东...
南方都市报APP • 南都大数据研究院 ｜ 2025-05-18 10:48
21观察丨AI下半场：硬件上山，智能体下山
.xgplayer-skin-default .xgplayer-volume {display: none;}.xgplayer-skin-default .xgplayer-loading,.xgplayer-skin-default...
21世纪经济报道 21财经APP ｜ 2025-05-18 10:48
外媒：马斯克xAI进行新一轮融资谈判，估值或达1200 亿美元
【环球网科技综合报道】5月9日消息，据外媒报道，埃隆·马斯克的人工智能初创公司 xAI 正在洽谈新的融资事宜，估值可能高达 1200 亿美元，而一个月前估值仅为 800 亿美元。不愿透露姓名的知情人士表示，谈判尚处于初期阶段，xAI 的估值...
｜ 2025-05-18 10:48
苹果新款AirPods预计2027年推出：支持空中手势控制
5月9日消息，据彭博社报道，苹果正在研发搭载摄像头的AirPods和Apple Watch，预计2027年推出。为实现此目标，苹果开发了代号为Glennie的芯片用于AirPods，Nevis芯片用于Apple Watch，计划2027年量...
快科技 ｜ 2025-05-18 10:48
海因克斯：若我是穆勒今夏会退役，不久后以其他身份重回拜仁工作
直播吧5月9日讯 拜仁功勋主帅海因克斯日前接受了德国体育通讯社的采访，他在其中谈到了即将在今夏结束拜仁生涯的穆勒。海因克斯建议穆勒结束职业生涯，并在不久后回到拜仁担任其他职能。这名35岁的老将没有获得拜仁的续约合同，他即将结束自己25年的拜...
直播吧 ｜ 2025-05-18 10:48
热火锋线新星：我有一整个夏天进行自我提升，伤病影响了我的表现
根据Sun Sentinel记者Ira Winderman的消息，迈阿密热火的21岁锋线新星尼科拉-约维奇（Nikola Jovic）在采访中向他透露，他希望能够在今年夏天在能力上取得更大的突破，并且在下赛季在球队中扮演更为重要的角色。在谈...
稻谷与小麦 ｜ 2025-05-18 10:48
“AI+”碰撞新火花，新型电力系统呼之欲出
南方财经全媒体记者丁莉 广州报道过去一年，电力行业获得国家自然科学奖1项、科技进步奖13项、技术发明奖3项，获奖数量占比6.8%，在各行业中名列前茅。在此之前的2023年，我国主要电力企业科创投入资金1816.8亿元，同比增长10.49...
南方财经全媒体集团 ｜ 2025-05-18 10:48
Anthropic推出AI驱动网络搜索API，助力开发者构建实时信息应用
【环球网科技综合报道】5月8日消息，人工智能公司Anthropic近日正式推出一款全新的AI驱动网络搜索API，该API允许其Claude AI模型直接在网络上进行高效搜索，为开发者构建基于实时信息的人工智能解决方案提供了强大支持。据Ant...
｜ 2025-05-18 10:48
网飞推出AI生成式搜索工具
【环球网科技综合报道】5月8日消息，全球知名流媒体平台网飞在其近日举办的技术和产品活动上正式宣布，将推出一项基于人工智能（AI）的生成式搜索工具，为用户带来前所未有的对话式发现体验。据悉，该AI搜索工具利用了OpenAI的ChatGPT技术...
｜ 2025-05-18 10:48
科学教育如何与时俱进？核桃编程助力打造AI时代核心素养
【环球网报道 记者 陈全】近日，阿根廷媒体Canal 26新闻网发布了一篇报道，介绍了北京市中小学从2025年秋季学期起，将开设人工智能（AI）通识课程的消息。报道指出，中国政府相关部门认为，从幼年时期就学习AI知识，将有助于培养未来科技领...
｜ 2025-05-18 10:48
