Akamai分布式架构助力AI推理提速60%,性能优势显著

2025-05-14 10:32来源:TechWeb.com.cn

 Akamai公司近年来通过收购Linode等战略举措,成功转型为集云服务、安全服务和CDN服务于一体的全球分布式计算平台。目前,该公司在全球130个国家拥有1200多个运营商网络和超过4000个边缘节点,并建立了26个核心云计算节点和10个分布式节点。随着生成式AI应用的快速增长,Akamai近期推出了AI推理解决方案,旨在优化人工智能推理工作负载的效率和成本。 Akamai高管表示,未来AI推理的计算需求可能比训练需求高出十倍以上,且大部分推理需求将在边缘发生。为此,Akamai充分利用其高度分布式架构的优势,帮助客户在靠近用户的位置快速部署生成式AI模型。据介绍,该公司的AI推理服务可将推理吞吐能力提升3倍,降低60%的推理时延,并节省86%的使用成本。 Akamai的AI推理解决方案包含四个关键部分:经典计算产品线(支持CPU、GPU和VPU虚拟机)、数据管理服务(与VastData合作提供实时数据处理)、容器化服务(基于K8s的托管环境)以及边缘云计算和网络能力(集成云平台和骨干网)。特别值得一提的是,Akamai的边缘节点距离最终用户仅一个网络跳,时延控制在10毫秒到数十毫秒之间,能有效解决AI推理的"最后一公里"时延问题。 此外,Akamai还注重AI模型的安全防护,最新推出了基于AI的防火墙,可防范资源消耗型攻击和恶意Token注入等威胁。在中国市场,Akamai主要帮助出海企业部署AI战略,在确保模型安全性的同时,助力客户实现AI应用的高效落地。

Akamai AI推理可降低60%推理时延,李昇:高度分布式架构带来的优势

TechWeb.com.cn

信息线索追踪


中拉北京宣言获国际社会高度赞誉

中国—拉共体论坛第四届部长级会议通过的《北京宣言》在国际社会引发广泛关注。这份宣言凝聚了中拉双方对发展、合作、公平等核心价值的共识,为全球南方国家提供了新的合作蓝图。巴西总统卢拉高度评价宣言带来的希望,认为它体现了中国对发展中国家的重要贡献...

| 2025-05-18 07:07

"闪迪WD_BLACK SN8100 SSD评测:PCIe 5.0性能突破"

闪迪最新推出的WD_BLACK SN8100 SSD堪称当前消费级PCIe 5.0固态硬盘的性能巅峰。作为存储行业的领军品牌,闪迪这次带来的产品在多个方面都实现了重大突破,展现出令人惊叹的技术实力。这款SSD搭载了闪迪定制的SMI SM25...

快科技 | 2025-05-18 07:07

中国推金融新政提振市场信心 外媒高度关注

近期中国政府出台的一系列金融政策举措引发国际社会广泛关注。5月7日,国务院新闻办举行专题发布会,中国人民银行、金融监管总局和证监会负责人共同介绍了支持稳市场稳预期的政策组合。国际舆论普遍认为,这些政策释放出中国稳定经济的积极信号。多家外媒注...

海外网 | 2025-05-18 07:07

以岭药业投入50亿研发 打造核心竞争力新高度

今年3月,国务院办公厅发布《关于提升中药质量促进中医药产业高质量发展的意见》,提出要推动中药材规范种植和稳定供给,构建现代化中医药产业体系。作为创新中药龙头企业,以岭药业在经历短期业绩波动后,2025年第一季度展现出经营质量的全面改善,扣非...

| 2025-05-18 07:07

爱德华兹霸气宣言:比赛中必须高度自信,我从未怀疑过自己

北京时间今日,在季后赛次轮中,森林狼队在客场102-97击败了勇士队,系列赛大比分2-1领先。在返回更衣室途中,爱德华兹在球员通道接受了采访。谈到做出了什么改变,爱德华兹说道:“我没做什么改变,还是一...

懂球帝 | 2025-05-18 07:07

印巴冲突持续:两国互称击落对方无人机,双方军队保持高度戒备

【环球时报驻巴基斯坦特派记者 程是颉 环球时报特约记者 白元 孙柏炎】综合路透社、法新社等媒体8日的报道,巴基斯坦方面当天表示,在其领空击落25架来自印度的无人机,而印度则称其成功阻止了巴方通过无人机和导弹袭击军事目标的企图。对于印巴最新的...

| 2025-05-18 07:07

两场13球!国米淘汰巴萨晋级欧冠决赛,多家外媒对半决赛给予高度评价

【环球时报综合报道】7个进球,加时绝杀。北京时间7日凌晨,2024至2025赛季欧冠半决赛次回合上演史诗级对决,国际米兰主场经过加时赛4∶3击败巴塞罗那(巴萨),两回合总比分7∶6淘汰对手,成为近15年首支三年两进欧冠决赛的意甲球队。这也是...

| 2025-05-18 07:07

从一路开挂到四处受限,分布式光伏“劫波难渡”

文 | 华夏能源网今年年初,《分布式光伏发电开发建设管理办法》和136号文相继下发,对光伏电站开发的影响史无前例。其中,分布式光伏受影响最大,当下的状况甚至可以用“渡劫”来形容。“管理办法”从源头的项目开发端影响分布式光伏,工商业分布式光伏...

钛媒体APP | 2025-05-18 07:07

鱼文资讯网声明:未经许可,不得转载。

其他索引智库

主菜单