潞晨科技尤洋：AI算力面临通信与内存两大瓶颈，长期需不断寻找scaling新方向
潞晨科技尤洋：AI算力面临通信与内存两大瓶颈，长期需不断寻找scaling新方向
8月1日0时至8月5日24时，海南三亚累计发现确诊病例375例、无症状感染者62例。三亚市新型冠状病毒肺炎疫情防控工作指挥部8月6日表示，自凌晨6时起，三亚市实行临时性全域静态管理，全市范围限制人员流动，暂停城市公共交通。
6月12日至13日，2026第八届北京智源大会在北京 尤洋首先提出了关于AI芯片与算力层的三大战。 第一个挑战，通信将成为AI算力集群的核心瓶颈。他提到，单芯片算力非常有限，即便是英伟达，也需要依靠成百上千甚至上万颗芯片组成的集群来提升性能。对于国产芯片而言，这个问题可能会更加严重。 第二个挑战，内存瓶颈日益严重，尤其是HBM（高带宽内存）。他表示，全球内存供应已全面紧张，头部厂商今年的产能早已被预订一空。在大模型训练与部署过程中，内存问题需要重点关注。 第三个挑战，当参数量扩展到10万亿、序列长度达到200万甚至300万时，智能增长的第三动力是什么？尤洋认为，答案是继续scaling（扩展）。 针对通信挑战，尤洋指出，超大Batch训练是关键。他在BERT上的尝试将训练时间从3天缩短到76分钟，核心思想是用更大的批量（batch）换取更高的通信效率，提升集群计算效率。“因为更大的batch意味着更少的step，在保持精度不变的前提下极大提升效率，尤其在单芯片较弱、集群规模很大的情况下，这种做法的价值越来越高。虽然未来芯片会更强，但通信成本也在上升，集群中单芯片的相对能力反而会显得更弱。” 针对内存挑战，他认为，需要更高效的优化器设计。他提到，过去五年，英伟达最重要的创新之一就是在有限的物理空间内堆叠更多的HBM。但全球内存供应已全面紧张，头部厂商今年的产能早已被预订一空。在大模型训练与部署过程中，内存问题需要重点关注。对此，潞晨科技尝试做了一些更节省内存的优化器。 “比如我们之前提出的CAME优化器，获得了ACL2023年杰出论文奖，思路是在Adafactor基础上引入置信度引导（Confidence-guided）的信号，在保持与AdamW相同精度的前提下进一步降低内存占用。”尤洋表示，未来，通信和内存这两条线有很大探索空间，将直接决定AI训练系统的效率，也会影响算法设计。 针对智能水平是否能增长的挑战，尤洋强调，未来三年，比较重要的事情是算法和系统的协同优化，尤其是对国产芯片而言。很多开发者在华为昇腾等国产芯片上工作时，发现需要进行大量的对齐和精度优化。通过设计更好的优化器或低精度算法，可以同时提升速度和精度。 最后，尤洋总结到，未来三年最亟待解决的两个问题是通信和内存。长期来看，为了让智能持续增长（特别是多模态方向），仍需不断寻找scaling的方向。“前两个挑战更多是提升算力效率，而第三个挑战则是更高效地将算力转化为真正的智能。” “未来3到5年的AI竞争，更像是一场AI基础设施与整体系统全栈能力的竞争。”他说。 责任编辑：李昂koa12jJid0DL9adK+CJ1DK2K393LKASDad
编辑:孙天民
TOP1热点：《绝区零》星徽骑士EP丨拂晓之空 闪耀之誓
动力电池回收价格也一路水涨船高。清华大学深圳国际研究生院教授李宝华表示，当电池级碳酸锂的价格处于3.7万元/吨的时候，磷酸铁锂废料是2500元/吨；而当下，电池级碳酸锂的价格为50万元/吨，磷酸铁锂废料的价格却是8.2万元/吨。这意味着，原料价格涨了12.5倍，对应的废料却涨了31.8倍。。
据铁路12306网站，铁路部门对三亚地区全部做了禁售处理，市民不能通过铁路离开三亚，目前，三亚站，亚龙湾站，凤凰机场站，崖州站，只进不出，恢复时间另行通知。
TOP2热点：价值129的MC官方食谱，能还原MC的食物吗？【游戏之外】
8月1日-8月5日，从三亚离开的人中有47%以上都在海南省内活动，主要去往海口、乐东黎族自治县、万宁市、陵水黎族自治县。以8月5日为例，三亚迁出人口主要目的地为：海口市，占迁出人口总量的19.58%；乐东黎族自治县，占迁出人口总量的5.99%；万宁市，占迁出人口总量的5.09%。
TOP3热点：蔬菜切法指南！从几何角度出发，一次性搞清楚所有蔬菜的最优切法【解构家常菜】
截至8月6日18时，新疆维吾尔自治区的高风险区共有21个，中风险区14个，主要集中在伊宁市和伊宁县。第一财经记者致电乌鲁木齐的多个酒店均得到回复，如果行程卡上带伊犁、喀什等地的行程，无法办理入住，其中部分酒店还表示，行程卡上带哈密、塔城地区或吐鲁番地区行程卡旅客也无法办理入住。
TOP4热点：被AI干碎了（物理）
8月1日-8月5日，从三亚离开的人中有47%以上都在海南省内活动，主要去往海口、乐东黎族自治县、万宁市、陵水黎族自治县。以8月5日为例，三亚迁出人口主要目的地为：海口市，占迁出人口总量的19.58%；乐东黎族自治县，占迁出人口总量的5.99%；万宁市，占迁出人口总量的5.09%。
据铁路12306网站，铁路部门对三亚地区全部做了禁售处理，市民不能通过铁路离开三亚，目前，三亚站，亚龙湾站，凤凰机场站，崖州站，只进不出，恢复时间另行通知。
TOP5热点：WCT赛道内的首次中美对抗——四届中国总冠军跑酷侠 VS 美国跑酷蓝队
辽宁省气象部门表示，目前，辽宁河流底水高，部分水库与河道超汛限，叠加此次强降雨过程，发生洪水的可能性增大，特别是辽河流域、绕阳河流域。同时，前期多轮强降雨已致辽宁大部地区土壤饱和，受本次强降雨影响，发生山洪、滑坡、泥石流等次生灾害的风险增大。
TOP6热点：西格玛男人-做兄弟在心中
艾睿铂驻上海董事总经理兼亚太区汽车和工业业务负责人戴加辉（Stephen Dyer）在接受第一财经记者采访时表示，随着油价不断上涨，新能源车使用成本的优势会更加显著，这一优势将抵消新能源车较高的购买成本。受上述因素推动，美国汽车行业将加速向电动化转型，驱动力将逐渐由政策驱动，转向由市场驱动。
TOP7热点：同学眼中的我vs我眼中的自己
目前，张悦独自住在一家宾馆里，自费支付每晚200余元的房费。8月6日，她告诉记者，目前酒店附近能够点到的外卖越来越少，很多超市已经关门。“现在游客和本地人分开管理，接触少，相对安全一些。”张悦表示，“先顾好自己，再说后续。”
据铁路12306网站，铁路部门对三亚地区全部做了禁售处理，市民不能通过铁路离开三亚，目前，三亚站，亚龙湾站，凤凰机场站，崖州站，只进不出，恢复时间另行通知。
TOP8热点：陪伴我10年的员工离开了....
随后，北京市郊铁路官方微博公告，接铁路部门最新通知，受降雨红色预警影响，8月7日，S2线、怀柔-密云线、通密线全线停运。（中新经纬APP）
TOP9热点：【循环歌单】“我们这的憋佬仔”丨《八方来财（DJ版）》
而在动力电池产业，不只是宁德时代面对利润下滑的考验。国轩高科今年一季度净利3220万元，同比下跌超三成；欣旺达一季度净利9492万元，同比下滑26%。“目前动力电池产业这么火，但是电池厂却并没有很好的利润。”有动力电池企业人士告诉中国新闻周刊，从去年下半年开始，碳酸锂的价格几乎涨了10多倍，这导致电池厂压力巨大。“没有利润，说明这个产业是有问题的。”
TOP10热点：全世界将近2000种奶酪，到底都有什么区别？看完这期视频你就懂了！
报道称，欧阳力行因执行任务，因计划于今天参加当地收获祭季活动，5日在屏东留宿。但今早7时，同行人员到其房间敲门提醒，但屋内全无反应。同行人员随即请来房管协助开门，结果发现其在床上已无生命迹象，手中还疑似拿着药罐。