“本源悟空”全球首次运行十亿参数级AI大模型微调任务
中新社合肥4月7日电 (记者 张俊)记者7日从安徽省量子计算工程研究中心获悉,中国第三代自主超导量子计算机“本源悟空”近日完成全球首次运行十亿参数级AI大模型微调任务。
本次任务由本源量子计算科技(合肥)股份有限公司(简称“本源量子”)、合肥综合性国家科学中心人工智能研究院等联合攻关完成的。实验结果显示,在参数量减少76%的前提下,AI大模型训练效果反而提升8.4%。这一成果不仅验证了量子计算助力实现大模型轻量化的可行性,更为破解大模型“算力焦虑”开辟了新路径。
大模型微调是指在通用大模型的基础上,通过进一步训练特定领域数据,使其适应医疗诊断、金融风控等专业场景。传统低秩微调面临性能瓶颈、泛化能力有限等问题,量子计算凭借其叠加态和纠缠态特性可同时探索海量参数组合,提升大模型微调的效率。
本源量子副总裁窦猛汉介绍,团队创新设计了一种量子加权张量混合参数微调的方法,将模型权重转化为量子神经网络与张量网络混合架构,前者通过量子门操作提取高维非线性特征,张量网络则压缩参数规模。
在“本源悟空”的量子芯片上,AI大模型单批次数据可生成数百个量子任务并行处理。实验数据显示,优化后的模型在心理咨询对话数据集上训练损失降低15%,数学推理任务的严格准确率从68%提升至82%。合肥综合性国家科学中心人工智能研究院副研究员陈昭昀表示,这是量子计算首次“真机实战”AI大模型任务,证明现有硬件已能初步支撑大模型微调。
截至目前,“本源悟空”超导量子计算机全球访问已覆盖139个国家和地区,完成35万个量子运算任务,涵盖流体动力学、金融、生物医药等多个行业领域。(完)
-
开车越慢越安全?“龟速行驶”会有哪些危害?一文科普
经常开车的朋友们,不知道有没有注意到,有时候在道路通行条件良好的情况下,一些车辆的行驶速度却明显低于正常水平,让人忍不住按喇叭或者不得不变道行驶。这种超低速行驶的行为也被称为“龟速行驶”,遭到很多驾驶人吐槽。什么是“龟速行驶”?会带来...
-
徐州经开区:“一餐热饭”兜起稳稳的幸福
四方食事,不过一碗人间烟火。为解决困难老人用餐难题而出现的长者食堂,如今在老龄化的背景下,正成为银发经济的关键入口。作为全市率先布局推进老年助餐工作的板块,徐州经开区近年来深入改革创新,在加快推进中心厨房和社区助餐点建设的同时,积极探...
-
焦点访谈|基层治理法治化,啃下社区矛盾“硬骨头”
央视网消息(焦点访谈):物业管理的质量直接影响到小区居民的居住体验。但很多人也听到过这样一句话:买房一阵子,物业一辈子。居民想要换物业并不容易。上海康城是上海最大的小区之一,住了近4万人。自从2023年6月物业合同到期后,小区的业主们就一直在为...
-
冷空气影响趋于结束 中东部地区气温将迅猛回升
中新网4月14日电 据中央气象台网站消息 ,中央气象台预计,本轮冷空气带来的大风沙尘雨雪天气趋于结束。但今天,新疆、内蒙古、华北、黄淮、江淮及东部海域仍有大风天气;四川、重庆、湖南、广西、广东、海南岛等地的部分地区仍有弱浮尘天气。未来三天,...
-
微视频丨“同志加兄弟”的深厚情谊
中国和越南,山水相连,命运与共。建交75年来,在争取国家独立和民族解放的峥嵘岁月中,双方并肩战斗、相互支持,“越中情谊深、同志加兄弟”成为两党两国关系最生动的写照。中越两国文化相近、民心相通。近年来,双方人文交流有声有色,传统友谊历久弥...
-
“耳机党”注意了 这些不良习惯让你越来越聋!
耳机,是不少人日常工作和生活必不可少的随身产品。除了用音频填充碎片化时间,在晨跑路上、上班途中,甚至是打游戏、追剧时,为了不被外界打扰,越来越多人喜欢戴上耳机享受独处时光,有些人甚至连睡觉时都要戴耳机。可你知道吗?长时间使用耳机可能会...