AI在线 AI在线

算法

蚂蚁集团开源新算法，可助大模型推理提速2-6倍

蚂蚁集团开源新算法，可助大模型推理提速2-6倍
近日，蚂蚁集团开源了一套新算法，可帮助大模型在推理时，提速2至6倍，引起业内关注。图：新算法在不同开源大模型上的提速表现。这套新算法名为Lookahead推理加速框架，能做到效果无损，即插即用，该算法已在蚂蚁大量场景进行了落地，大幅降低了推理耗时。以Llama2-7B-chat模型与Dolly数据集为例，实测token生成速度可由48.2个/秒，升至112.9个/秒，提速2.34倍。而在蚂蚁内部的RAG（检索增强生成）数据集上，百灵大模型AntGLM 10B版本的加速比达到5.36，与此同时，显存增加和内存消耗几乎
1/17/2024 7:41:00 PM
新闻助手
阿里云首创PilotScope新技术，为AI4DB应用提速

阿里云首创PilotScope新技术，为AI4DB应用提速
12月20日，数据库国际顶会VLDB2024公布新一批论文，阿里云新技术PilotScope成功入围，该平台技术可实现AI算法在数据库的“一键部署”，极大降低数据库中AI算法的应用门槛，为数据库智能化开辟了全新空间。同日阿里云宣布将PilotScope全部技术免费开源。图说：数据库顶会VLDB2024数据库是事关国计民生的基础软件技术，数据库技术的更新影响着数字时代的千行百业，其中一个前沿领域即是数据库智能化（AI4DB，AI for Database）。现在的数据库系统非常复杂，对稳定性要求极高，即便将单一AI算
12/21/2023 11:45:00 AM
新闻助手
重温图灵原理，感受反证法的力量

重温图灵原理，感受反证法的力量
图灵原理揭示了人类永远不可能做到可知而全知，本文将阐释图灵是如何基于对角线证明，从反证法的角度对图灵原理进行证明的。
9/29/2023 12:00:00 PM
机器之心
ICML2023杰出论文大幅减少至6篇，北大、武理工校友获奖，大模型水印受青睐

ICML2023杰出论文大幅减少至6篇，北大、武理工校友获奖，大模型水印受青睐
相比去年评出的 15 篇杰出论文，ICML 2023 的获奖论文数量大大减少，只有 6 篇。
7/26/2023 1:48:00 PM
机器之心
能胜任统计学家？Transformers超强学习机制「自动算法选择」

能胜任统计学家？Transformers超强学习机制「自动算法选择」
Salesforce AI Research、北京大学和 UC 伯克利合作的最新论文，发现 Transformer 模型在上下文中学习（in-context learning）的新机制：「自动算法选择」，类似统计与机器学习专家能够现实完成的工作。
7/18/2023 3:01:00 PM
机器之心
光学算法简化模拟人工智能训练

光学算法简化模拟人工智能训练
编辑 | 白菜叶研究人员开发了一系列模拟和其他非常规机器学习系统，期望它们将证明比今天的计算机更节能。但是训练这些人工智能来完成它们的任务一直是一个很大的绊脚石。NTT 设备技术实验室和东京大学的研究人员现在表示，他们已经提出了一种训练算法（NTT 上个月宣布），该算法对让这些系统实现其承诺大有帮助。他们的结果建立在光学模拟计算机上，代表了在获得研究人员长期以来从「非常规」计算机架构中寻求的潜在效率增益方面取得的进展。现代人工智能程序使用一种名为人工神经网络的受生物学启发的架构来执行图像识别或文本生成等任务。控制计
3/15/2023 4:27:00 PM
ScienceAI
国内首届AI安全大赛圆满收官，上交大、北交大、北理工等夺得三项赛道冠军

国内首届AI安全大赛圆满收官，上交大、北交大、北理工等夺得三项赛道冠军
从长远看，人工智能的安全问题，还需从算法模型的原理上突破，唯有持续加强基础研究，才能破解核心科学问题。
9/16/2022 9:16:00 PM
机器之心
WAIC开发者日Workshop预告：华为昇思MindSpore基础模型创新实践

WAIC开发者日Workshop预告：华为昇思MindSpore基础模型创新实践
昇思 MindSpore 是华为开源的新一代全场景 AI 框架，支持端、边、云全场景灵活部署，开创全新的 AI 编程范式，降低 AI 开发门槛，旨在实现开发友好、运行高效、部署灵活三大目标，同时着力构筑面向全球的人工智能开源社区，推动人工智能软硬件应用生态繁荣发展。昇思 MindSpore 原生支持大模型，联合合作伙伴推出了四大领域创新模型。鹏城实验室基于昇思 MindSpore 先后推出了业界首个 2000 亿参数中文预训练语言模型鹏程，盘古和面向生物医学领域的鹏程，神农大模型、中科院自动化所基于昇思 MindS
9/1/2022 6:08:00 PM
新闻助手
如何通过机器学习算法，将EV电池运用到极致？

如何通过机器学习算法，将EV电池运用到极致？
编译 / 刘梦婷近日，剑桥大学的研究人员开发了一种机器学习算法，可以通过预测不同的驾驶模式对电池性能的影响，帮助电动车减少充电时间，延长电池寿命，提高安全性和可靠性。研究结果发表在《自然通讯》（Nature Communications）杂志上。该团队开发了一种非侵入式方法来检测电池，并获得电池整体健康状况。然后，将这些结果输入机器学习算法，该算法可以预测不同驾驶模式将如何影响电池未来的健康状况。研究人员表示，该算法可以通过建议路线和驾驶模式，最大限度地减少电池退化和充电时间，来充分利用电动汽车的电池。如果将其用于
8/25/2022 12:48:00 PM
机器智行
Creator 面对面 | 几何深度学习的算法设计和数学理论

Creator 面对面 | 几何深度学习的算法设计和数学理论
2016年，Yann LeCun 等人在 《Geometric deep learning: going beyond Euclidean data》一文中提出几何深度学习这一概念。现今几何机器学习和基于图的机器学习已经是当前最热门的研究课题之一。
7/23/2022 5:39:00 PM
SOTA模型
ICML2022奖项公布：15篇杰出论文，复旦、厦大、上交大研究入选

ICML2022奖项公布：15篇杰出论文，复旦、厦大、上交大研究入选
ICML2022 共评选出 15 篇杰出论文和一篇时间检验奖论文。
7/21/2022 8:26:00 AM
机器之心
CVPR 2022 | 多机器人协同主动建图算法

CVPR 2022 | 多机器人协同主动建图算法
本文是 CVPR 2022入选论文《Multi-Robot Active Mapping via Neural Bipartite Graph Matching》的解读。该论文由北京大学陈宝权研究团队与山东大学、腾讯AI Lab、清华大学、斯坦福大学合作，将传统方法与机器学习相结合，提出了多机器人协同主动建图算法 NeuralCoMapping，实现了室内场景完整地图的高效构建。 实验证明，相比于其他多机协同建图算法，NeuralCoMapping 在时间效率上具有显著优势，而且在多种未知场景和不同数量机器人上表现出卓越的泛化能力。
7/18/2022 5:05:00 PM
北京大学前沿计算研究中心
墨芯首席科学家严恩勖：为什么说稀疏化是AI计算的未来

墨芯首席科学家严恩勖：为什么说稀疏化是AI计算的未来
主讲人：严恩勖墨芯人工智能联合创始人 & 首席科学家卡内基梅隆大学 机器学习博士神经网络动态稀疏算法发明者视频简介：10年前，AI计算优化大多着重在优化算法的计算复杂度上，近年来随着AI产业化，AI计算优化更多注重在硬件的算力提升上。当前，硬件所能带来的算力提升已逼近极限，AI优化计算的未来将是算法与硬件架构的协同优化，以及构建相应的软件生态。稀疏化计算，带来数量级的算力提升，将成为未来AI计算优化的领航者。视频内容：
7/18/2022 5:04:00 PM
墨芯人工智能
AAAI 2021 | 投票的平滑复杂度

AAAI 2021 | 投票的平滑复杂度
本文是第三十五届人工智能大会（AAAI 2021）入选论文《The Smoothed Complexity of Computing Kemeny and Slater Rankings》的解读。
7/18/2022 5:02:00 PM
北京大学前沿计算研究中心
RoLAP 实验室｜基于凸凸凸的工业臂柔性规划系统

RoLAP 实验室｜基于凸凸凸的工业臂柔性规划系统
大界成立的RoLAP实验室（RoboticPlus Laboratory for Autonomy and Perception），由中科院博士后、加州理工物理学博士、大界首席科学家周诚喆领衔，聚集了一批专业的硕博团队，致力于研究工业机器人在智能制造场景下的视觉感知（眼）、运动规划（手）、场景理解（大脑）的协同闭环系统。本文将基于RoLAP实验室的研究成果，为各位读者深度解析机械臂运动规划的关键技术。一. 背景介绍随着科学技术的发展，机器人技术正在被广泛应用到各种结构化的场景，比如3C消费电子和汽车工厂等标准化制造
6/17/2022 2:39:00 PM
新闻助手
困扰行业的难题有解了！千寻位置率先推出电离层扰动解决方案

困扰行业的难题有解了！千寻位置率先推出电离层扰动解决方案
近期，在测量测绘、智能驾驶、无人机等高精度定位相关领域不免遇到类似问题：“无人机怎么无故就偏航了？”“为什么RTK终端在部分区域的空旷环境下，也出现浮动无法固定的情况？”随着太阳活动峰年的到来，电离层的活跃程度也在逐步加剧，受电离层活跃的干扰，出现定位精度不准甚至无法定位的情况。电离层干扰是困扰GNSS定位领域的世界级难题。千寻位置从无到有进行研发攻坚，基于独有的电离层大规模监测数据与算法验证，在业内率先推出包括算法优化、云端协同、电离层实时感知等在内的电离层扰动解决方案，保障用户在电离层活跃期间仍能得到精准、连续
6/2/2022 4:28:00 PM
新闻助手
时隔五年，普林斯顿大学经典书《在线凸优化导论》第二版发表

时隔五年，普林斯顿大学经典书《在线凸优化导论》第二版发表
2016 年发表的《在线凸优化导论》第一版已成为领域内经典书籍。
12/29/2021 2:50:00 PM
机器之心
人工智能向“上”生长，可信AI渐行渐近

人工智能向“上”生长，可信AI渐行渐近
一位刚刚上路的新手驾驶员，如何成长为「老司机」？显然，Ta必须经过足够时间和里程的驾驶练习，才能够熟练、从容地应对各种可能出现的路况和紧急事件。所以尽管自动驾驶系统也会在投入使用之前历经大量的真实道路测试，但就算是科学文明相当普及的今天，仍有很多人依旧做不到将开车这件事「放心地交给AI」，毕竟摆在人们眼前的却是道不尽的争议和说不明的驾驶事故，而事故的发生可能是技术，算法，道路，数据，传输，天气，驾驶员等多重主客观因素影响造成的，权责划分十分困难。具体从算法层面看，由于驾驶场景天然对安全性有更高要求，这就需要自动驾驶
12/24/2021 10:26:00 PM
机器之心