开源
阿里通义千问开源 320 亿参数模型，已实现 7 款大语言模型全开源
感谢4 月 7 日，阿里云通义千问开源 320 亿参数模型 Qwen1.5-32B。IT之家注意到，通义千问此前已开源 5 亿、18 亿、40 亿、70 亿、140 亿和 720 亿参数 6 款大语言模型。此次开源的 320 亿参数模型，将在性能、效率和内存占用之间实现更理想的平衡。例如，相比通义千问 14B 开源模型，32B 在智能体场景下能力更强；相比通义千问 72B 开源模型，32B 的推理成本更低。通义千问团队希望 32B 开源模型能为企业和开发者提供更高性价比的模型选择。目前，通义千问共开源了 7 款大语
4/8/2024 11:50:26 AM
远洋
通义千问开源320亿参数模型，已实现7款大语言模型全开源
4月7日消息，阿里云通义千问开源320亿参数模型Qwen1.5-32B，可最大限度兼顾性能、效率和内存占用的平衡，为企业和开发者提供更高性价比的模型选择。目前，通义千问共开源了7款大语言模型，在海内外开源社区累计下载量突破300万。通义千问此前已开源5亿、18亿、40亿、70亿、140亿和720亿参数的6款大语言模型并均已升级至1.5版本，其中，几款小尺寸模型可便捷地在端侧部署，720亿参数模型则拥有业界领先的性能，多次登上HuggingFace等模型榜单。此次开源的320亿参数模型，将在性能、效率和内存占用之间实
4/8/2024 9:32:00 AM
新闻助手
元象首个MoE大模型开源：4.2B激活参数，效果堪比13B模型
元象发布XVERSE-MoE-A4.2B大模型 ， 采用业界最前沿的混合专家模型架构 （Mixture of Experts），激活参数4.2B，效果即可媲美13B模型。该模型全开源，无条件免费商用，让海量中小企业、研究者和开发者可在元象高性能“全家桶”中按需选用，推动低成本部署。GPT3、Llama与XVERSE等主流大模型发展遵循规模理论（Scaling Law）， 在模型训练和推理的过程中，单次前向、反向计算时，所有参数都被激活，这被称为稠密激活 （densely activated）。 当 模型规模增大时，
4/2/2024 10:24:00 AM
新闻助手
Databricks 推出 1320 亿参数大语言模型 DBRX，号称“现阶段最强开源 AI”
Databricks 近日在推出了一款通用大语言模型 DBRX，号称是“目前最强开源 AI”，据称在各种基准测试中都超越了“市面上所有的开源模型”。IT之家从官方新闻稿中得知，DBRX 是一个基于 Transformer 的大语言模型，采用 MoE（Mixture of Experts）架构，具备 1320 亿个参数，并在 12T Token 的源数据上进行预训练。研究人员对这款模型进行测试，相较于市场上已有的 LLaMA2-70B、Mixtral、Grok-1 等开源模型，DBRX 在语言理解（MMLU）、程式设
3/31/2024 3:15:05 PM
漾仔
周鸿祎自称“开源信徒”：宣布将开源 360 智脑 7B 模型，支持 50 万字长文本输入
感谢360 创始人周鸿祎近日透露即将开源 360 智脑 7B（70 亿参数模型），支持 360k（50 万字）长文本输入。周鸿祎表示，前段时间大模型行业卷文本长度，100 万字“很快将是标配”。“我们打算将这个能力开源，大家没必要重复造轮子，定为 360k 主要是为了讨个口彩。”他还自称“开源的信徒”，信奉开源的力量。据介绍，360 智脑长文本能力已入驻大模型产品“360AI 浏览器”。周鸿祎还谈到了小模型的优势：其认为小模型速度快、用户体验也好，单机单卡就能跑，具备更高的性价比。目前，360AI 浏览器已向用户免
3/29/2024 3:27:56 PM
清源
开源大模型王座再易主，1320亿参数DBRX上线，基础、微调模型都有
「太狂野了」。这是迄今为止最强大的开源大语言模型，超越了 Llama 2、Mistral 和马斯克刚刚开源的 Grok-1。本周三，大数据人工智能公司 Databricks 开源了通用大模型 DBRX，这是一款拥有 1320 亿参数的混合专家模型（MoE）。DBRX 的基础（DBRX Base）和微调（DBRX Instruct）版本已经在 GitHub 和 Hugging Face 上发布，可用于研究和商业用途。人们可以自行在公共、自定义或其他专有数据上运行和调整它们，也可以通过 API 的形式使用。基础版：：
3/28/2024 3:15:00 PM
机器之心
号称全球最强开源 AI 模型，DBRX 登场：1320 亿参数，语言理解、编程能力等均超 GPT-3.5
初创公司 Databricks 近日发布公告，推出了开源 AI 模型 DBRX，声称是迄今为止全球最强大的开源大型语言模型，比 Meta 的 Llama 2 更为强大。DBRX 采用 transformer 架构，包含 1320 亿参数，共 16 个专家网络组成，每次推理使用其中的 4 个专家网络，激活 360 亿参数。Databricks 在公司博客文章中介绍，在语言理解、编程、数学和逻辑方面，对比 Meta 公司的 Llama 2-70B、法国 Mistral AI 公司的 Mixtral 以及马斯克旗下 xA
3/28/2024 7:57:39 AM
故渊
2024全球开发者先锋大会首日顺利召开
3月23日，“2024全球开发者先锋大会”（GDC）在上海徐汇盛大开幕。大会以“模速空间——开发者的模力之源”为主题，促进全球范围内最尖端技术、最热门议题和最先锋人才的深入交流与对话，以上海模速空间创新生态社区为抓手，不断优化生态环境，引导全球顶尖人才向上海汇聚，助推上海成为高科技产业高地。从GAIDC到GDC，今年“开发者”的范畴从AI扩展到整个技术领域，涵盖数字孪生、人工智能、5G、机器人、区块链、VR/AR、边缘计算、仿真等一系列新一代信息技术。通过开发者生态持续运营，让人才引领科技创新，让科技吸引金融助力，
3/23/2024 11:00:00 PM
新闻助手
华为云入局人形机器人，与创企乐聚机器人签署合作协议
感谢综合科创板日报、“乐聚机器人”官方公众号消息，3 月 15 日，华为云与人形机器人创业企业乐聚机器人签署合作协议，共同探索“华为盘古大模型 夸父人形机器人”应用场景，这是华为云合作的首个人形机器人企业。双方还将打造通用具身智能解决方案，建设“人形机器人 ”开放生态平台。官方表示，华为云推出的盘古大模型具备强大的语义理解、动态规划、多模态信号理解等能力，将为人形机器人大模型的开发提供智能化决策基础。IT之家查询相关资料发现，乐聚机器人去年 12 月推出了人形机器人“夸父”，号称国内首个可跳跃、可适应多地形行
3/21/2024 10:41:39 PM
清源
马斯克 xAI 宣布正在开源 Grok-1 模型，体量 3140 亿参数号称“全球最大”
感谢马斯克旗下 AI 初创企业 xAI 今天发布新闻稿，宣布正在开源 3140 亿参数的混合专家模型 Grok-1，该模型遵循 Apache 2.0 协议开放模型权重和架构，号称是“迄今为止全球参数量最大的开源大语言模型”。截至IT之家发稿，官方已经在 GitHub 中发布了 Grok-1 论文源代码，但还未开源模型主体。就在本月，马斯克宣布起诉 OpenAI 及其 CEO 阿尔特曼，声称 OpenAI 及其 CEO 阿尔特曼违背了公司成立的协议，该协议旨在推动 AI 技术朝着造福人类而非牟利的方向推进。马斯克对
3/18/2024 9:41:06 AM
漾仔
继起诉 OpenAI 并要求对方恢复开源后，马斯克宣布本周 xAI 将开源 Grok
感谢马斯克今日下午通过 X（推特）宣布，自家人工智能公司 xAI 将在本周内开源人工智能助手 Grok。随后，马斯克在回应网友“OpenAI 也应当如此，如果它们要像名字中的‘Open’那样”的帖子时表示，“OpenAI 就是谎言。”就在本月，马斯克宣布起诉 OpenAI 及其 CEO 阿尔特曼，声称 OpenAI 及其 CEO 阿尔特曼违背了公司成立的协议，该协议旨在推动 AI 技术朝着造福人类而非牟利的方向推进。马斯克对 OpenAI 提出了包括违反合同、违反信托义务和不公平商业行为在内的索赔，并要求该公司恢复
3/11/2024 5:01:07 PM
清源
世界最大开源 AI 社区 Hugging Face 涉足开源机器人领域，前特斯拉科学家领衔
据外媒 VentureBeat 报道，AI 创企 Hugging Face 设立开源机器人项目，前特斯拉科学家 Remi Cadene 领衔。Remi Cadene 的 X 平台动态显示，这位前特斯拉人形机器人 Optimus 团队成员加入 Hugging Face 并启动了一个开源机器人项目，招募愿在巴黎建造“真正的机器人”的工程师。参考IT之家以往报道，Hugging Face 目前主营业务均为软件形态，包括开源 AI 模型库和 AI 助手 Hugging Chat Assistants。此次组建开源机器人团队
3/11/2024 2:04:00 PM
溯波（实习）
阿联酋技术创新研究院启动“Falcon Foundation”，引领生成式人工智能模型开源运动
基金会将推动知识共享，加速人工智能的民主化，TII承诺3亿美元未来项目资金
2/21/2024 8:31:00 PM
新闻助手
讯飞星火V3.5正式发布，基于全国产算力平台“飞星一号”训练
1月30日，科大讯飞举行星火认知大模型V3.5升级发布会。科大讯飞董事长刘庆峰、研究院院长刘聪正式发布基于首个全国产算力训练的讯飞星火V3.5。2023年10月24日，科大讯飞携手华为，宣布首个支撑万亿参数大模型训练的万卡国产算力平台“飞星一号”正式启用。启用后的90多天里，讯飞星火基于“飞星一号”，启动了对标GPT-4的更大参数规模的大模型训练，带来了1月30日这场讯飞星火V3.5升级发布。首个基于全国产算力训练的全民开放大模型讯飞星火V3.5在语言理解、文本生成、知识问答、逻辑推理、数学能力、代码能力和多模态能
1/30/2024 8:38:00 PM
机器之心
FATE 2.0版本重磅发布：实现异构联邦学习系统互联互通
打破“计算孤岛”、联通“技术孤岛”，推动异构平台之间的互联互通，是隐私计算技术下一阶段的重要发展方向。国家数据局印发的《“数据要素×”三年行动计划（2024—2026年）》提出：“打造安全可信流通环境，深化隐私计算、联邦学习等技术应用，增强数据利用可信、可控、可计量能力，促进数据合规高效流通使用。”[1]中国信通院评论文章曾指出：“隐私计算有望成为支撑数据流通产业的基础设施，解决不同产品之间的技术壁垒，实现隐私计算跨平台间的互联互通已成为产业内的迫切需求。” [2]
1/9/2024 3:43:00 PM
FedAI联邦学习
大模型训练算力利用率达60%，蚂蚁开源分布式训练扩展库ATorch
近日，蚂蚁集团宣布开源大模型分布式训练加速扩展库ATorch。ATorch可针对不同模型和硬件资源，实现深度学习自动资源动态优化和分布式训练稳定性提升，帮助提升深度学习的智能性。据了解，在大模型训练中，ATorch千亿模型千卡级别训练的算力利用率可达60%，相当于为跑车装上了强劲的引擎。图：ATorch致力于让大模型训练更高效、可复现随着生成式大模型的爆发，模型训练的数据集和参数规模成指数级增长，要带动如此庞然大物，并且满足模型的快速迭代，分布式训练就成为了解题之道。在大模型开发工作中，很多开发者和研究人员采用Py
1/9/2024 2:04:00 PM
新闻助手
阿里云首创PilotScope新技术，为AI4DB应用提速
12月20日，数据库国际顶会VLDB2024公布新一批论文，阿里云新技术PilotScope成功入围，该平台技术可实现AI算法在数据库的“一键部署”，极大降低数据库中AI算法的应用门槛，为数据库智能化开辟了全新空间。同日阿里云宣布将PilotScope全部技术免费开源。图说：数据库顶会VLDB2024数据库是事关国计民生的基础软件技术，数据库技术的更新影响着数字时代的千行百业，其中一个前沿领域即是数据库智能化（AI4DB，AI for Database）。现在的数据库系统非常复杂，对稳定性要求极高，即便将单一AI算
12/21/2023 11:45:00 AM
新闻助手
助力AI技术共享，蚂蚁开源又一核心技术“因果学习系统 OpenASCE”
当地时间 12 月 10 日，为期 6 天的 AI 国际顶会 NeurIPS (Neural Information Processing Systems) 在美国路易斯安那州新奥尔良市开幕。NeurIPS 是全球人工智能和机器学习领域的顶级会议，与 ICML 并称为人工智能领域难度最大，水平最高，影响力最强的会议。会议首日，中国互联网企业蚂蚁集团受邀举办主题为“知识增强 AI 在垂直行业的应用探索”（Knowledge-enhanced AI for Industry Verticals）的研讨会，并在会上开源了
12/11/2023 4:25:00 PM
新闻助手
资讯热榜
标签云
AI
人工智能
OpenAI
AIGC
模型
ChatGPT
DeepSeek
AI绘画
谷歌
机器人
数据
大模型
Midjourney
开源
智能
Meta
用户
微软
GPT
学习
技术
图像
Gemini
马斯克
智能体
AI创作
Anthropic
英伟达
AI新词
论文
代码
训练
算法
LLM
Stable Diffusion
芯片
蛋白质
开发者
腾讯
Claude
苹果
Agent
生成式
AI for Science
神经网络
机器学习
3D
研究
xAI
生成
人形机器人
AI视频
计算
百度
Sora
GPU
华为
工具
RAG
AI设计
大语言模型
字节跳动
搜索
具身智能
大型语言模型
场景
深度学习
预测
视频生成
伟达
视觉
AGI
Transformer
架构
神器推荐
亚马逊
Copilot
特斯拉
DeepMind
应用