多模态学习

记忆增强型Transformer：从神经科学原理到技术解决方案的三维解析

大家好，我是肆〇柒。当下，Transformer架构已成为自然语言处理、计算机视觉和多模态学习的基石。然而，随着应用场景的复杂化，标准Transformer暴露出三大关键局限：固定上下文窗口限制了长距离依赖建模静态知识表示阻碍了持续学习能力计算效率远低于生物神经系统这些限制催生了记忆增强型Transformer的研究热潮，而由新加坡国立大学等机构联合发表的系统性综述《Memory-Augmented Transformers: A Systematic Review from Neuroscience Principles to Technical Solutions》为我们提供了一个全面理解这一领域的三维分类框架。

8/25/2025 12:10:00 AM

肆零柒

比原始分辨率高36倍，北航、清华团队用AI在多空间组学平台上高分辨率表征组织，登Nature子刊

编辑 | 萝卜皮空间组学的最新进展已将分子类别分析的范围扩展到转录组学之外。然而，许多此类技术都受到空间分辨率的限制，阻碍了科学家深入表征复杂组织结构的能力。现有的计算方法主要侧重于转录组学数据的分辨率增强，缺乏针对各种组学类型的新兴空间组学技术的适应性。在这里，北京航空航天大学和清华大学的研究人员提出了 soScope，这是一个统一的生成框架，旨在提高从各种空间组学技术获得的分子谱的数据质量和空间分辨率。soScope 可以汇总来自组学、空间关系和图像的多模态组织信息，并通过分布先验与组学特定建模联合推断出具有增

8/14/2024 4:32:00 PM

ScienceAI

SOTA性能，厦大多模态蛋白质-配体亲和力预测AI方法，首次结合分子表面信息

编辑 | KX在药物研发领域，准确有效地预测蛋白质与配体的结合亲和力对于药物筛选和优化至关重要。然而，目前的研究没有考虑到分子表面信息在蛋白质-配体相互作用中的重要作用。基于此，来自厦门大学的研究人员提出了一种新颖的多模态特征提取（MFE）框架，该框架首次结合了蛋白质表面、3D 结构和序列的信息，并使用交叉注意机制进行不同模态之间的特征对齐。实验结果表明，该方法在预测蛋白质-配体结合亲和力方面取得了最先进的性能。此外，消融研究证明了该框架内蛋白质表面信息和多模态特征对齐的有效性和必要性。相关研究以「Surface-

7/16/2024 6:39:00 PM

ScienceAI

资讯热榜

首个面向肽分子设计的大模型平台：直接「读序列」出结合子，无需结构输入即可生成奥特曼：我承认GPT-5发布搞砸了深度揭秘OpenAI如何让GPT-5「技术性」超越Claude：悄悄跳过最难的23道题阿里千问踢馆子了！Qwen3新作秒杀ChatGPT，侧脸杀切换第一人称视角，表情包绝绝子，小编：再也不用美图秀秀去水印了 7年了，OpenAI官方给出五代GPT对比，网友却怀念起「狂野」初代小红书发布DynamicFace人脸生成技术，实现高质量图像视频人脸融合摩根士丹利：AI 革命将为标准普尔 500 指数企业每年节省近 1 万亿美元网易有道发布子曰教育大模型多款AI新品，定义教育AI应用能力L1-L5分级

标签云

AI 人工智能 OpenAI AIGC 模型 ChatGPT DeepSeek AI绘画谷歌机器人数据大模型 Midjourney 开源智能用户 Meta 微软 GPT 学习技术图像 Gemini 马斯克 AI创作智能体英伟达论文 Anthropic 代码训练算法 Stable Diffusion 芯片 AI新词 LLM 蛋白质腾讯开发者生成式 Claude 苹果 Agent AI for Science 神经网络 3D 机器学习研究生成 xAI 人形机器人 AI视频计算 Sora 百度 GPU AI设计华为工具大语言模型搜索具身智能 RAG 字节跳动大型语言模型场景深度学习预测伟达视觉 Transformer 视频生成 AGI 架构神器推荐亚马逊 Copilot DeepMind 应用特斯拉