AI在线 AI在线

AI大模型

MoE 高效训练的 A/B 面：与魔鬼做交易，用「显存」换「性能」

MoE 高效训练的 A/B 面：与魔鬼做交易，用「显存」换「性能」
MoE 会成为未来大模型训练的新方向吗？ 这是人们发现 MoE 架构可以用于大模型训练、推理后，发出的一声疑问。 MoE（Mixture of Experts），又称「混合专家」，本质是一种模块化的稀疏激活。
5/27/2024 3:15:00 PM
晓楠
应对AI大模型新的安全挑战，OpenAI、蚂蚁集团联合出招

应对AI大模型新的安全挑战，OpenAI、蚂蚁集团联合出招
去年年初，ChatGPT引爆了新一轮AI浪潮。 在人们期待大模型能够为各行各业带来颠覆性变革的同时，也不得不承认，大模型创造了新机遇，但也带来了新的安全风险。 比如，基于大模型的高效内容生成特质，黑客的攻击成本和门槛变低，发动更加密集的攻击变得容易，助长黑客行为；基于生成式AI在多种语言和信息整合的优势，伪造一个极其逼真的骗局成本和时间降低，网络钓鱼行为规模范围、实施效率大幅度提升；还有老生常谈的数据泄漏问题，将企业的安全、隐私等置于极大的威胁中。
4/17/2024 8:30:00 PM
晓楠
从 Moonshot 崛起看中国大模型：资本其实没有大家想的那么急

从 Moonshot 崛起看中国大模型：资本其实没有大家想的那么急
近期，自月之暗面宣布 Kimi 可支持 200 万汉字的无损上下文输入能力后，Kimi 相关热点先后两次登上微博热搜。 第一次是“Kimi 概念股”。 在 200 万汉字上下文输入能力正式官宣后，A 股市场与 Kimi 存在关联关系的多只个股，包括掌阅科技、华策影视、超讯通信 、中广天择、世纪天鸿、海天瑞声、九安医疗等等相继涨停。
3/28/2024 7:12:00 PM
晓楠
月之暗面“自卷”，Kimi智能助手官宣支持200万字无损上下文

月之暗面“自卷”，Kimi智能助手官宣支持200万字无损上下文
“lossless long context is everything”，杨植麟不止一次表达过这一观点，而月之暗面的最新动作也表明团队对这一观点的坚定信仰。 3月18日，AI大模型初创企业——月之暗面宣布在大模型长上下文窗口技术上取得新的突破，Kimi 智能助手已支持200万字超长无损上下文，并于即日起开启产品“内测”，用户可到 Kimi 智能助手网页版 kimi.ai 首页申请体验。 而这距离去年10月，Kimi 智能助手正式推出，最高可支持20万汉字无损上下文输入，才过去不到半年时间。
3/18/2024 6:34:00 PM
晓楠