Falcon Mamba: 首个高效的无注意力机制7B 模型

Falcon Mamba 是由阿布扎比技术创新研究院 (TII) 开发的首个高效的无注意力机制 7B 模型。该模型基于 Mamba 架构,能够在不增加内存使用的情况下处理任意长度的序列,在序列处理和内存效率方面优于传统的 Transformer 模型。文章介绍了 Falcon Mamba 的训练数据、评估基准以及在 Hugging Face 生态系统中的应用,展示了其在处理大规模序列方面的卓越性能。

该模型是开放获取的,所以任何人都可以在 Hugging Face 生态系统中 这里 使用它进行研究或应用。

阅读原文

AI+工作坊 | 启动会:引领未来,激发创意

2024年4月28日,在清华大学113周年校庆到来之际,图书馆在从游空间举办了“AI+工作坊启动会”,以人工智能(AI)为纽带,汇聚多方资源,助力科研创新与发展。本次活动由清华大学图书馆主办,共青团清华大学委员会、清华大学研究生会合办,北京智谱华章科技有限公司、中国知网、中国图书进出口(集团)有限公司、华为技术有限公司、北京世纪超星信息技术发展有限责任公司、武汉鼎森电子科技有限公司(博看网)共同协办。清华大学图书馆馆长、新闻与传播学院教授金兼斌,图书馆副馆长窦天芳,北京智谱华章科技有限公司首席执行官张鹏,清华大学校团委副书记黄峰,清华大学校团委教师、法学院研工组组长李秋甫,以及AI+工作坊的志愿者、师生校友等近50人参加了本次活动。活动由图书馆读者服务部副主任、读者服务部信息技术部党支部书记李津主持。 

 

度“式”而谋篇 之 清华大学学位论文格式 AI 智能学习与检测

投票
2
学位论文格式不仅体现了学术严谨性,更具有重要意义。统一、标准的格式能使论文层次分明,方便读者快速定位和理解核心内容。高校学位论文格式审查是学术管理的重要环节,可确保论文格式符合学术规范,也有助于培养学生的学术能力。 当前,我校学位论文电子版格式审查完全依赖人工进行。审查人员依据学校制定的格式规范,逐份对论文进行检查。人工审查在一定程度上保证了审查的灵活性,审查人员能凭借经验判断一些复杂情况,但这种方式存在诸多难以忽视的问题 AI 技术的发展正如火如荼。AI具有强大的模式识别和数据分析能力,能够快速准确地处理海量文本。如果采用AI + 人工的方式来完成论文格式审查,AI必将能够高质高效地完成大部分任务,同时也方便进行数据管理。

事件2

事件2事件2事件2事件2事件2事件2事件2事件2事件2事件2事件2事件2事件2事件2事件2事件2事件2事件2事件2

图像
订阅