自拍偷拍 加快原生变调，智谱联袂昇腾、昇念念打造自主变调原生模子
发布日期：2024-08-25 05:05 点击次数：74
2024年8月19日，北京东说念主工智能生态大会在中关村国度自主变调示范区会议中心颐和厅得手召开。智谱CEO张鹏作专题共享，简要先容了昇腾对自主变调的智谱大模子的助力自拍偷拍，以及正在打造的基于昇腾的第四代代码模子CodeGeeX4和多模态模子CogVLM2-video，华为昇腾规划业务副总裁刘鑫先容昇腾原生进展。
智谱代码生成大模子CodeGeeX4的新版块基于昇腾AI与昇念念AI框架教授，依托昇腾与昇念念的多维夹杂漫步式并行技艺等软硬件智力等，将大幅栽种模子建树、教授的适度及模子精度。
模子智力
1.代码生成大模子CodeGeeX4
第四代代码模子CodeGeeX4号称代码生成大模子的“六边形战士”，照旧发布的CodeGeeX4-ALL-9B 仅用百亿级参数已矣模子精度尽头业界主流居品。在NaturalCodebench等测试基准上，相干于更大的模子已矣了性能反超。
CodeGeeX4单一模子已矣编程建树全过程笼罩，包括需求瞎想、前端建树、后端建树、数据处理等场景，相沿代码补全和生成、代码问答、代码证实器、器具调用、联网搜索、模样级代码问答等全面智力。模子长序列达128K，相沿中语、英文、俄语、法语、西班牙语等20+当然言语和300+编程言语。同期，在模子推理可已矣单卡部署，最低24GB显存即可进行量化推理，用户可在腹地罕见化部署，保护企业代码安全。
2.多模态大模子CogVLM2-video（视频生成文本）
GEGEGAN多模态大模子CogVLM2-video已矣视频生成文本智力，相沿2K序列长度、224×224鉴识率的视频一语气以及中英文回复等功能。测试扩充露出，CogVLM2-video在多个视频问答任务上达到了state-of-the-art SOTA模子）的性能，并大约已矣一分钟内的视频一语气，在几个主流性能测试数据集（MVBench, VideoChatGPT-Bench and Zero-shot VideoQA datasets）中，CogVLM2-video也弘扬不俗，展现出全面竞争力，同期在多类主要狡计上完成对其他模子的跳动。
基于昇腾与昇念念的新版块CodeGeeX4
CodeGeeX4在教授过程中，调用昇腾原生的交融算子，讹诈昇念念MindSpore AI框架的提供的多维夹杂漫步式并行智力，通过对活水交汇并行、tensor模子并行的优化，措置内存瓶颈、缩小规划空泡、栽种通讯适度，已矣“规划、收罗、存储”协同优化，对比同等鸿沟参数的模子，教授适度20%栽种，加快模子的迭代变调。
另外，该模子也弃取MindSpore 2.3版块原创的多级编译技艺，开启O1编译选项增多自动算子交融优化，以接近动态图的初始期间获取了图形式下接近表面值的内存复用率，进而缩小重规划比例，相对动态图取得15%的性能收益。
明天自拍偷拍，智谱将与昇腾AI执续联袂，打造更多跳动的自主变调大模子，加快东说念主工智能产业发展，助力中国千行百业的智能化转型，共同迈向智能新宇宙。
声明：新浪网独家稿件，未经授权不容转载。 -->
