【兴证电子】瑞芯微开发者大会要点更新
1.瑞芯微发布端侧AI协处理器182x。
RK1820/1828芯片约20TOPS算力,采用DRAM合封(兆易合作定制开发),其中RK1820内置2.5GB
DDR,支持3B模型,RK1828内置5GB
DDR,支持7B模型。
端侧模型突破100tokens输出,端到端响应延时低至0.1s。
在时延方面,Qwen2.5-3B
声明:本站所有文章,如无特殊说明或标注,均为本站转载。如若本站内容侵犯了原著者的合法权益,可联系我们(kanjiyaocn@163.com)进行处理。
如遇到无法下载、无法查看的文章、音频,请在下面评论处留言,站长将第一时间修复链接。
如遇到无法下载、无法查看的文章、音频,请在下面评论处留言,站长将第一时间修复链接。