智谱清言英特尔酷睿Ultra专享版发布，离线模型玩

克日，海内当先的年夜模子厂商智谱在智谱清言的官网宣布了智谱清言英特尔酷睿Ultra专享版，这个版本能够应用英特尔酷睿Ultra处置器供给的磅礴的AI算力，在不联网的情形下就可在PC当地运转智谱的端侧模子，为宽大用户供给高隐衷、重保险的、在弱网或断网情形下仍然能够应用的AI助手。智谱清言是领有海量用户的端侧利用，涵盖了挪动及PC端，是基于云端年夜模子的人工智能助手，并有良多附加功效，深受用户爱好。在PC上应用时，有些用户会有一些团体或许构造的隐衷数据或许有必定保险请求的数据盼望在当地处置，防止相干数据的泄密危险，同时在某些弱网或断网情形下，良多用户也有在PC上应用年夜模子的AI助手的需要。英特尔自2023年12月宣布了定名为酷睿Ultra第一代AIPC处置器，为在PC端侧运转AI利用供给了优良平台。在这一代的处置器中，翻新的增添了专门的AI处置单位：NPU，也就是神经收集处置单位。同时第一代的酷睿Ultra处置器又年夜幅度的晋升了内建显卡的算力，为图形盘算跟AI运算供给了磅礴的算力。加上传统的CPU，在这一代的酷睿Ultra处置器上就经由过程CPU+NPU+iGPU(内建图形处置单位)为差别的AI负载供给了适合的算力引擎。此中CPU合适一些对耽误性请求较高的AI利用，而一些连续性的、低负载的AI利用合适运转在NPU上，iGPU更合适运转一些年夜吞吐量的AI运算。联合英特尔酷睿Ultra的强盛AI算力，智谱联合本人在云跟端侧丰盛的模子跟利用开辟教训，很早就与英特尔的工程技巧职员开端了结合开辟。两边团队严密相同，充足施展两边在软、硬件上上风，在当地模子的抉择上确保了模子参数与正确性的均衡，同时采取了公道的量化技巧确保了公道的模子文件尺寸，别的在机能调优上拔取了优良的东西链确保了当地模子运转高效的运转在处置器之中的AI引擎上。这个版本会主动检测PC平台的设置，在满意前提的英特尔酷睿Ultra PC上会主动下载适合的端侧模子，经由过程这个端侧模子，用户能够应用英特尔酷睿Ultra的当地AI算力，为用户供给端侧的团体助手，包含常识问答、文档撰写、创意天生等任务。比方：能够将多少篇存在PC当地的文档经由过程在RAG（Retrieval-augmented Generation，检索加强天生）构成专有的常识库，并经由过程天然言语查问，而输出的内容既包括了来自当地文档的专业信息，同时输出内容也愈加天然并有逻辑。别的，智谱清言的英特尔酷睿Ultra专享版还能够实现当地长文档的择要等任务，极年夜的晋升了出产效力，构成了用户身边的、随时随地的“AI助手”。跟着英特尔一直推出酷睿Ultra处置器新品，相干的AI算力也在一直晋升。英特尔将连续联袂包含智谱在内的海内当先的AI利用厂商推出更多的合适海内用户的AIPC利用，丰盛AIPC生态圈。 　　申明：新浪网独家稿件，未经受权制止转载。 -->