英特尔Gaudi 2D AI加快器对DeepSeek Janus Pro进行优化

近日，DeepSeek发布Janus Pro模子，其超强性能和高精度引起业界样式。英特尔® Gaudi 2D AI加快器现已针对该模子进行优化，这使得AI建树者不详以更低资本、更高效果杀青复杂任务的部署与优化，有用得志行业应用关于推理算力的需求，为AI应用的落地和领域化发展提供强有劲的提拔。

动作一款立异性的 AIGC模子，DeepSeek Janus模子集成了多模态合股和生到手能。该模子初次遴荐并吞的Transformer架构，冲破了传统AIGC模子依赖多旅途视觉编码的适度，杀青了合股与生成任务的一体化提拔。在此基础上，Janus Pro通过优化锻练政策和膨胀模子领域，权臣栽培了文生图等功能的性能与相识性，并提供了10亿参数和70亿参数两个版块，在性能与精度上展现了较强的竞争力。

图片起原：https://github.com/deepseek-ai/Janus/blob/main/images/teaser_januspro.png

在Janus Pro并吞的Transformer架构下，文生图模子的费解量高下依然从依赖加快器的高算力向充分诈欺HBM内存高带宽和大容量调遣。英特尔® Gaudi 2D凭借 2.45TB/秒的高带宽和 96GB HBM 大容量内存，为 Janus Pro 模子提供了纷乱的估计提拔，使其在生图批惩办任务中，跟着批量大小（Batch Size）的增多，费解性能获得权臣栽培，大幅镌汰任务惩办本领。

与此同期，集结英特尔Optimum-Habana 框架的优化，英特尔® Gaudi 2D权臣栽培了文生图任务的费解性能和推理效果，仅需约 10 秒即可生成16张高质地的图片，性能弘扬超卓。何况，建树者仅需休养数行代码，即可杀青这一收尾，极大责难了建树门槛和移动资本，为 AI 应用的高效部署提供便利。

图片起原：诈欺英特尔Gaudi 2D AI加快器初始DeepSeek Janus-Pro-7B模子生成

此外，DeepSeek的蒸馏模子在至强和Gaudi平台上也获得了提拔，不详为客户创造更好的总体领有资本（TCO），鼓励AI的普惠。

一直以来，英特尔长久承袭灵通的格调，并通过软硬件相集结的方式鼓励AI应用落地。当今，英特尔丰富的AI产物组合，包括英特尔®至强®惩办器、英特尔®Gaudi AI加快器、英特尔®酷睿™ Ultra惩办器和英特尔锐炫™显卡等，依然针对业界源泉500个开源AI模子提供提拔，闲居涵盖DeepSeek、Llama 3.1和通义千问等。同期，英特尔深耕灵通生态，不仅以灵通生态系统软件杀青针对性优化，也通过打造企业AI灵通平台（OPEA）为这些模子提供提拔。