Intel快速進入AI PC時代！13代Core支援160億參數大模型、Arc顯示卡速度提升54％

生成式AI（AIGC）無疑是當下最熱門的話題和應用，各家軟硬體廠商都在全力投入。

作為擁有強大硬體、廣泛生態的行業領袖，Intel也正在大力推動PC AIGC的實際應用，從硬體到軟體提供全方位支援。

目前在PC平臺上，Intel已發表的12/13代Core、Arc A系列顯示卡，以及即將發表的下一代Core，都能滿足AIGC對於高算力的需求。

再加上軟體生態的構建和模型的最佳化，AIGC場景在桌上型電腦、輕薄筆電、商務筆電、遊戲筆電等設備上都能有實際的應用，進而大大提高熱門的日常生活、工作效率。

其中，基於OpenVINO PyTorch後端的方案，透過Pytorch API，可以讓社群開源模型良好的運行在Intel使用者端處理器、整合顯示卡、獨立顯示卡和專用AI引擎之上。

像是， Stable Diffusion的Automatic1111 WebUI，已經能夠透過上述方式，在Intel處理器、顯示卡上運行FP16浮點精度的模型，支援文生圖、圖生圖、局部修復等功能。

延伸閱讀：那個曾經製造NVIDIA顯示卡的Sparkle，現在帶著Intel Arc回來了

更進一步地，Intel透過模型最佳化，降低了模型對硬體資源的需求，進而提升了模型的推理速度，讓社區開源模型能夠很好地運行在PC上。

眼下，Intel 13代Core透過XPU加速、low-bit量化，以及其它軟體層面的最佳化，可以讓最高達160億參數的大語言模型，透過BigDL-LLM框架運行在16GB及以上記憶體容量的個人電腦上。

已經驗證過的模型包括但不限於：LLAMA/LLAMA2、ChatGLM/ChatGLM2、MPT、Falcon、MOSS、Baichuan、QWen、Dolly、RedPajama、StarCoder、Whisper等，並透過Transformers、LangChain API介面支援Windows、Linux的作業系統。

▲ 即將發表的代號Meteor Lake的CoreUltra系列，更會成為PC AI歷史上的重要里程碑。

CoreUltra它將透過分離式模組架構，整合名為「VPU」的獨立AI加速單元，為PC使用者提供AI驅動的新功能、新應用，比如Adobe Premiere Pro中的自動重新構圖、場景編輯檢測等等，還有更高效的機器學習加速。目前，Intel正與PC產業夥伴合作，加速AI加速應用的普及，進一步擴展AI能力。

另一方面，Intel Arc顯示卡透過驅動和修補更新程式，已經可以支援Stable Diffusion，性能提升效果相當顯著。

Tom's Hardware就分別測試了Arc A770 16GB、Arc A750，使用了Automatic1111 WebUI OpenVINO。

在此之前，Arc A770 16GB、Arc A450的性能相比RTX 4060落後在20％左右，如今分別大幅提升了54％、40％，對比RTX 4060能分別領先25％、6％。它們兩個的遊戲性能其實遠不如RTX 4060，但如今AI效率卻更高。

再看看AMD顯示卡的表現，就更加凸顯Intel的進步了，RX 6000系列的效率依然低得令人髮指，RX 6800都只有Arc A750的一半多一點點。