转：AI PC元年降临！Intel、AMD抢推神经网络处理器，颠覆传统计算！
若说2023年是“生成式AI元年”，2024年将会是“AI PC元年”！科技业界看好具备生成式AI运算能力的个人计算机，将会带领PC产业走出低谷。计算机芯片两大霸主Intel、AMD争相推出内建NPU的AI处理器，甚至手机芯片大厂高通也跨入此领域。即将举行的全球最大消费电子展CES 2024，展场焦点也会从电动车转移至AI PC。究竟这类计算机会否真的成为未来爆红产品？
AI PC降低AI反应延迟时间
当下大家所用的生成式AI均是架设在云端服务器上，例如最多人用的ChatGPT，是安放在微软（Microsoft）旗下的Azure云端数据中心。计算机用户必需透过互联网，联机至Azure云端平台，才可以使用ChatGPT，但如此一来一回，显然会产生时间延迟。
科技界认为，更理想的方案是在客户端的计算机上直接运行AI工具，不用再远距存取云端平台，这样既可以降低AI反应延迟时间，又可以保障用户私隐或公司机密。惟问题是一般个人计算机难以容纳生成式AI所需的大型语言模型（Large Language Model）；就算勉强安装和执行，指令周期亦未必理想。因此，具备可以执行生成式AI能力的AI PC就应运而生。
NPU将成未来计算机重要规格
一部计算机需要独立执行规模多大的语言模型，方可被定义为AI PC，目前并没有统一标准。现今AI PC一般可执行70亿个参数的语言模型，这比起ChatGPT所用的1,750亿个参数当然是相距甚远，但如此规模的语言模型已可满足大部分人的日常需求。
业界暂时的共识是，计算机起码要内置“神经网络处理器”（Neural-network Processing Unit，NPU），才可算是AI PC。目前消费者选购计算机时，主要看重CPU中央处理器的频率速度、以及GPU图像处理器的显示效能。
但来到生成式 AI年代，NPU将会变得更加重要，因为它可以让PC实现更强大的生成式AI运算能力。为求抢占AI PC市场，英特尔（Intel）、超威（AMD）两大计算机芯片商均争相把NPU整合至旗下处理器；教人意想不到的是，手机芯片商高通（Qualcomm）忽然加入战团，发表内建NPU的PC处理器。
AMD Ryzen让PC脱离云端
2023年5月，AMD抢先发布可强化AI运算与显示效能的Ryzen PRO 7040系列处理器，首度加入独立的NPU核心引擎“Ryzen AI”，可让PC脱离互联网与云端平台，仅在计算机上执行AI运算。此外，用户又可选择把AI运算任务分派到计算机与云端服务器之间，达到协同加速的效果。
AMD Ryzen PRO 7040处理器是全球首颗在x86处理器内建NPU核心，可让用户享有更强大的AI运算能力。（图片来源：AMD官网）
支持Ryzen AI的合作伙伴包括Adobe、Microsoft、Zoom、Cyberlink、Avid、Luminar等。Ryzen AI的加速功能项目现已逾100个，例如可以帮助《Adobe Photoshop》、《Premiere Pro》、《After Effect》、《Lightroom》等设计软件推升效能。
Intel AI笔电大军整装待发
2023年9月，Intel发表笔电处理器Core Ultra，除内置CPU与GPU外，更加入可用于AI推论（Inference）加速的NPU，成为英特尔旗下首款整合NPU的芯片产品。它藉由NPU核心，统合CPU与GPU的运算力，大幅提升笔电的AI运算效能，电池续航力也可增加2.5倍。
Intel Core Ultra处理器内建2颗NPU核心AI Boost，能够推升AI运算能力，并实现高效能低功耗的处理方式。（图片来源：Intel官网）
在Intel振臂一呼下，Acer、Asus、Dell、Gigabyte、Lenovo、LG、MSI等计算机厂商。已纷纷发表内置Core Ultra处理器的AI笔记本电脑，合计有230款产品，预计这种新型笔记本电脑将会是CES 2024会场上的焦点。英特尔预估，2028年AI PC可望占据全球个人计算机市场的8成份额。
ASUS推出AI笔电Zenbook 14 OLED，采用Intel Core Ultra中央处理器，内建Arc图像处理器与AI Boost神经网络处理器，并配备1TB SSD硬盘、32GB内存与WiFi 6E技术。（图片来源：ASUS官网）
高通自家研发首枚PC处理器
2023年10月，高通发表专为AI PC而设Snapdragon X Elite处理器，汇集了自家研发的Oryon CPU、Adrendo GPU、以及Hexagon NPU。CPU采用12核心设计，最高频率速度为3.8 GHz；GPU支援4K 60p 10bit的H.264／HEVC（H.265）／AV1影像编码；NPU部分可以执行逾130亿个参数的大型语言模型。
高通宣称，Snapdragon X Elite的CPU效能是Intel处理器的两倍，耗电量则为同级对手的三分之一，AI运算能力更是对手的4.5倍。该公司表示，采用这款处理器的笔电将于2024年中上市，首发厂商包括Microsoft、Dell、Lenovo、以及HP。
高通Snapdragon X Elite是一款包含Oryon CPU、Adreno GPU、Hexagon NPU、内存、WiFi、以及蓝牙通讯模块的单芯片AI处理器。（图片来源：Qualcomm官网）
AI PC真正爆发还看2025年
若要吸引消费者换机，单靠硬件升级当然不行，必需有杀手级软件搭配使用，尤其是《Windows》内的AI应用，始有足够叫座力。譬如AMD Ryzen AI支持《Windows 11》内的《Windows Studio Effects》，能够加速其自动取景、背景模糊等，但这算不上是很有吸引力的AI功能。
至于较多人使用的微软AI工具《Copilot》，背后运算全靠OpenAI的GPT-4大型语言模型，必需连上Azure云端使用，故此计算机内是否有NPU毫不重要。除非微软能够推出一款让用户觉得非用不可、又要用到NPU加速的杀手级AI应用，否则AI PC可能会无法爆红起来。
AMD财务长胡锦（Jean Hu）指出，长远来说云端无法处理所有AI运算。始终有很多AI工作需要在客户端执行，但认为AI PC真正成熟的时间点应该不是2024年，而是2025年，届时肯定会迎来巨大成长动能（Tremendous Momentum）。高通执行长克里斯蒂亚诺·阿蒙（Cristiano Amon）也认同，2025年很可能就会是AI PC的关键时刻。有消息指，AI芯片龙头英伟达（Nvidia）现正基于ARM架构研发PC处理器，预计最快在2025年面世，看来该公司同样视2025年为AI PC的真正爆发年喔！
