AI
首先声明：以下内容涉及个人看法，可能与部分读者的观点存在差异。作为一名从业者，同时也在开发基于端侧
AI代理的项目（不过最近因为懒散状态，项目暂时搁置），我对于当前市场上的
AIPC/NPU持相对悲观的态度。总结一句话：截至2024年8月8日，市面上无论是
高通、Intel还是
AMD推出的
AIPC产品，在我看来都没有实质意义。尽管这些设备内置了NPU，理论上提供了比核显更高的算力，价格也较为亲民且功耗更低，但其生态却极为封闭——SDK和文档缺乏开放性，开发过程也受到诸多限制，例如算子支持不足、量化精度受限等问题。OEM厂商所提供的
AI功能看似丰富，但实际上由于技术能力局限以及审查等因素，实际体验往往不尽如人意。试想一下，你会坐在
电脑前没事找
AI闲聊吗？玩游戏岂不是更有趣？如果真的想聊天，躺在沙发上用
手机岂不更加方便？又或者，你会让
AI生成风景图片当作壁纸？直接去专门的壁纸软件搜索岂不是更快捷高效？再比如，让
AI帮你操作软件？等你说完指令的时间，恐怕鼠标早就完成了所有操作。至于使用OEM提供的
AI来制作PPT、编写代码或撰写文案，目前端侧NPU的性能和硬件条件仅能运行一些规模较小的模型（如7B量级的int4量化模型），在处理复杂任务时表现乏力。相比之下，云端模型显然更具优势，为何非要执着于端侧？此外，当前已发布的NPU不仅表现不佳，未来潜力同样堪忧。由于其封闭性和灵活性不足，许多开源项目如聊天机器人、图像生成器甚至
AI变声工具，大多仍依赖GPU和CPU作为推理后端。即便有部分项目尝试支持NPU，最终效果往往逊色于传统方案。更糟糕的是，如果你试图用NPU运行从网络下载的特定模型（例如某些视觉模型），很可能会发现它根本无法兼容。这种局限性还进一步影响了未来的软件发展。假设明天某家
AI公司推出了一种全新的高效模型架构或算子，现有NPU很可能无法适配，甚至可能出现性能倒退的情况。这表明，当前NPU无论是在硬件设计还是软件生态上都尚未成熟，而芯片厂商的封闭策略更是阻碍了个人开发者和技术爱好者的参与热情。因此，若以体验
AI为主要目的，现阶段并不建议购买搭载NPU的
AIPC设备。对于希望深入探索
AI技术的用户来说，现有的GPU显然是更好的选择。同时，我也强烈呼吁相关产品经理能够跳出固有的思维模式，停止盲目跟风，专注于开发真正有价值的创新功能。毕竟，仅仅提供聊天或图片生成这类功能，一旦新鲜感消失，用户很快就会失去兴趣。更何况，PC端的功能远比
手机复杂得多，贸然尝试未必能取得预期效果。
