为了达成目标，那些新兴AI芯片制造商采取了反复奏效的策略：从头开始设计芯片，专为突然间变得至关重要的新型任务而打造。过去是图形处理成了热点，也正是英伟达从中发迹。之后人们才发现图形芯片可被用于AI任务，但从根本上说，它们并不完美适配AI。
Jonathan Ross 是芯片初创公司 Groq 的首席执行官，曾负责谷歌的AI芯片开发计划。他表示创立Groq（与Elon Musk的xAI聊天机器人无关）是因为他相信AI芯片有一种全然不同的设计方式——专门为当今的AI模型而生。
Groq声称，其芯片运行AI的速度远超英伟达顶级产品，所需功耗仅为英伟达的三分之一到六分之一。这归功于其独特设计，即将内存嵌入芯片之中，而非作为独立组件。虽然Groq芯片的具体性能受诸多因素影响，但其在推理成本方面优于英伟达的说法是可信的，分析机构SemiAnalysis的分析师、曾在惠普企业工作十年的乔丹·纳诺斯（Jordan Nanos）表示。
Positron 走的是另一条提高推理效率的路线。这家公司已向包括Cloudflare在内的客户交付了芯片，其设计理念是简化芯片功能，专注于更窄的任务范围，从而实现更快的运行速度。其最新融资轮由Valor Equity Partners、Atreides Management和DFJ Growth参投，使得总融资额达到7500万美元。
Positron的下一代系统将与英伟达下一代系统 Vera Rubin 竞争。Positron首席执行官米特什·阿格拉瓦尔（Mitesh Agrawal）表示，根据英伟达的产品路线图，Positron芯片的单位成本性能将是英伟达的两到三倍，单位电力性能将是其三到六倍。
英伟达的哈里斯回应称，许多竞争者宣称在推理性能上超越英伟达，但这往往忽视了客户在选择硬件时所考虑的各种因素。他指出，灵活性也很关键，尤其是随着新AI模型和新用例的不断涌现，企业对芯片的用途也在快速变化。“英伟达的客户未必会被那些适用于小众推理应用的芯片所打动。”他说。
Cloudflare对Positron芯片的初步测试结果令人鼓舞，足以让韦决定将其部署到公司数据中心进行更长期测试。他表示，只有另一家芯片初创企业曾达到过这个标准。“如果他们真能兑现其承诺的性能指标，我们会全力放开采购阀门，让他们在全球大规模部署。”他说。
韦认为，通过让AI硬件实现“商品化”，并让英伟达的客户能够转向更高效的系统，市场竞争的力量或许能改变AI未来能耗不断攀升的趋势。“现在整个行业都处于FOMO（错失恐惧）状态，但我相信，最终理性会赶上现实。”他说。
一个不变的真理是：计算行业的发展历史一再表明，每当硬件工程师找到更快、更高效的方法时，软件开发者和消费者总会迅速将所有性能提升用尽，甚至超额使用。
马克·洛迈耶（Mark Lohmeyer）是Google Cloud的AI与计算基础设施副总裁，他的团队既提供谷歌自研AI芯片，也提供英伟达芯片，服务对象包括谷歌自身和其云客户。他表示，随着消费者和企业采用更复杂、要求更高的AI模型，无论AI交付效率提升多少，整体需求的增长依然看不到尽头。与几乎所有AI巨头一样，谷歌也在努力探索激进的新型能源方案，以满足AI所需，包括核能与核聚变。
关键在于：虽然新芯片或许能帮助个别公司更高效地交付人工智能，但整个行业仍然会消耗越来越多的能源。正如 Anthropic 最近的一份报告指出的那样，这意味着能源生产，而不是数据中心和芯片，才是未来人工智能发展的真正瓶颈。
