“无法容忍数据泄露”……继NVIDIA之后，“本地部署AI”将主导市场

人工智能（AI）基础设施投资的重心正在从硬件向应用层，并再次向企业内部转移。在经历了由NVIDIA的GPU以及三星电子、SK hynix的存储半导体主导的第一轮AI热潮后，企业为了同时解决安全与成本问题，开始着手直接管理数据的行动正全面展开。

GFT Ventures代表Eum Jae-hoon在当地时间3日进行的采访中，对硅谷最新的AI投资趋势进行了诊断。Eum代表将AI生态系统的下一阶段归结为“本地部署（On-premise）AI”和“垂直（Vertical）特化AI”。他分析称，在GPU和内存等基础设施阶段之后，在能够创造实际收益的应用层正开启新的机遇。

“出于安全与成本考虑，企业转向‘本地部署’”

近期AI产业最大的转折点之一是数据安全。虽然OpenAI或Anthropic等公司提供的基于云端的AI服务非常便利，但对企业而言，存在敏感数据可能泄露给外部的致命弱点。Eum代表解释称：“对于金融、医疗、安保、公共机构等合规性至关重要的行业，将数据上传至云端本身就是不可能的。”

事实上，许多企业在家里会使用ChatGPT，但一旦回到公司，就会因安全问题而完全无法使用AI。为了解决这一问题，企业正关注于将基础设施构建在自有数据中心或服务器上的“本地部署AI”。因为只要将包含GPU和内存的AI设备（Appliance）连接到企业内部网，就能在解决安全问题的同时，立即将AI投入业务使用。

成本的可预测性也是一个强有力的诱因。云端AI的结构是根据使用量持续产生“Token”费用，导致预算管理困难。相比之下，本地部署方式除初期的硬件构建成本（CAPEX）外，运营成本（OPEX）可以保持稳定，因此更受企业首席财务官（CFO）的青睐。Eum代表补充道：“在电脑宕机之前可以无限量使用，因此成本是可预测的。”

“比通用AI更准确的‘专科医生’AI将生存下来”

AI模型的性能竞争方式也在发生变化。如果说涵盖所有领域的语言大模型（LLM）是“全科医生”，那么针对特定行业的AI就像是“专科医生”。Eum代表预判，利用特定行业数据训练的“垂直特化AI”将在未来市场中拥有强大的竞争力。

通用AI通过学习人类海量数据拥有广泛的知识，但对于特定企业的规章制度或专业的金融、医疗数据，准确度可能会有所下降。相反，如果利用特定行业的训练数据集，可以大幅提高准确度。Eum代表表示：“对于比起速度更看重准确度的客户来说，特化模型是必不可少的。”他预测，通过引入多智能体技术等手段，将准确度提升至99%以上的解决方案将受到关注。

这种趋势不仅出现在大企业，中型企业中也同样显现。大企业有实力直接与OpenAI等科技巨头合作，而中型企业则迫切需要能同时解决安全与成本问题的定制化解决方案。Eum代表分析称：“规模在数千名员工左右的中型企业，将会有那种通过一根以太网线连接即可直接使用的AI解决方案来攻占市场。”

数据中心瓶颈现象与韩国企业的机遇

在扩充AI基础设施的过程中，出现的物理限制也在改变投资格局。目前，全球范围内为建设数据中心而确保电力供应被视为最大的瓶颈（Bottleneck）。Eum代表指出：“在公布的数据中心项目中，有一半以上可能因电力供应或社区反对等原因，在现实中难以投入运行。”

由于电力短缺和输电网建设延迟等问题导致大规模数据中心建设推迟，相对规模较小的本地部署或混合（云端与自有服务器混合）方式正作为替代方案脱颖而出。在此过程中，也有观点认为具备制造能力的韩国企业可以获得间接利益。因为在中美冲突中，韩国作为制造强国，在AI基础设施相关的制造领域占据着重要地位。

Eum代表强调，投资重心正从以硬件为中心向软件和特化服务转移，并表示：“最终的赢家将是在基础设施之上构建并创造巨大价值的应用厂商。”

来源：原视频（YouTube）