Post#人工智能

#人工智能 传统的软件行业，是有“边际效益”的：成本主要集中在软件开发期内，开发完毕之后，同一份软件给一个人用和给一万个人用，成本差不多。当然，如果是互联网行业的软件，多一个用户会多一些带宽和存储成本，但是总体而言，多出来用户之后的成本可以认为是满足边际效应的。 但是如今大模型领域则不是这样。姑且把大模型领域分为训练和推理两个阶段，前期花费大量成本训练模型完毕了还不算，模型部署上线后，推理的成本是实打实的：多一个用户的请求，就多一份不能被忽略的推理成本。 从这个意义上来说，就现阶段而言，模型推理服务（Model As A Service，MAAS）其实更像是制造业。区别在于：传统制造业，原材料和产出物，都是实体；而模型服务，输入和输出，是虚拟的数字物件token。