近来，有新闻媒体报导称，百度正加紧练习文心大模型4 0，这将是文心大模型3 5版别后又一个重磅版别。据报导，文心大模型4 0发展比预期快许多，将是根底模型的大晋级，了解、生成、逻辑、回忆中心才能都将提高，特

  近来，有新闻媒体报导称，百度正加紧练习文心大模型4.0，这将是文心大模型3.5版别后又一个重磅版别。据报导，文心大模型4.0发展比预期快许多，将是根底模型的大晋级，了解、生成、逻辑、回忆中心才能都将提高，特别是在逻辑推理、代码和数学等方面提高最显着。

  10月10日，记者从百度内部人士根本确认了该音讯，据悉，行将推出的文心大模型4.0的参数量、练习数据量以及推理本钱等都比3.5高出一个数量级。

  本年3月16日，百度官宣新一代大言语模型“文心一言”发动邀测，8月31日正式面向大众敞开服务。现在，文心大模型行将再度晋级发布4.0版，如此敏捷的大模型晋级速度，在国内尚属仅有。只不过，快速晋级的背面，文心大模型4.0快速攀升的参数量、数据量所带来的练习和推理本钱提高，也正在成为大模型商业化过程中需求细心考虑的要点。

  据此前音讯报导，比较文心大模型3.5，文心4.0不只练习本钱在添加，推理本钱也添加了许多，大概是此前的8-10倍。一直以来，百度并未对外发表大模型练习、推理的各项本钱，不过据国盛证券此前预算，GPT-3练习一次的本钱约为140万美元，关于一些更大的LLM模型(如具有2800亿参数的Gopher和具有5400亿参数的PaLM)，练习本钱介于200万美元至1200万美元之间。作为国内大言语模型代表，文心一言想要在性能上追逐乃至逾越ChatGPT等国外同行，所需消耗的资金本钱，恐怕也将与之适当。

  过高的练习和推理本钱压力下，在打造抢先的底层根底大模型的路上，注定只能是一场巨子间的游戏。不过关于百度而言，因为具有万卡集群、飞桨、文心大模型以及丰厚的百度使用生态优势，独具芯片、结构、模型及使用四层架构优势，更具技能竞争力。

  在进一步下降大模型算力本钱和时刻本钱上，百度万卡集群的整体优势已得到足够表现在万卡集群练习大模型时，惯例办法下工程师们有30%-40%时刻都花在容错和毛病康复上，而在百度智能云自研的集群组网毛病管理机制下，模型有用练习时刻到达95%以上，人力及算力资源均得到了使用。

  真金白银投入的背面，现在国外大模型厂商已开端测验收费形式，无论是在面向企业客户的B端垂类大模型开发，仍是面向花钱的那群人的To C付费产品，均有不少事例。例如，在面向C端顾客付费范畴，现在GPT-4已推出“每月付出20美元订阅费”的收费形式。

  能够预见，不远的将来，以百度为代表的大模型企业们，或将连续推出收费形式。在To C大模型AI使用层面，相似爱奇艺或百度网盘VIP会员的收费形式，也将不断显现，逐步培育用户付费习气。