IT之家 11 月 14 日消息,The Information 上周末报道称,生成式 AI 模型的快速发展似乎遇到了瓶颈。有专家预测,单纯增加模型参数、训练数据和计算能力来提高模型性能的方法已经逐渐失效,甚至可能产生负面影响。
OpenAI 的最新旗舰机型 Orion 就是一个例子。据介绍,与GPT-4相比,Orion的性能提升并不显着,甚至在编码等某些领域可能没有任何提升。
IT之家注意到,Safe Superintelligence 创始人、OpenAI 联合创始人 Ilya Sutskever 也表示,单纯通过扩大模型尺寸来提升性能的策略已经达到了天花板。
针对此事,OpenAI CEO Sam Altman 只是在 X 平台上回应:“There is no wall(没有墙)”。这说明人工智能的发展并未遇到瓶颈。
相关消息引发人们对AI行业泡沫的担忧。认知科学家和人工智能怀疑论者加里·马库斯警告说,一旦行业意识到这些局限性,整个行业可能会崩溃。他指出,OpenAI和微软等高估值AI公司的估值很大程度上是基于LLM(大型语言模型)将继续发展为AGI(通用人工智能)的假设,而这只是一个幻想。
如果行业不能快速找到突破瓶颈的方法,可能会面临新的“AI冬天”。经济市场往往缺乏耐心,一旦投资者意识到AI行业的盈利能力存在问题,就可能导致泡沫破裂。