至少在未来两到三年内，规模法则不会放慢提供超出预期业绩的速度。
在最近的一次采访中，微软AI总监Mustafa Suleyman深入探讨了人工智能领域的最新趋势。他认为，未来几年，AI模型将呈现大小模型“并行推进”的趋势。
一方面，扩大大型模型规模的竞争将持续下去，并纳入更多形式的数据，例如视频、图像等。另一方面，随着使用大型模型训练小型模型的技术的兴起（例如蒸馏），高效的小模型将在特定场景中发挥巨大作用。苏莱曼补充说，未来，知识将被浓缩成更小、更便宜的模型，并嵌入到各种设备中，以实现环境感知的真正革命。
对于企业家来说，苏莱曼认为理解和利用即时工程至关重要。通过提供高质量的指令集，企业家可以指导预先训练的模型与其品牌价值保持一致并创造独特的产品。此外，小型模型为企业家提供了巨大的机会，可以利用其低成本和高效率来开发针对特定用例的应用程序。
在采访中，Suleyman还强调了数据集成的重要性。合成数据将成为训练模型的关键，但如何获取和整合这些数据仍需要深入探索。
此外，微软AI总监还谈到了新模式的加入，例如视频和图像的融合，以及跨复杂数字界面的运动轨迹的理解和数据收集。他相信这将带来许多令人印象深刻的成果。对于企业家来说，如何利用这些新趋势、新技术进行创新将是未来成功的关键。
以下为全文，敬请欣赏~✌️（为了增加可读性，我们对原文进行了简要编辑）
问：未来几年，在不断演变的模型格局中，有哪些值得关注的事情？
答：模型变得越来越大和越来越小，而且这种趋势几乎肯定会持续下去。
去年，一种称为蒸馏的新方法开始流行。这种方法利用大型、昂贵的模型来训练小型模型。这种监督效果很好，而且有充分的证据支持。
因此，规模仍然是这场竞争的关键因素，未来仍有很大的发展空间，数据量将持续增长。
至少在未来两到三年内，规模法则不会放慢提供超出预期业绩的速度。
问：还可以添加哪些新模式？
答：人们还在考虑将复杂数字界面上的视频、图像和运动轨迹等新模式纳入模型中。
但我们真正感兴趣的是复杂数字界面上的行为轨迹，例如从浏览器跳转到桌面再到手机，以及在不同生态系统之间切换，无论是在封闭的花园还是开放的网络中。
我们尝试了解这些轨迹，收集大量数据，并使用监督学习和微调等方法。我认为这将带来许多令人印象深刻的结果。
问：在数据方面，哪些领域人们考虑得还不够？
答：数据可以从很多角度来讨论。经典的问题是可以使用哪些数据及其质量。我想网上已经有很多讨论了。
但人们没有花足够的时间思考新数据从哪里来以及如何整合它。
例如，合成数据是一个有趣的领域，如果我们拥有这样的数据，我们就可以训练更好的小型和大型模型。如何获取这些数据并确保其集成是一个关键问题。但如何获取这些数据并确保其集成还没有得到足够的讨论。
问：使用模型时提示和问题有什么区别？
答：提示不仅仅是您向聊天机器人提出的问题。当你问聊天机器人一个问题时，这就是一个问题；当你写一份三页的风格指南并附有可供模仿的例子时，这就是一个提示。
提示是一组高质量的指令，指导预训练的模型以特定的方式运行。令人惊奇的是，仅通过几页说明就可以使模型表现得如此不同。
为了让您的模型展现出细致入微、精确且与您的品牌价值观一致的行为，您需要展示数千个良好行为的示例，并将这些示例微调到您的模型中。这是预训练过程的延续，使用高质量和准确的数据。
好消息是，针对许多利基市场或特定垂直领域，有数千个示例可供使用。这是一个优势，初创公司有很大的空间来微调高质量的预训练模型。
Q：小车型会带来哪些机遇？创业者如何利用它们来做一些有趣且独特的事情？
A：小模型绝对代表着未来。
大型模型在处理查询时会激活数十亿个不相关的神经表示，尽管它们在搜索和引用数亿个节点方面非常有效，但这并不总是必要的。
我们将把知识浓缩成更小、更便宜的模型，可以驻留在耳塞、可穿戴设备、耳环、植物或传感器等各种设备上。
人们早已预料到这种环境传感革命，并将催生冰箱贴等功能设备，这是我能想到的最小的数字设备。它可以在早上向您打招呼，告诉您天气如何，告诉您冰箱里可能有或没有什么，并提醒您检查日历。
它可以在早上迎接您，告诉您天气，告诉您冰箱里可能有或没有什么，并提醒您检查日历。
这样的模型可能只有几千万个参数。虽然目前还没有人真正推动这一领域，但这是任何两人团队都可以探索的领域。
问：未来两天人们应该考虑什么？
答：问题是技术人员需要做什么来设计一个更加人性化的未来。
这包括思考技术如何进化人类，以及我们如何通过不断变化的与技术的关系来表达我们的情感、激情和同情心。
问：为什么这是一个转型时刻？
答：我们有充分的证据表明，过去五十年的重大技术变革重塑了事物的结构。
我认为这是一个创办公司、扩张公司、甚至转行的时机。即使你不是企业家，无论你是活动家、组织者还是学者，现在都是关注的时候了。
到2050年，火车将离开车站，情况将大不相同。我们现在有机会共同塑造和影响未来，一切都是预先确定的。我们非常幸运能够活在这一刻，这既是巨大的责任，也是令人兴奋的机会。
市场有风险，投资需谨慎。本文不构成个人投资建议，也不考虑个人用户的特殊投资目标、财务状况或需求。用户应考虑本文中的任何意见、观点或结论是否适合其特定情况。进行相应的投资并自行承担风险。
海量信息、精准解读，尽在新浪财经APP
