模型

“AI大模型第一波交卷时间到了——不能实际提供生产力的‘花瓶’，恐怕很难及格。” 作者 | 董子博 编辑 | 岑 峰 2023年的AI大模型，已经从Q1火到了Q2。 国内，从大厂到新创，纷纷下场试水，几个月过去，已经有了不少大模型产品“交卷”受评，颇有“乱花渐欲迷人眼”的架势。 看客只识AI大模型百花齐放，但除了一场热闹以外，却也开始有人问出了这个问题： “AI大模型这么厉害，但它有啥用呢？” 诚然，市场上不少公布的大模型，还并未开发到完全程度——甚至距离“可用”、“好用”还差着一些距离。 在一些AI大模型产品，仍旧在“胡说八道”、场景落地难、语义理解能力弱等问题中徘徊时，OpenAI 首先看到了落地的痛点，和微软合作推出 Copilot，主打在办公领域提升工作效率，打响了大模型向生产力进军的发令枪。 在人们的想象中，AI 应该可以帮助处理机械、重复的日常工作，提供独特的分析视点、创作灵感，在特定的领域——比如教育、医疗、法律——给出独特的建议和帮助，让工作和生活更轻松、便捷，让每个人都能够享受更贴心细致的服务。 而什么样的AI大模型，才能真正地帮助使用者“干活”？让日常办公、生产的效率得到更大提升？什么样的大模型，才真正算得上生产力工具？要满足生产力工具的要求，大模型需要有哪些秘密武器？ 对于业界来说大模型有哪些，这些问题如果得不到解答，那么或早或晚，都会遇上市场的瓶颈；而越早能够为市场提供效率提升的大模型产品，也就能够越早地占领先机。 01 理解&记忆：大模型生产力的分水岭 记忆和理解能力，对于当下如同雨后春笋的大模型产品来说，说得上是最硬核的实力比拼。 模型的理解能力，根植于对自然语言的处理能力，能够清晰地辨别语义，尤其是一些根植于本地语言语境中的俗语、幽默，对于理解用户想要什么，进而完成文本生成和创作，至关重要。 而模型的记忆能力——也就是多轮对话能力——越强，使用者就能更详细地对需求进行描述，进而利用 AI 完成更加复杂的工作任务； 大模型比拼中最“硬”的两个科目，也是大模型提供生产力的关键保证。不仅如此，不如说，要大模型能够真正帮人“干活”，记忆和理解能力，都要满足更高的要求。 但无论是“理解”还是“记忆”，都是大模型在当下的能力提升的攻关难点。一方面是市场的巨大痛点，一方面是技术上难攻不落的“高墙”，这对矛盾不解决，AI 的生产力就始终面临着一个艰难的瓶颈。 首先，要解决 AI 语义理解能力差的问题，昆仑万维和奇点智源的 AI 科学家们想到了一种另辟蹊径的方法——蒙特卡洛树搜索算法。 蒙特卡洛树搜索算法，简单来说一种基于随机模拟的强化学习算法。对 AI 不甚了解的人可能并不知道它的名字，但它却是AlphaGo能打败李世石、柯洁等一众围棋高手的秘密武器。而蒙特卡洛树搜索的核心，就是通过一个树状结构，在每个节点进行随机搜索，并找到最优决策的方式。 在昆仑万维和奇点智源联合发布的AI大语言模型——“天工”中，蒙特卡洛树搜索可以让AI“三思而后行”——AI 会基于过去用户的对话记录以及当前用户的输入生成候选大量回复，并结合NLP技术，选取最佳的回复方案反馈给用户。 通过把蒙特卡洛树搜索算法，和自然语言处理相结合，让Decoder的安全性和准确性获得了极大的增强，也让天工在相对复杂的任务和场景中，能够快速且准确地响应指令，输出高质量回答。 为了测试天工的语义理解能力，雷峰网向天工提问：“什么是蒙特卡洛树搜索算法？”天工的回答还比较清楚，令人满意： 把蒙特卡洛树搜索应用到 AI 对话机器人中，另一个优势，是AI能够理解如何在对话中转换话题，并提出问题，引导用户完善自己的Prompt，以得到更好的回复结果。 比如，雷峰网故意问出了一个十分宽泛、难以回答的问题。天工则并没有落入这个“陷阱”，通过主动提问，缩小问题的范围：...

原创：亲爱的数据 2023年5月18日，坐标广州南沙，来自云从科技的“云从从容大模型”正式亮相。 自此，云从科技从CV四小龙“进阶”成为一家AI大模型公司，同时，别忘记云从还有一个身份常被人提起：首家登陆科创板的AI平台公司。 在首发演讲中，云从科技董事长周曦带领技术管理部叶懋给现场带来了不少有趣的大模型测试。 与此同时，周曦也公开表达，此前“多点技术闭环”阶段，项目定制化程度重，导致投入产出比不平衡，最终出现亏损的局面。 好消息是，当前正在进入的大模型时代能够进一步推动人工智能技术的标准化，边际效应起来了，能够更快速高效地去实现海量现实场景智能化。 在发布会现场，“从容大模型计划推出自主研发的通用多模态大模型以及语言、视觉、语音、代码生成、图像生成大模型等系列的行业大模型”的表述印刷在介绍背板上；将英文“Make AI Great Again”（让AI再次伟大）印制在伴手礼袋子上。 号角吹响，准备战斗的士气扑面而来。 首发演讲上，周曦介绍大模型时代下有三种类型交互方式：问答、伴随和托管。 他谈道：“问答是AI被动参与；伴随是AI实时跟你互动，提供它的建议、理由，人类做决策；托管是我们人类主要将这件事情交给AI来做。” 问答、伴随和托管在云从科技看来既是他们一以贯之的技术理念，技术方向，也实现了较早之前前瞻性的判断。 周曦认为这三种交互的形式的本质是递进，其背后对应了大量的技术突破。“真正要能做到这些交互形式需要什么呢？”他问道。 答案是：“跨模态的大模型。” 周曦谈道：“未来大模型要能够看得懂，听得明白，能够理解物理世界所有事，它才能跟我们在一起互动。未来需要行动系统，需要数字人，实体机器人等，在任何时候跟我们人类实体互动。所以，大量的技术需要演进。” 自研意味着什么？ 有预训练大模型，这和基于开源大模型的开发比较有显著差别，像云从这样的AI企业有预训练层调优模型的能力是“必修课”。 同时，模型级别的服务（私有化部署）和过去提供API形式的服务不同，粘性更强，商业期待更大。 从算法起步的AI公司迟早要自研AI平台，且越快越好。早期的AI平台就是数据算法算力的整合。 AI平台将算法非自研团队和研发实力较强的公司彻底分开。为了好理解，很多企业将AI平台称作“操作系统”，这是一种比喻。 现在看来，很多AI平台的出现是AI公司自己的内部需求，找到最大共性之后发展出来的产品。 对此，国家层面也较为重视，因为产品的影响力和示范性都很强，寄予的希望是能够大范围的推广应用，为经济贡献价值。 我的理解是政府层面会较多关注平台的开放性发展，比如：支持多大范围的生态，有多少活跃用户，支撑多少行业。 常常谈道“开放平台”，那平台开放出来的是什么? 答案是：平台的能力。 演讲中周曦也有所介绍：“2019年，我们就开始打造整个CWOS操作系统。2020年，我们在广州市首发人机协同开放平台。2021年我们推出AI精灵大模型有哪些，2022年我们承接科技部的“视听交互国家人工智能开放平台”。 这里有一个背景知识：平台是交互平台，底层是CWOS的操作系统。 以云从发展为例，在进入到大模型时代后，人工智能平台和大模型的关系是什么呢？也许有人会说平台被淘汰了。而云从的理解是，平台依然是基础。 云从科技副总裁张立告诉我：“对AI平台来说，无非就是解锁平台的大模型的能力，大模型的其中一个能力。技术解锁带来新爆发点。” 大模型时代的变化彰明较著，从流程（IT）为中心的开发转变为以知识（Knowle）为中心的开发，前者本质是定制；后者本质是知识能力。 云从内部人士透露，周曦在公司内部反复强调大模型有哪些，通用大模型是基础，而分门别类的专业知识需要行业大模型。 首发演讲上，周曦对此也进行了专门的讲解，他的比喻是：“人的基本素质至关重要。有了基础再做专业的事，大学学习专业知识，我们学法律专业，成为律师，我们学医学，成为医生。” 与此呼应的是，云从在活动中透露，将与中国中检合作推出质量大模型、与神州信息合作推出金融大模型、与深圳报业合作推出文娱大模型、与佳都科技推出交通大模型、与金世缘共同推出制造大模型、与游族网络合作推出游戏大模型、与艾登科技合作推出医疗大模型。 基础大模型是能力基础，用来追赶世界领先大模型基础技术，侧重研发投入，而行业大模型能够获得应用实践，获取订单。 云从科技联合创始人姚志强认为：“通用大模型的迭代的成本是非常高的，虽然说现在很多传统企业都有试用的冲动，慢慢就会冷静下来，独立开发运维迭代实在不划算，这就是行业大模型的机会。” 大模型技术在智能制造中有着丰富的应用场景，云从较为重视，同时，云从历来重视且积累了多年经验的“大场景”包括金融和政务。 在云从科技看来，智能制造有很多高度复杂的事情。 姚志强介绍：“设备越来越多，涉及到不同的生产厂家，对应纷繁复杂数量庞大的工作手册。沟通定位需要解决问题不能像大海捞针般低效。比如，以常见的设备巡检问题定位为切口，大模型会有较好的应用。” 从某种程度上讲，大模型吸收海量知识，大模型给智能制造提供高质量知识服务。 大模型对生产过程中的数据进行分析和建模，可帮助企业实现精细化控制和预测；大模型对设备运行数据进行多模态的分析和建模，可实现故障检测和设备维护的智能化。 视觉大模型可以对待检测设备进行分析，异常分析结果生成文字后，可以用语言大模型来获取问题维修方案以及历史维修记录，维修人员可以根据这些信息进行有针对性的维修，提升效率和质量。 以设备智能运维为例，工作包括待检测设备名称、检测时间、检测内容、检测标准等较多细项。 利用大模型本质是压缩模态的行业知识，知识来源于各类设备文档、维修手册、运维记录。未来自动的生成设备巡检计划都可实现。 云从科技联合创始人姚志强认为：“问题一直都在视线范围内，之前解不了决是受限于技术发展。”...

小兵先说：以下这篇文章最早的出处是沈浩老师博客原创，由 计量经济学 公众号整合转载发布在公众号平台，该文中图片右下角印有“计量经济学”，但我要强调一下原创归沈浩老师，如有其它账号转载请注明原创来源。 由于原文很长，且为多篇博文合并整理，为了方便阅读，下面的图文由数据小兵进行重新分段规划、编写排版，本文标题也由小兵拟定，如有不妥还请及时告知。 ==全文如下== 关于时间序列，有好多软件可以支持分析，大家比较熟悉的可能是EVIEWS、SPSS、还有STATA，具体用啥软件，结果都是一样的，但是SPSS作为一款学习简单，使用容易的软件还是值得大家关注的。 01 预测 预测是对尚未发生或目前还不明确的事物进行预先的估计和推测时间序列模型有哪些，是在现时对事物将要发生的结果进行探讨和研究，简单地说就是指从已知事件测定未知事件。 为什么要预测呢，因为预测可以帮助了解事物发展的未来状况后，人们可以在目前为它的到来做好准备，通过预测可以了解目前的决策所可能带来的后果，并通过对后果的分析来确定目前的决策，力争使目前的决策获得最佳的未来结果。 我们进行预测的总的原则是：认识事物的发展变化规律，利用规律的必然性，是进行科学预测所应遵循的总的原则。 这个总原则实际上就是事物发展的。 1-“惯性”原则——事物变化发展的延续性； 2-“类推”原则——事物发展的类似性； 3-“相关”原则——事物的变化发展是相互联系的； 4-“概率”原则——事物发展的推断预测结果能以较大概率出现，则结果成立、可用； 02 时间序列预测 时间序列预测主要包括三种基本方法： 1-内生时间序列预测技术； 2-外生时间序列预测技术； 3-主观时间序列预测技术； 当然今天我们主要讨论内生时间序列预测技术——也就是只关注时间序列的下的预测问题！ 从数据分析的角度来考虑，我们需要研究： 时间序列有一明显的特性就是记忆性(memory)，记忆性系指时间数列中的任一观测值的表现皆受到过去观测值影响。 时间序列主要考虑的因素是： 长期趋势(Long-term trend) 时间序列可能相当稳定或随时间呈现某种趋势。时间序列趋势一般为线性的，二次方程式的或指数函数(exponential 。 季节性变动(Seasonal variation) 按时间变动，呈现重复性行为的序列。季节性变动通常和日期或气候有关。季节性变动通常和年周期有关。 周期性变动(Cyclical variation) 相对于季节性变动，时间序列可能经历“周期性变动”。周期性变动通常是因为经济变动。 随机影响(Random effects) 03 时间序列预测技术 预测技术主要包括两大类： 第一：指数平滑方法 描述时间序列数据的变化规律和行为，不去试图解释和理解这种变化的原因。 例如：您可能发现在过去的一年里，三月和九月都会出现销售的高峰，您可能希望继续保持这样，尽管您不知道为什么。 第二：ARIMA模型 描述时间序列数据的变化规律和行为，它允许模型中包含趋势变动、季节变动、循环变动和随机波动等综合因素影响。...