1 分钟 get 什么是训练数据
算法从数据中学习。算法从得到的训练数据中找到关系,形成理解,做出决策,并评估信心。训练数据越好,模型的表现就越好。
实际上,与算法本身一样,训练数据的质量和数量与数据项目的成功有很大关系。
现在,即使您已经存储了大量结构良好的数据,它也可能并未以某种作为模型训练数据集的方式进行标记。例如,自动驾驶汽车不仅需要道路的图片,还需要带标记的图片,其中所有的车、行人、街道标志都要有标注。情绪分析项目需要用标签来帮助算法理解某人何时在使用俚语或讽刺。聊天机器人需要实体提取和仔细的语法分析,而不仅仅是原始语言。
换而言之,您想要用于训练的数据通常需要进行充实或标记 #数据标注与人工智能训练 #。另外,您还可能需要收集更多的数据来支持算法。您存储的数据很有可能并未准备好用来训练机器学习算法。
要建立一个好的模型,就需要一个可靠的基础,这意味着需要大量的训练数据。
训练数据常见问题
什么是训练数据?
神经网络和其他人工智能程序需要一组初始数据,称为训练数据,作为进一步应用和使用的基础数据。这些数据是该程序不断增长的信息库的基础。
什么是测试集?
在训练集上对模型进行训练后,通常会在测试集上对其进行评估。通常,虽然应该对训练集进行标记或充实,以提高算法的置信度和准确性,但测试集都是从同一个数据集中提取的。
如何将数据集划分为测试集和训练集?
通常,训练数据要或多或少地随机分配,同时要确保捕获您预先知道的重要类别。例如,如果您要创建一个模型,它可以读取来自各种商店的收据图像,您会希望避免只使用某一家特许经营商的图像训练您的算法。这将使您的模型更加可靠,并有助于防止过度拟合。
有多少训练数据就足够了?
关于需要多少训练数据的问题,实际上并没有严格的规定。毕竟,不同的用例需要不同数量的数据。如果需要模型非常可靠(如自动驾驶汽车),就需要大量数据,而基于文本的狭隘情绪模型需要的数据则要少得多。不过,一般而言,您需要的数据比您假设的要多。
训练数据和大数据有什么区别?
大数据和训练数据不是一回事。Gartner 称大数据具有“高容量、高速度和/或高多样性”等特点,通常需要以某种方式处理才会真正有用。如前面所述,训练数据是用于教授人工智能模型或机器学习算法的标记数据。
版权声明: 本文为 InfoQ 作者【澳鹏Appen】的原创文章。
原文链接:【http://xie.infoq.cn/article/67936d82e00c5abb736678e36】。文章转载请联系作者。
评论