秒变AI算法专家，还完全免费！这个国际开源AI平台真香（ai开放平台算法工程师）
智东西（公众号：zhidxcom）
作者 | ZeR0
编辑 | 漠影
智东西5月10日报道，近期，一个规模化AI模型生产平台在Github悄然上线。
这个平台叫AI SUITE – YMIR（中文名：挖米匠），能以无代码开发方式，实现数据管理、数据挖掘、模型训练、模型验证等功能。
由于各功能均已开源，你既可以用这个平台高效训练出AI模型，也可以按需任意修改代码，并且无论是个人使用或商用，都完全免费！
其核心发起人阵容亦相当吸睛，有多位知名国际AI大牛，包括：云天励飞首席科学家王孝宇；美国硅谷NEC实验室媒体分析部主管、UCSD教授，印裔科学家Manmohan Chandraker；前谷歌、亚马逊、Snap机器学习研究员，硅谷初创公司Heali联合创始人、首席AI官，法裔科学家William Brendel等等。
▲云天励飞首席科学家王孝宇（图左），印裔科学家Manmohan Chandraker（图中），法裔科学家William Brendel（图右）
王孝宇告诉智东西，有多家美国科技巨头公司的首席AI官担任这个开源项目的顾问。
此前，YMIR主要发起人撰写的论文《YMIR: A Rapid Data-centric Development Platform for Vision Applications》已被国际顶级机器学习会议NIPS 2021收录。
▲YMIR论文
除了大牛云集外，在上手试用YMIR平台后，智东西的感受是，对于有一定编程基础的开发者而言，这个平台绝对会带来生产力的飞跃。
曾经TensorFlow、PyTorch等开源框架，掀起了AI开发普及的盛世，那么如今这些国际AI大牛发起的开源AI基础软件平台，又能带来哪些改变？
相比此前已有的AI模型开发平台，YMIR有哪些独特优势？它通过怎样的核心技术，来满足在真实业务场景中大批量生产模型的需求？
带着问题，智东西联系到了YMIR平台的几位发起人和核心研发成员，挖掘其背后的技术真经。
YMIR项目链接：http://www.viesc.com/
Github传送门：https://github.com/IndustryEssentials/ymir
YMIR论文链接：https://arxiv.org/pdf/2111.10046.pdf
一、免费的产品级开源工具：降低企业AI开发门槛
为什么国际AI科学家们，要联合发起这样一个开源AI模型生产平台？
云天励飞首席科学家王孝宇是YMIR平台的核心发起人之一，据他回忆，发起YMIR的初衷，是希望通过开源AI系统能力，让每一家企业都能拥抱AI，加速AI产业化、平民化。
未来AI会渗入各行各业，AI能力或AI思维将会成为一个从业者需具备的基本素质，但因资源有限，每个企业都招聘很多博士去做AI开发是不现实的。
这也是YMIR核心发起团队的共识：加速AI普及，一定需要一个开源平台，来帮助AI企业低门槛、高质量地完成AI开发。
▲YMIR主页
就像40年前，使用电脑是一项专业技能，而随着Windows操作系统、Office办公软件等工具地发展，如今基本受过高等教育的人都会使用电脑。
AI亦是如此，要从早期过程不标准化、对人才专业度要求高的“快糙猛”研发方式，过渡到大规模应用于各垂类行业阶段，搭建系统性能力平台至关重要。
“业内 虽然已有不少开源项目，但还缺少针对算法研发全流程工作的产品级开源工具。”王孝宇说。
AI算法开发是一整套专业研发环节的组合，包括数据标注、计算框架、神经网络设计、数据挖掘设计等等。这些工作通常需要AI专业的硕士或博士通过编程进行每个环节的设计，并手动将这些环节连接起来形成一整套研发流程。
如果缺乏开源易用的工具，那么高质量的AI研发就只能是“专家的事”。
YMIR团队对国内外的模型生产工具做过详细调研，他们发现，这些工具的开发多由科学家或科研人员主导，缺乏对产业认知，无法真正解决业界痛点。
“算法的研发是持续的过程。”王孝宇说，“根据我们的经验，第一次训练的模型是百分之百不能满足业务需求的，你必须在客户现实的场景中去迭代模型，才能达到业务所需的目标。”
但当前许多模型生产工具都是“一次性”、“理想化”的，训练一遍就不再动了，等模型被用到实际场景，很可能出现偏差。
而YMIR项目由一帮有丰富产品经验的AI算法开发人员参与，他们将此前的经验以数据、流程等可视化的形式沉淀积累，通过流水线流程设计，让AI开发的工作效率飞速转起来。
“以前这么多人可以干一件事情，现在这么多人可以干十件事情，效率更高。”王孝宇说。
无论是小型AI公司，还是有AI开发需求但缺少AI研发人才的企业，都能免费使用这一开源平台，针对目标场景，训练出满足需求的专用AI模型。
据YMIR核心研发成员胡文泽博士透露，一些AI芯片公司也在投入人力向YMIR提交代码，从而批量化生产模型，满足研发芯片期间测试特定算法的需求。
这样一来，高精度AI模型开发，不再只是AI专家的独享技能。
▲YMIR团队分享的一个简短背景介绍视频
二、亲自上手：“挖掘-标注-训练”循环，高精度模型训练的有效飞轮
智东西试用后，感觉YMIR极易上手，整个过程无需敲入代码，只用进行鼠标点击或拖拽，每个步骤都有清晰的指引，而且可视化显示界面很方便用户对数据和模型的管理和查看。
YMIR采用项目制管理设计，覆盖了典型AI模型开发过程中端到端的全流程步骤，通过将训练流程标准化和可视化，为数据处理、模型训练、模型评估、模型迭代等业务需求提供一站式服务。
下面我们展示YMIR系统的几个主要用户界面。
在使用YMIR前，你需要先准备好数据集，并安装好英伟达驱动环境，然后就可以进行数据集导入了。
▲界面1：数据集导入
需注意的是，当你导入带标注文件的数据集时，要确保标注类型属于系统已有的标签列表，否则需先进入标签管理界面，添加自定义标签。
完成该任务后，页面会指引进入数据标注步骤。
YMIR支持使用开放的LabelFree标注工具，提供有一键标注服务，对数据集大小、用户数量、项目数量等均无限制。你也可以外接其他标注工具。
▲界面2：LabelFree数据标注
胡文泽告诉智东西，经过其内部测试，YMIR可支持数百万级数据规模的目标检测任务。
深度学习训练需要对大量的数据进行标注，如果全部由人工进行标注，人力和时间成本都很高。
而YMIR平台采用主动学习的方法，通过挖掘、标注和重训练的循环，比将全部数据标注后再训练的方法更加高效，减少了对低质量数据的标注成本。
下图所示是数据挖掘界面。
▲界面3：数据挖掘
在AI模型开发周期中，模型迭代占据90%以上的时间，而数据迭代是模型迭代的关键部分。
YMIR提供的数据集版本管理功能，能自动生成数据集版本，并记录每次对数据集的操作，完整追踪数据集的迭代，对有大量数据挖掘的研发非常友好。
在模型训练界面，你可以清晰地看到训练进度以及一些关键参数。
▲界面4：模型训练
每次模型训练后，YMIR还可以对模型结果进行验证，即通过可视化方式查看模型在真实图片中的表现。如果达到预期，即可下载模型；如果需继续使用该模型挖掘，则可进入下一轮的“挖掘-标注-训练”循环，直至达到预期效果。
▲界面5：模型验证
YMIR以模型与数据集的迭代为核心目标来设计，一套流程走下来，不仅能针对业务场景持续提高模型性能，还能提高开发效率，降低研发门槛。
YMIR核心开发者黄轩介绍，过去用传统研发方式，大概至少需1个月迭代1次数据和模型，现在用YMIR平台1周就能迭代2次。
以前经验丰富的AI算法工程师才能完成的工作，现在，只要具备计算机操作知识，你就能用YMIR平台实现类似的高精度模型结果。
为什么YMIR在降低操作门槛的同时，能确保没有在产出模型质量上做妥协？
我们将在下一章节做进一步解读。
三、数据驱动，满足实际业务场景训练需求
针对不同应用场景，YMIR如何做到发挥稳定地训练出高精度模型？
这主要得益于YMIR采用的数据处理方式。
YMIR是一个数据驱动的AI训练平台，与模型驱动的训练方式相比，在面对具体任务时，往往能更为快速地在目标场景中，迭代出高精度的AI模型。
模型驱动的显著特征是当模型足够准确时，其结果在绝大多数情况下可达到预期甚至取得最优。但在实际应用中，即使对一个具体任务进行精确实验室建模，其也极难在应用场景中达到预期。
而数据驱动的方式，是让模型在数据中不断校验调优，最终得出符合预期需求模型的过程。
这解决了业界的一个主要痛点：模型需要持续迭代。
早在2015年，机器学习泰斗、斯坦福大学教授吴恩达（Andrew Ng）就在演讲中提到“公司的壁垒不是算法，而是数据”。
他认为，要打造一款AI产品，需要让算法利用足够的数据，使得产品运行起来，然后通过产品来获取用户，用户再提供更多的数据……周而复始。
吴恩达预言，在未来的AI研发中，数据迭代带来的性能提升，将大大超过模型架构本身的演进带来的性能提升。
而YMIR的核心理念，便是依靠产品级模型生产流水线平台，以主动学习、数据驱动方式，让更多不具备专业知识和经验的人参与到算法开发中，从而加速AI技术和应用的繁荣。
▲一个典型的YMIR工作流程
YMIR平台先用少量已标注数据训练出一个初始模型，再用该模型从海量数据中挖掘出对优化模型最有利的数据，然后仅针对这些高质量数据进行标注，实现对原本的训练数据集进行高效扩充。
接着，该平台使用更新后的数据集再次训练模型，如此循环往复，模型的质量就会不断提升。
由于YMIR各功能都是开源的，你可以将自己开发的工具对接到YMIR平台提供的开放API，也可以按照自己的想法修改代码，包括数据存储、模型训练、标注工具、可视化界面等等。
据了解，YMIR也参与了云天励飞获得2021年吴文俊人工智能科技进步一等奖的项目，是实现模型快速迭代平台的关键组成。
YMIR核心开发成员向智东西透露，目前已有超过20家机构申请试用YMIR平台。
结语：以开源强化AI生产力
边际成本是未来十年AI行业的竞争核心要素。目前，AI模型通用性低导致的项目碎片化、交付效率低是行业的普遍痛点。未来高效率、低成本边际成产AI算法将成为行业的竞争焦点。
而拥有流程化、一站式、开放设计、无代码、开源免费五大特点的YMIR平台，对推动AI模型生产更加高效低质的目标，起到积极的推进作用。
总体来说，YMIR平台的使用门槛很低，采用RPA流程化思维设计，一站式覆盖AI模型生产的整个生命周期，支持无代码开发，不需要使用者具备专业AI技能，并且个人、企业均可免费使用不受限。
有编程基础的开发人员，不妨申请试用，也可以参与到这个国际开源社区中交流，或许能被启发或贡献一些新的想法，助力优化AI模型生产流程。
YMIR试用申请地址：https://github.com/IndustryEssentials/ymir#12-apply-for-trial
