#本文仅代表作者看法，未经作者许可，克制转载，不代表IPRdaily态度#泉源：IPRdaily中文网（iprdaily.cn）作者：李晓芳 中国国际商业促进委员会专利商标事务所原标题：通过Dropout论文和专利的对比探讨AI算法相关专利的写作从1956年人工智能这个观点被首次提出以来，人工智能的生长几经沉浮。近几年来，AI相关论文数和专利申请量均出现爆炸式的增长，其中AI相关专利的增长率显著高于论文数的增长率，参见WIPO Technology Trends 2019, Artificial Intelligence。本文通过对AI焦点算法之一——Dropout技术的论文和专利举行对比，来探讨一下AI算法相关专利的写作技巧。I．AI相关论文和专利从1956年人工智能这个观点被首次提出以来，人工智能的生长几经沉浮。

随着焦点算法的突破、盘算能力的提升以及海量数据的支撑，人工智能技术在近十年里迎来了新一次的飞跃。近几年来，AI相关论文数和专利申请量均出现爆炸式的增长，其中AI相关专利的增长率显著高于论文数的增长率，参见WIPO Technology Trends 2019, Artificial Intelligence。人工智能领域的研究偏向涉及多个差别的学科，在应用层面也涉及到多个子领域。几个代表性的分支有例如AI机械学习和基础算法、智能搜索和智能推荐、语音识别、自然语言处置惩罚、自动驾驶及盘算机视觉和图像识别。

其中AI机械学习和基础算法类相比于其他分支，往往涉及算法方面，由于全球的专利法对于算法相关发现都有着特殊的划定，因而这方面的技术在学术论文和专利申请的撰写方面有诸多差别。通常，学术论文是某一学术课题在实验性、理论性或预测性上具有的新的科学研究结果或创新看法和知识的科学记载，或是某种已知原理应用于实际上取得新希望的科学总结，用以提供学术集会上宣读、交流、讨论或学术刊物上揭晓，或用作其他用途的书面文件。

因此，论文可以是完全纯理论的，如数学公式、算法等。而专利权，简称“专利”，则是国家或地域给予专利权人对特定的发现缔造在一定期限内的排他的掩护权。专利法对专利的主题和撰写形式有着特殊的划定。本文通过对AI焦点算法之一——Dropout技术的论文和专利举行对比，来探讨一下AI算法相关专利的写作技巧。

II．Dropout技术Dropout是由台甫鼎鼎的深度学习教父Geoffrey Hinton所提出的一种深度卷积神经网络技术。Geoffrey Hinton由于其对机械学习领域的良好孝敬，获得了2018年度的图灵奖，而Dropout技术被认为是其能够获奖的主要技术成就之一。Dropout是为相识决神经网络的训练历程中泛起的过拟合问题而提出的。在机械学习的模型中，如果模型的参数太多，而训练样本又太少，训练出来的模型很容易发生过拟合的现象。

过拟合详细体现在：模型在训练数据上的预测准确率较高；可是在测试数据上的预测准确率较低。过拟合是许多机械学习的通病。如果模型过拟合，那么获得的模型险些不能用。Hinton提出的Dropout可以比力有效地缓解过拟合的发生，在一定水平上到达正则化的效果。

Dropout简朴一点说就是，在前向流传的时候，让某些节点的激活值以一定的概率p停止事情（输出置零），也不更新权重，其他历程稳定。这样可以让一个神经元的泛起不应该依赖于另外一个神经元，使模型泛化性更强，如下图所示。

Dropout的开山之作揭晓于2012年7月3日，题为《Improving neural networks by preventing co-adaptation of feature detectors》，而对应的US专利为US 9,406,017 B2，其最早的暂时申请的申请日为2012年12月24日，授权通告日为2016年8月2日。该专利没有进入中国，在中国没有相应的专利权。III．论文的公然揭晓日与专利的申请日对于同一个发现，如果既揭晓论文又申请专利，该如何决议二者的递交/揭晓/申请日呢？通常来说，专利的申请日应当在论文公然揭晓日之前，因为专利要获得授权必须具有新颖性，即在申请日前没有相同的现有技术被公然，否则可能会因为时间摆设不妥而导致自己的论文破坏自己的专利的新颖性。

但该专利的申请日在论文的公然揭晓日之后，为什么仍然被授权了呢？这是因为各国对于专利申请都设置了“不丧失新颖性的脱期期” ，即在专利的申请日之前的一段时间内切合一定条件的公然不破坏专利的新颖性，只不外各国对于 “一段时间”的是非和“一定条件”的划定各有差别。中国专利法二十四条划定，在专利的申请日前六个月内，由申请人（发现人）就相同发现缔造在划定的学术集会或者技术集会上首次揭晓的，该专利申请不丧失新颖性。而美国则允许申请人在首次公然该发现内容的1年之内保留专利申请权。

因此，本案例专利的申请日虽晚于论文公然揭晓日，可是在公然揭晓日之后的一年之内，可以适用新颖性的脱期期，也即该论文不会破坏专利的新颖性。IV．AI算法专利的专利掩护客体适格性审查除了公然/申请的时间摆设要适当之外，对于人工智能算法类专利申请而言，在各国专利审查中要面临的最大挑战是专利客体适格性的审查，因为这些算法或盘算机法式往往体现为数学模型或盘算方法，在多数国家都不是专利掩护的客体。中国专利法中涉及的相关条款有专利法第25条第1款第（二）项和第2条第2款。专利法第25条第1款第（二）项划定，智力运动的规则和方法不应被授予专利权。

而且在专利审查指南里划定算法或数学盘算规则不属于专利法掩护客体。专利法第2条第2款划定，专利法所称的发现是指对产物、方法或者其革新所提出的新的技术方案。如果人工智能算法专利申请中仅仅纪录了一种算法，不包罗任何技术特征，则这样的专利申请既有可能因为落入了第25条第1款第（二）项所划定的情况而不属于专利法掩护客体，也有可能因为不属于技术方案而不属于专利法掩护客体。美国专利法中涉及专利客体适格性审查的主要是101条款。

美国专利法第101条划定：“无论是发现或发现任何新的和有用的历程、机械、产物或物质组成，或任何新的和有用的革新，切合本标题的条件和要求，都可以获得专利权。”但属于“司法则外”的自然规则、物理现象、与抽象观点不行以获得专利权。在2014年Alice vs. CLS Bank案后，美国审查指南划定了判断适格专利客体时的两步法，即，步骤1：权利要求是历程、机械、产物或物质组成？步骤2A：确定权利要求是否指向司法则外。

步骤2B：判断权利要求中是否有分外要素（additional elements），足以使整体方案显着多于（significantly more）司法则外。然而该两步法在审查员的实际分析遇到了许多难题，特别是涉及人工智能及机械学习算法的发现，相当一部门该领域的专利申请都因为客体问题被驳回。在这样的配景下，美国2019年头公布了新修改的审查指南。针对专利客体的审查做出了新的划定，将步骤2A分成两小步Prong1与Prong2。

如下图所示。首先评估权利要求是否引用了司法则外的情况（2019年指南中枚举的抽象观点、自然规则或自然现象）。若权利要求没有引用任何的“司法则外”，则切合专利客体要求。如果引用了“司法则外”，请转到Prong2步骤。

在Prong2步骤，评估权利要求是否纪录了将“司法则外”整合到实际应用的其他元素。若所述破例被整合到实际应用中，则该权利要求是适格的专利客体。若“司法则外”没有整合到实际应用中，权利要求将指向到“司法则外”，转到步骤2B举行进一步分析。

对于本案例的专利来说，其授权的权利要求1为：1. A computer-implemented method comprising:obtaining a plurality of training cases; and training a neural network having a plurality of layers on the plurality of training cases, each of the layers including one or more feature detectors, each of the feature detectors having a corresponding set of weights, and a subset of the feature detectors being associated with respective probabilities of being disabled during processing of each of the training cases, wherein training the neural network on the plurality of training cases comprises, for each of the training cases respectively:determining one or more feature detectors to disable during processing of the training case, comprising determining whether to disable each of the feature detectors in the subset based on the respective probability associated with the feature detector,disabling the one or more feature detectors in accordance with the determining, andprocessing the training case using the neural network with the one or more feature detectors disabled to generate a predicted output for the training case.通过检索该专利在USPTO的审查历史，我们发现这个专利在审查阶段并没有被指出过客体问题，而仅仅是在第一次审查意见通知书中被指出了缔造性问题，申请人通过一次修改和回复，即被授权。这说明美国审查员认为权利要求是通过了专利客体适格性审查的。我们试着根据USPTO的修改前的审查指南来对本专利举行一下专利客体适格性判断。首先，在步骤1中确定权利要求是一种历程。

然后举行到步骤2A，由于权利要求中包罗训练神经网络，属于抽象观点，那么在审查时会判断权利要求指向司法则外。接下来关键的是步骤2B能否得出权利要求中是否有分外要素足以使整体方案显着多于司法则外。

由于在步骤2B的判断中涉及对发现构想（inventive concept）的判断，因此往往需要通过联合说明书来举行此步骤。我们发现权利要求1中的特征检测器（feature detector）可以被认为是处置惩罚“节点”，一个或多个处置惩罚节点可以被实施为处置惩罚器。进一步，权利要求中的禁用（disabling）的步骤是通过在传统神经网络中引入了新元素，即开关（switch）和随机数发生器实现的。

而且说明书还纪录了本发现可以用于图像分类、工具识别和语音识别等实际应用，通过本发现的新的结构和流程可以在提高对测试数据的预测准确率的同时淘汰提高效率和淘汰时间。通过这些内容，可以得知该权利要求与仅由盘算机实现的抽象观点相比满足了“显着多于”的要求。V．AI算法专利的写作技巧通过以上分析可以看出，对于算法或盘算规则相关的发现缔造，只要撰写恰当，是可以申请专利并有望获得授权的。

署理师在撰写AI算法相关专利申请时可以思量以下几个方面。首先，纪录实现算法的硬件情况，例如添加处置惩罚器、存储器等硬件部件。

就本案例来说，专利在说明书文字部门和附图都明确纪录了整个系统包罗处置惩罚器和存储器。而论文则无此要求。本案例的论文仅仅说明晰算法的原理和用差别的样本数据和测试数据的实验效果，完全没有提到硬件情况。

虽然中国专利法和审查指南对于硬件情况没有硬性要求，写成虚拟的软件模块只要切合审查指南第二部门第九章的要求也具备授权可能性。然而如果要去其他国家和地域申请专利，则必须要思量这个问题。好比美国专利实践就倾向于掩护有形的产物，由虚拟模块组成的产物往往会被认为得不到说明书的支持，因此，如果专利申请想要在美国获得授权，最好形貌算法实现的硬件情况。

此外，中国的专利审查指南在2017年4月1日修改之后，也允许处置惩罚器+存储器的形式。预计以后硬件结构+软件指令的权利要求形式和硬件情况的说明书撰写方式在中国也越来越成为主流。

第二，将算法转化成流程步骤，并在系统结构中增加算法的执行部件。以本案例来说，创新点在于使得某些节点的激活值以一定的概率p停止事情。对于论文来说，原理部门写到这里就够了，本论文中并没有纪录详细的实现流程或部件，而是把重点放在了使用种种样本集和测试集的实验效果上。

可是对于专利来说，所关注的是这样的构想如何详细实现的，因此在申请文件中必须写明详细的实现流程或部件。在本专利中，说明书在系统结构的形貌中写明晰本发现是通过增加了一个开关（switch）和一个随机数发生器实现的。

开关可以根据学习的或预设置的概率选择性地禁用神经网络中的特征检测器。随机数发生器毗连到开关而且为开关提供使开关禁用特征检测器的随机数。而开关和随机数发生器这样的部件在论文是完全没有泛起过的，是为了切合专利申请的要求缔造出来的。

说明书在还根据训练神经网络的算法流程，撰写了方法步骤，包罗禁用特征检测器、处置惩罚训练实例、正则化权重、处置惩罚测试集，参见图2和说明书相关文字纪录。合适的方法流程步骤对于明白AI算法的发现构想和切合专利撰写和审查要求是必须的。

第三，将算法与实际应用场景联合。美国新修改的审查指南在专利客体适格性判断的步骤2A中的Prong2步骤明确划定，如果权利要求纪录了将“司法则外”整合到实际应用的其他元素，则该权利要求是适格的专利客体。

中国的审查指南虽未明确划定，可是在第二部门第九章也划定了，如果涉及盘算机法式的发现专利申请的解决方案执行盘算机法式的目的是解决技术问题，在盘算机上运行盘算机法式从而对外部或内部工具举行控制或处置惩罚所反映的是遵循自然纪律的技术手段，而且由此获得切合自然纪律的技术效果，则这种解决方案属于专利法第二条第二款所说的技术方案，属于专利掩护的客体。所说的对外部工具的控制或处置惩罚包罗对某种外部运行历程或外部运行装置举行控制，对外部数据举行处置惩罚或者交流等；所说的对内部工具的控制或处置惩罚包罗对盘算机系统内部性能的革新，对盘算机系统内部资源的治理，对数据传输的革新等。

这些划定也暗含了盘算机软件应当与详细的应用场景（内部工具或外部工具）联合。况且在实践中，审查员在思量客体适格性时，实际应用场景是很是重要的一个考量因素。

就本案例来说，由于论文通常要求作者详述实验效果，因此在论文中已经纪录了应用在语音识别和图像识别方面的结果。在专利申请中应当将这些实际应用纪录在其中，同时还应当写明技术效果。虽然专利申请不需要像论文那样写明详细的参数和详细的实验效果，可是一个概述的技术效果，对于专利客体适格性的评估有着很是重要的影响，尤其是联合实际应用场景的效果。

例如，专利说明书中纪录本发现可以提高对语音识别或图像识此外测试集的识别性能，而且还提高了效率和淘汰了时间。这些技术效果的纪录可能是本专利被认为是适格的专利客体的重要依据。最后，在最近这次AI技术起飞之前或之初，外洋的巨无霸科技企业，如谷歌、微软、IBM等已经结构了许多AI相关专利，有的甚至是特别基础的AI算法专利，例如本案例涉及的Dropout算法。因此，我国的大学、科研院所和企业在揭晓学术论文的同时，也要注意举行相应的专利结构，特别要注重高价值和基础技术专利在全球的合理结构，使我国能够在此次全球AI技术革新中占得一席之地。

泉源：IPRdaily中文网（iprdaily.cn）作者：李晓芳 中国国际商业促进委员会专利商标事务所编辑：IPRdaily王颖 校对：IPRdaily纵横君。

本文来源：华体会体育-www.djdianlu.com