本文转载自公众号:中国内部审计协会

仅作学习研究之用，如涉版权，联系删除

来源于审计观察，作者徐超

随着大数据和人工智能技术的快速发展，为了进一步提高审计工作的效率 和质量，研究人员开始探索新的审计技术和方法，审计大模型方法应运而生。审计大模型方法通过构建大型语言模型和多模态数据模型，对海量数据进行处理和分析，以发现潜在的风险和违法违规问题。目前，一些研发机构已经开发出基于大模型的智能审计系统，可以对财务报表、内部控制、风险评估等方面进行自动化的审计分析和处理。这对于审计大模型的研究具有重要的实践意义和理论价值。然而，审计大模型的研究还处于初级阶段，无论是技术层面还是应用层面，仍然存在不少挑战有待进一步研究。

审计大模型的构建方法

审计大模型是一种基于大数据和人工智能技术的审计方法，它可以提高审计工作的效率和质量，降低审计成本和风险，同时可以帮助被审计单位及时防范和化解风险，保护被审计单位的资产安全和健康运营。审计大模型的构建方法是一个多步骤的过程，涉及数据收集、数据预处理、模型训练、模型评估和调试等多个环节。

数据收集是审计大模型构建的第一步，也是至关重要的一步。数据收集的目的是获取与审计目标相关的各类数据，包括财务数据、业务数据、市场数据等。这些数据可以来自被审计单位的内部系统、外部数据库、互联网等渠道。数据收集完成后，需要对数据进行清洗、去重、标注等操作，以保证数据的质量和可用性。

数据预处理是审计大模型构建的第二步，主要是对收集到的数据进行预处理，包括数据清洗、数据转换、数据归一化等操作。数据清洗可以去掉异常值、缺失值和重复值，保证数据的准确性和完整性。数据转换可以将不同类型的数据进行转换，如将文本数据转换为数值数据，将图片转换为可处理的格式等。数据归一化可以将不同量级的数据进行归一化处理，使得不同类型的数据具有相同的尺度，便于模型的学习和处理。

模型训练是审计大模型构建的第三步，主要使用人工智能算法对预处理后的数据进行模型构建和训练。审计大模型通常采用深度学习算法进行训练，如卷积神经网络、循环神经网络等。通过训练模型，可以让模型自动学习和提取数据中的特征和规律，从而实现对数据的分类、预测和聚类等任务。

模型评估是审计大模型构建的第四步，主要是对训练好的模型进行评估和调试，以保证模型的有效性和稳定性。评估的指标可以包括准确率、召回率、F1值等，通过这些指标可以对模型的性能进行评估。同时，还可以采用交叉验证等方法，对模型进行调参和优化，以提高模型的性能和稳定性。

模型应用是审计大模型构建的最后一步，也是实现审计目标的关键步骤。经过上述四个步骤构建和训练好的审计大模型，可以应用于各种审计场景中，如财务报表审计、内部控制审计等。应用时，需要将审计数据进行预处理和特征工程等操作，然后将数据输入到模型中进行分类、预测等任务。根据模型的输出结果，可以得出审计结论和建议，从而为被审计单位提供决策支持和风险预警。

审计大模型的关键技术

一个完美的审计大模型，需要各种核心关键技术的支撑，主要包括七个方面。

（一）预训练模型

预训练模型是在大规模无标签数据上进行训练，以学习丰富的语言表示。在训练过程中，模型通过预测上下文中的单词或短语来学习语言模式。在应用阶段，预训练模型被用作其他任务的起点，通过微调来适应特定任务。如BERT（一种预训练语言模型）和GPT（生成式预训练模型）系列模型都是在大量互联网文本上进行训练的，以提供对各种NLP（自然语言处理）任务的强大支持。在审计领域，预训练模型可以用于自动化和增强审计人员对财务报告的分析。如可以使用预训练的BERT或GPT-3语言模型来读取和分析被审计单位数据，以寻找潜在的错误或违规行为。

（二）迁移学习

迁移学习是将从一个任务学习的知识应用到另一个完全不同的任务上的过程。这在NLP中尤其重要，因为NLP任务往往具有不同的数据分布和复杂性。使用迁移学习，可以利用在大型数据集上训练的预训练模型，并将其适应特定任务，而无需从头开始训练。这种方法显著减少了训练时间，并允许我们利用大规模数据的好处，即使我们没有特定任务的标记数据。在审计中，迁移学习可以用于将在一个被审计单位或行业中的审计知识应用到另一个被审计单位或行业中。如在审计过程中，由于区域、客户和员工等差异性的存在，每次现场检查需要面对的实际上也是一个新的场景，这个时候就需要具有迁移能力，将现有的模型从原有场景迁移到现有场景，可以大大提高审计工作效率。

（三）微调

微调是一种特殊类型的迁移学习，它专门针对特定的NLP任务进行预训练模型的再训练。微调可以通过调整预训练模型的参数以更好地匹配特定任务的特性，或者通过添加特定任务的额外层来实现。在审计中，微调可以用于调整预训练模型的参数，以更好地匹配特定公司的财务报告格式和语言风格。如可以使用GPT-3模型来自动分析被审计单位的语言文本风格，并对其进行微调以提高模型的准确性。

（四）大模型优化

优化是一种改进模型性能的技术。对于大模型来说，优化尤为重要，因为它们通常需要大量的计算资源和时间来训练。优化的方法有很多种，包括使用更强大的硬件（如更快的CPU、GPU或TPU），使用更有效的算法（如Adam或 RMSProp），或者使用更大的数据集。此外，模型蒸馏也是一种流行的优化技术，它通过将知识从大的教师模型转移到小的新模型上来提高模型的性能。在审计中，优化可以用于提高大模型在处理财务数据时的效率和准确性。如可以使用更强大的GPU和RMSProp优化算法来训练一个深度学习模型，以提高其在处理审计数据时的性能。

（五）模型的压缩和剪枝

模型的压缩和剪枝是提高大模型性能的两种主要技术。模型的压缩可以通过使用更小的网络架构、使用更少的参数、对模型进行量化等方式实现。如MobileNet和EfficientNet等模型就是通过使用更小的网络架构和更少的参数数量来实现高效的模型压缩。模型的剪枝则是通过去除模型中的冗余部分（如不重要的神经元或层）来提高模型的性能。

（六）可解释性技术

由于大模型通常很复杂，所以它们的决策过程往往难以理解。为此，研究人员正在开发各种解释性技术，以帮助理解大模型为什么会做出特定的预测或决策。这些技术包括重要性得分（如 SHAP）、敏感性分析、局部可解释模型（LIME）等。这些技术可以帮助理解模型中的各个特征对预测结果的影响程度，以及模型的决策是否合理。在审计中，解释性可以用于帮助审计人员理解模型的决策过程。如可以使用SHAP等解释性技术来分析一个深度学习模型对被审计单位的数据分析结果，以帮助审计人员理解模型为什么会做出特定的预测或分类。

（七）可扩展性

可扩展性是指随着数据量的增加，模型的性能也会随之提高的能力。这就需要在设计模型的时候就考虑到可扩展性，从而在未来的更大数据集上获得更好的性能。可扩展性可以通过各种方式实现，包括使用更有效的算法、使用更大的硬件资源、使用更好的数据预处理技术等。由于其结构的分层和可扩展性，大模型可以很容易地扩展到更多的计算单位上，并在更大的数据集上继续进行学习。

审计大模型的应用

审计大模型可以通过模型的设计、推演再到应用于现实中，不仅能够进行可行性的验证，还能避免资源的无效投入，同时还可以预测风险和可能性。审计大模型是数字化审计的“发动机”，是审计大数据分析的载体，它在审计工作中的应用主要表现在五个方面。

（一）提高审计工作效率

审计大模型可以通过计算机语言或代码进行构建，并在计算机上运行，获得结果输出。这大大减少了审计人员的工作量，提高了工作效率。

（二）提升审计工作的质效

通过审计大模型的运用，审计人员可以快速地发现数据中的异常和疑点，进而进行更加精准的审核和分析，提升审计工作的质量和效果。

（三）增强审计的预测能力

审计大模型不仅能够对已有的数据进行处理和分析，还能对未来的趋势进行预测。这使得审计工作能够更好地为被审计单位的决策提供依据和支持。

（四）优化审计资源配置

审计大模型的应用可以帮助审计人员更好地进行资源分配，根据数据的重要性和风险程度等因素，合理地分配审计资源，提高资源的利用效率。

（五）强化内部控制

审计大模型可以对被审计单位内部控制的有效性进行评估和检测，帮助被审计单位发现和纠正内部控制中存在的问题，提高被审计单位的治理水平和风险防范能力。

审计大模型的未来发展

审计大模型虽然能够极大提升审计工作的效率，但在应用过程中也存在一定的局限性。首先，它需要处理和分析大量的数据，这需要高昂的算力和时间，同时也需要大量的存储设备和网络带宽。此外，审计大模型需要经过复杂的模型训练和调整过程，这需要耗费大量的人力和时间，同时还需要审计人员具备一定的计算机技术水平和经验。其次，审计大模型方法的可靠性也有待提高。虽然审计大模型已经取得了一定的成果，但仍然存在一些误差和不确定性。如审计大模型可能会忽略某些重要的细节信息或者产生数据偏差，出现“幻觉”，这可能会影响其准确性和可靠性。此外，审计大模型也可能会出现过拟合和欠拟合的问题，这可能会影响其在新的数据集上的表现。因此，在未来的发展中，审计大模型将呈现三个方面趋势。

（一）更加智能化的审计模型

随着人工智能技术的不断发展，未来的审计模型将更加智能化。大模型技术可以通过深度学习和大规模数据处理能力，自动识别出潜在风险和异常，减少人工审计中的疏漏和错误。同时，通过自然语言处理等技术，大模型能够理解并分析复杂的审计问题，为审计人员提供解决方案和建议，实现个性化审计服务。

（二）更广泛的适用范围

随着信息技术的高速发展，审计大模型的应用范围将更加广泛。未来，大模型技术不仅可以应用于财务审计和内部审计，还可以应用于金融、风险、信用、投资等多个领域。同时，随着审计大数据的不断增加，大模型技术可以处理和分析更多的海量审计大数据，进一步提高审计工作的效率和质量。

（三）更高的自动化程度

未来的审计大模型将具有更高的自动化程度。通过自动化和智能化审计工具的应用，审计人员可以减轻工作负担，提高审计线索发现能力。同时，自动化程度的提高，也可以减少人工错误和疏漏，提高审计的准确性、公平性和可靠性。

（作者系南京审计大学研究生院院长、计算机学院（智能审计学院）院长，教授）