高校生成式人工智能教学风险分级治理研究——基于规范文本编码

摘要

生成式人工智能进入高校教学后，传统以“允许使用”或“禁止使用”为核心的二分治理方式，已难以回应不同教学任务、不同技术介入程度和不同评价责任中的差异化风险。针对既有研究中风险等级划分依据不足、治理框架与风险评估结果衔接不够紧密等问题，本文借鉴风险管理的流程思想，基于国家政策文本、国际组织指南和国内外高校公开人工智能教学规范文本，构建小型公开规范文本数据集，并从使用场景、披露要求、责任归属、评价方式、数据安全和违规处理六个维度进行显性编码。在编码结果基础上，本文将高校生成式人工智能教学应用风险归纳为学习替代风险、评价失真风险、数据安全风险和责任失序风险四类，并以文本关注强度作为风险可能性的代理指标，以教学后果影响强度作为风险严重性的判断依据，运用风险矩阵形成可追溯的风险等级评价。研究发现，评价失真风险处于重大风险等级，学习替代风险、数据安全风险和责任失序风险处于重要风险等级。高校应依据风险等级和技术介入方式建立分级治理机制，形成低风险任务开放使用、中风险任务披露使用、高风险任务过程审查、极高风险任务严格限制的治理路径。