略谈图书馆智慧服务管理因应之策——从《生成式人工智能服务管理暂行办法》颁行谈起

许建业

人工智能作为引领新一轮科技革命和工业革命的重要驱动力，正在深刻改变着人们的生产、生活、学习方式。随着生成式人工智能技术的兴起，其对公共文化领域各类服务、运营业务和用户体验的潜在影响正逐渐显现。作为社会记忆的知识存贮机制和公共文化服务重要组成部分的图书馆事业，在生成式AI 时代所面临的挑战与机遇不言而喻。根据第十届海峡两岸玄览论坛的主题并结合工作实际，本人拟从国内新近颁布的《生成式人工智能服务管理暂行办法》[1]研习角度，略谈图书馆智慧服务管理因应之策，以就教于方家。

1 人工智能正在塑造人类的未来

人工智能（Artificial Intelligence，简称AI）是指通过普通计算机程序来呈现人类智能的技术。AI 核心问题包括建构能够跟人类相似甚至超越的推理、知识、规划、学习、交流、感知、移物、使用工具和操控机械的能力等。经过数十年来的探索实践，人工智能已成为引領新一轮科技革命和产业革命的重要驱动力，正深刻改变着人们的生产、生活、学习方式，推动人类社会迎来人机协同、跨界融合、共创分享的智能时代。

尽管存在着道德、隐私、安全和偏见等多重社会问题，然而作为历史上最重要的技术进步之一的人工智能，本质上是一场挖掘人类潜能的运动。通过信息互联、泛在感知、数据关联、资源整合、网络协同、个性定制、全媒体传播及深度延展，人工智能必将推动包括图书馆行业在内的社会服务个性化、精准化、智慧化。

1.1 人工智能技术在图书馆领域应用之现况

图书馆作为社会记忆的知识存贮机制，履行着人类文明传承与发展的重要职能。人工智能技术在图书馆领域的持续运用，为图书馆的优化管理和服务效能的提升累积了经验。迄今，应用研究热点包括：人工智能在信息检索中的应用研究、人工智能在社交媒体用户内容分类及情感分析中的应用研究，以及人工智能在知识问答中的应用研究等。

1.1.1 国外图书馆相关实践

主要通过设立图书馆人工智能实验室、实施人工智能教育培训，为用户提供3D 打印、虚拟现实等技术共享访问，定期举办人工智能程序设计、机器人技术改进、智慧城市建设研讨等开展实践。代表性案例有：1991 年美国加州州立大学北岭校区率先使用图书馆立体书库自动存取系统（ASRS）；德国洪堡大学和日本大阪市立大学图书馆运用AGV 创建的机器人，实现图书搬运和放置自动化；新加坡国家图书馆与新加坡科技研究局合作研发的机器人AuRoSS 可实现在馆内自我导航，通过扫描图书RFID 标签，自动生成缺失的和不按顺序摆放图书的检查报告等。

1.1.2 国内图书馆实践例证

国内图书馆界较多集中在智能图书馆建设和智慧服务研究方面。据杨子帅等人曾对国内96 所图书馆开展的调查显示，39%的馆应用了人工智能技术，其中虚拟参考咨询机器人使用率为21%，图像识别系统使用率为21%。部分图书馆逐步使用实体化智能机器人，如南京大学图书馆研发的“智能图书盘点机器人”可自动快速识别图书信息及所在架位信息，并完成自动上架;另一台咨询服务机器人“图宝”可提供咨询服务，包括迎宾引路、信息识别和中英文交流等。上海图书馆使用馆员机器人“图小灵”，主要在办证处和中文书刊外借室接受读者咨询。国家图书馆智能机器人“小图”拥有听、说、视觉、运动和双屏互动显示能力，具有人脸识别、迎宾讲解、智能交互、书籍检索、读者卡信息查询等功能。此外，湖北省图书馆、沈阳市图书馆、浙江大学图书馆、南京图书馆等也在各自业务及相关服务中相继使用了智能机器人。

1.2 生成式人工智能技术对图书馆发展将产生革新性影响

生成式人工智能作为一项基础技术，未来将会影响各领域、各行业。与所有基础技术运动一样，人工智能工具也是建立在硬件基础设施之上。随着生成式人工智能技术的深度应用，由此引发图书馆的文献资源重整、人力资源优配、服务空间再造、读者需求细化、品牌活动集聚、业务管理优化、社会力量参与、办馆效益提升等系列变化也将陆续呈现。

据北美研究图书馆协会（ARL）于2023 年4 月开展的一次内部专题调查，参与调查的馆长们预计生成式AI 应用对于包括元数据生成、研究发现工具和用户服务等在内的业务均有影响，生成式AI 还会在信息滥用、偏见和版权等方面产生潜在挑战，其对于学术诚信、出版发行、作者身份及科研活动的影响将持续显现[2]。调研显示，图书馆可以加强其信息素养教育，以协助其用户理解和评估AI 所生成的信息。为此，重视馆员的AI 知识、开发关于AI 的新型素养、对员工进行再教育及相关研讨，都是作为研究机构的图书馆以AI 时代领航者身份发挥领导作用的机会[3-6]。

为促进生成式 AI 成功整合进图书馆业务，研究型图书馆启动了相关人力资源研究与评估计划，其过程涉及技能评估、延聘人才、与馆外专家合作，培训现有工作人员处理基于AI 的相关事务。通过将自身定位为其所在组织的资源提供者，图书馆在塑造校园的AI 政策和实践方面扮演着关键角色。随着研究型图书馆不断围绕生成式AI 开展研究、试点运行、发起新倡议及推出新服务，有助于其他图书馆运用AI 方面做出明智的决策。

2 《生成式人工智能服务管理暂行办法》要点解析

2022 年末，由OpenAI 研发的ChatGPT 一经发布，瞬即引发全球对于生成式人工智能领域的广泛关注。生成式人工智能技术，是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术。生成式AI 的异军突起在催生新场景、新业态、新模式和新市场方面固然令人振奋，然而在为使用者提供便利与创新可能性之外，其所带来的安全风险的确不容小觑。面对传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等社会问题，意大利、德国、法国、西班牙等国数据保护监管机构对ChatGPT 表达了担忧或发起调查。因此，适时界定生成式人工智能技术内涵与外延、有效规定生成式人工智能服务提供者的制度要求，对于促进生成式人工智能健康发展和规范应用是十分必要的。

2023 年4 月11 日，国家网信办就《生成式人工智能服务管理办法（征求意见稿）》公开征求意见。2023 年7 月13 日，该办联合与国家发改委、教育部、科技部、工信部、公安部、广电总局正式发布《生成式人工智能服务管理暂行办法》并于8月15日起施行。该办法的颁行，标志着国家层面对立法规制人工智能领域必要性和紧迫性的认识，旨在促进生成式人工智能的健康应用与规范管理，维护国家安全和社会公共利益，保护公民、法人和其他组织合法权益。该办法共五章（包括总则、技术发展与治理、服务规范、监督检查和法律责任、附则），计二十四条。强调坚持发展与安全并重、促进创新和依法治理相结合的原则，对生成式人工智能服务实行包容审慎和分类分级监管，明确了提供和使用此类服务的总体要求，提出了促进技术发展的具体措施，确认训练数据处理活动和数据标注等要求；规定其服务规范，明确服务提供者在防范未成年人用户过度依赖或者沉迷此服务的应对措施。还规定了安全评估、算法备案、投诉举报等制度，明确了法律责任。

该办法从规范体系、适用范围、价值立场、责任主体等方面搭建了生成式人工智能服务监管框架。其要点体现在: （1）包容审慎和分类分级的监管原则；（2）安全评估和算法备案流程；（3）服务提供者的责任和义务；（4）境外服务提供者及外商投资规定；（5）训练数据和模型改进的相关要求。简言之，生成式人工智能服务的发展与治理需要政府、企业、社会、网民等多方参与，共同促进生成式人工智能健康发展，让生成式人工智能技术更好地服务大众。

3 生成式人工智能时代图书馆智慧服务管理的因应之策

人工智能技术的持续演进，对于当下智慧图书馆体系建设既是深刻的挑战也是重要的机遇。除了在战略层面上积极争取国家及地方政府发展政策措施支持之外，更需要我们图书馆管理者、研究者和工作者以良好心态与职业素质主动融入人工智能时代。依据《生成式人工智能服务管理暂行办法》，围绕生成式AI 技术应用，图书馆智慧服务管理似应采取以下因应之策。

3.1 关注具体业务场景下不同主体的合规义务

随着生成式人工智能技术在各行业各领域的创新试用，将会产生多样化的合作模式。实务中，AIGC的服务提供者可能引入第三方技术，以向服务使用者提供服务[3-4]。为此，图书馆应系统梳理和明确相关合作模式，进而对业务场景和数据流向进行明确界定，对应落实不同业务场景之下的主体义务。

3.2 加强对服务项目内容合规评估与风险管理

首先，对生成与传播内容进行合规性评估。除了《暂行办法》明确要求的合规性评估，图书馆应尽可能避免依据生成式人工智能内容直接进行决策或采取行动，重要事项上建议以对输出内容进行人工审核，并采取有效措施提高生成内容的准确性和可靠性。其次，强化对信息服务中生成内容的主动标识。提供者应根据《深度合成规定》对生成的图片、视频等内容进行标识，制定符合要求的清晰、具体、可操作的标注规则；开展数据标注质量评估，抽样核验标注内容的准确性；对标注人员进行必要培训，提升尊法守法意识，监督指导标注人员规范开展标注工作。对使用其服务生成或者编辑的信息内容，应当采取技术措施添加不影响用户使用的标识，并依法依规保存日志信息。提供智能对话、合成人声、人脸生成、沉浸式拟真场景等具有生成或者显著改变信息内容功能服务的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识；提供非前述深度合成服务的，应当提供显著标识功能，并提示使用者可以进行显著标识。

3.3 注重图书馆用户的信息权益保护

第一，建立切实可行的个人信息保护机制。严格履行对读者用户的输入信息和使用记录的依法保护义务与责任，依法及时受理和处理个人关于查阅、复制、更正、补充、删除其个人信息等的请求。第二，设置未成年用户防沉迷机制。图书馆就明确并公开其服务的适用人群、场合、用途，指导使用者科学理性认识和依法使用生成式人工智能技术，采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。第三，设置用户投诉、举报通道，建立健全投诉举报机制，设置便捷的投诉、举报入口，公布处理流程和反馈时限，及时受理与处理公众投诉举报并反馈结果。

3.4 配合监管机构落实合规义务

首先，进行安全评估与算法备案。图书馆针对具有舆论属性或者社会动员能力的生成式人工智能服务的，应按国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。其次，建立违规行为响应与报告机制。图书馆对于所提供服务中发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施，采取模型优化训练等措施进行整改，并向有关主管部门报告。若发现读者利用生成式人工智能服务从事违法活动的，应当依法依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施，保存有关记录，并向有关主管部门报告。再次，配合监管机构的监督检查。针对主管部门依据职责对生成式人工智能服务开展的监督检查，图书馆应当依法予以配合，按要求对训练数据来源、规模、类型、标注规则、算法机制机理等予以说明，并提供必要的技术、数据等支持和协助。

4 结语

具有文本、图片、音频、视频等内容生成能力的模型及相关技术，构成了生成式人工智能技术服务基础。在公共文化服务大数据应用及特定场景方案运用基础上，其为图书馆智慧服务提供了诸多可行性及便利条件，但也不可否认会带来相关社会问题。正确处理好人力、数据、算法、知识产权等方面的关系，对于促成人机融合的智慧服务体系、实现人工智能社会价值的理性回归，显然是极为重要的。随着生成式人工智能技术不断迭代，可以预见其服务应用场景将更为丰富，后续的监管挑战与合规要求也将更为细化，图书馆智慧服务与管理必将与时俱进。