缪欢 王婕｜挑战与回应：人工智能赋能家暴治理的规范化进路

人工智能的快速发展为家庭暴力防治开辟了破局之路，但其开发应用仍面临着严峻的规范化挑战。本文从审判实践需求与技术风险规制的双重视角出发，深入探讨了人工智能赋能家暴治理的现实困境与制度挑战。为化解算法治理危机，减少侵犯个人权利以及缺乏自由裁量等风险，必须重塑人工智能赋能家暴治理的价值框架，通过构建以法治为核心的人工智能治理机制，依托大语言模型及区块链技术，建立可靠数据源、实现数据融合，并以协同治理和监督机制“提质增效”，推动人工智能在家暴防治领域实现“技术善治”的终极目标，不断提升反家暴工作的治理成效。

家庭作为社会结构中的基础单元，其稳定对社会的发展至关重要。随着2016年反家庭暴力法的实施，2022年最高人民法院《关于办理人身安全保护令案件适用法律若干问题的规定》的出台，至2024年12月《关于加强家庭暴力告诫制度贯彻实施的意见》的发布，我国反家暴法律体系日渐完善，在防治家庭暴力、保护公民人身权利方面迈出了坚实的法治化步伐。但立法完善并不等同于治理有效。当前，反家暴工作面临着取证困难、协作不畅等诸多困境，生成式人工智能的突破性发展为家暴治理带来了新的机遇。人工智能的本质是算法与大数据，通过对大量数据的学习、分析和训练以及对算法模型的优化处理，人工智能可以实现对复杂任务的精准决策。借助人工智能的大语言模型及区块链等技术，针对涉家暴行为的数据分析实现风险预警，从而有效化被动为主动，化事后惩罚为事前预防，最终实现技术善治。

一、人工智能赋能家暴治理的需求与困境

以上海法院为例，通过智能和人工筛除相结合的识别方式，初步检索和分析近三年来（2022年1月1日至2024年12月31日）相关裁判文书，能一窥人工智能赋能家暴治理的现实需求与目前存在的问题。

（一）家暴行为的隐蔽性、复合性致使受害人举证不能

以离婚纠纷为例，在已检索的一审涉家暴民事判决中，超过70%的当事人都表示遭受过家庭暴力，也因此将“家庭暴力”作为提起离婚的理由之一。但是，绝大部分案件中的“家庭暴力”并未得到认定，当事人败诉的理由多为证据不足。

究其原因，一方面是因为家暴行为多发生于家庭内部私密空间，本身具有极强的隐蔽性和突发性，肢体伤害以外的精神摧残、经济剥削等非物理暴力行径难以留痕，即便存在肢体暴力，受害人因恐惧报复或情感依赖，倾向于先选择隐忍、延迟报案导致伤痕等关键证据灭失。另一方面，现行司法体系对“家暴痕迹”的识别存在一定障碍，例如精神暴力的认定依赖于心理咨询记录、通话录音等间接证据链，但其证明力易遭质疑。此外，相当一部分家暴行为的受害人系未成年人或精神病人，其认知能力有所欠缺，客观上亦导致家庭暴力难以得到及时认定和妥善处理。

（二）传统干预手段的单一性、滞后性导致防治被动化

2024全年，我国共计发出人身安全保护令6,351份，同比增长11.5%，落实了法院对家暴“零容忍”的坚定立场。值得注意的是，当前以人身安全保护令制度为代表的干预手段，其实施现状仍不容乐观。以上海市为例，近5年以来，尽管全市人身安全保护令的申请数量及签发数均有所上升，但与涉家暴案件数量相比仍存在较大差距，并在实施层面暴露诸多问题—部分家暴受害人对申请条件、申请流程了解甚少，或出于担心打击报复、损害名誉的心理因素不愿意申请，从而导致申请率整体偏低；人身安全保护令的执行一般需要公安机关、村民委员会或居民委员会配合法院实施，实务中不乏存在各个部门职责不明、协作不顺的情形。

诚然，面对家暴行为，以人工巡查、个案上报为代表的传统救济模式犹如管中窥豹，以此为中心的处置、执行、跟踪，均无法有效实时掌握，不仅延误了最佳介入时间，容易错过家暴防治的“黄金窗口期”，干预和处置的效果也大打折扣。另外，在家庭暴力案件处置中，对于中高危案件的流转仍然运用发函的方式，信息共享渠道尚未打通，引发信息重复采集、处理效率低下等问题，数据安全与个人权利也面临威胁。

（三）数据信息的孤岛化、碎片化影响协同治理成效

依托于人工智能的运用以及数字法院、数字政府建设的背景，目前信息共享的家暴治理协同体系在我国浙江、广东等地均已初步建立，妇联、公安、司法等多部门联动的防治网络也日渐成形。各地也利用大数据模型对家暴防治进行了有益尝试。但整体而言，当前家庭暴力防治领域的跨部门协作体系仍处于探索完善阶段，全国范围内的系统性协作框架尚未建立健全。家暴协同治理水平仍处于浅层次、低频率、短效化的阶段。至少存在以下三方面的短板：

其一，案件处置流程存在信息壁垒与衔接断层，导致风险评估、紧急庇护到司法救济的转化效率受限。当前算法监管在责任主体上未对“算法提供者”等进行明确划分，造成监管难以问责，用户受到侵犯时，由于算法侵犯的责任归属难以确定，用户权益难以维护。由于人工智能技术涉及的数据主体较多，数据所有者、数据收集者、数据使用者等各方角色在技术运算中都扮演不同的角色，人工智能技术也包含着复杂的运行过程，这些都使得责任主体的界定更加困难。

其二，缺乏明确的个案管理责任主体，易出现职能部门权责交叉与工作重复。这主要体现在我国政府职能机构存在职能划分不清晰等问题，使得各部门数据治理目标难以协同。各个治理主体间的信任缺失与协同治理意识淡薄，导致多元数据主体协同治理难度较大。

其三，数据共享平台与标准化处置规则的缺位，致使受害人往往需要多端口重复提交证明材料，不仅影响干预时效性，更可能造成二次伤害风险。相关法律法规对人工智能数据处理责任主体亦尚未作出明确规定，导致在发生数据泄露、滥用等事件时，责任主体认定与追责困难。

二、人工智能赋能家暴治理的风险类型识别

人工智能技术在给家庭暴力预防及治理模式的革新带来巨变的同时，其背后所隐含的技术漏洞及可能引发的伦理风险亦不容忽视。具体而言，至少包括以下几方面的风险与挑战：

（一）算法治理风险

从公信力角度而言，算法黑箱是人工智能应用于司法裁判抑或公共决策之中所不可回避的治理难题。比如人工智能在识别不同案件中的家庭暴力情节时，虽然采用同一种算法规则，遵循同一套评判标准，并通过对此前相似行为的后台记录与自主训练，不断完善其内部模型，在输出最终结果后形成闭合回路，这一操作看似能够有效避免司法裁判不公的局面，但其算法的不可解释性决定了使用者无法洞悉其决策背后的真实依据，这也与法官基于经验和常识判断、逻辑推理等方法作出认定的方式完全不同。一旦存在算法错误或者算法偏私，将难以察觉及纠正。

从安保性角度而言，当前人工智能技术的研发主要依托于国内外拥有先进算力或数据平台的大型科技企业，政府部门、司法机关等主导的AI大模型项目都不乏第三方公司介入其中。这些同时拥有着技术合作渠道与数据资源的企业如果本身在设计模型、数据处理、安全保障等方面存在隐性瑕疵，可能会因此形成“数据壁垒”，甚至在国家安全领域引发意识形态渗透、伦理价值异化等风险。毋庸置疑的是，若在训练AI大模型进行识别需求计算、社会救助服务匹配分析过程中输入带有社会刻板偏见的文本、信息，亦会导致AI自动生成社会偏见和刻板印象。其结果是开发者、使用者乃至社会公众都可能降低对人工智能辅助决策的认同感，最终侵蚀人工智能技术使用的正当性。

（二）侵犯个人权利风险

运用人工智能对家庭暴力进行监测与预防，必然建立在对个人信息的收集、分析和利用的基础之上，这不仅是国家对家庭生活事务的一种介入，也在某种程度上意味着个人对国家的权利让渡，难免会触发个人权利受损的风险。

一方面，人工智能的不当使用极易侵犯个人隐私。在将来，伴随人机交互技术的不断深入，家暴受害者会对人工智能愈发依赖与信任，甚至会在某些算法诱导下主动透露财务状况、情感生活等隐私数据，从而导致人工智能获取到的个人信息更多涉及个人隐私。即使不直接涉及个人隐私，仅仅是性别、年龄、职业、就诊记录、电子邮箱等看似碎片化的数据，通过跨平台、跨部门的整合，经过数据汇集与关联分析后，仍然能够实现对受害者特征的推断，从而拼合成“数字化人格”。而一旦出现信息泄露问题，当事人的私人生活将完全暴露于公共视野之中，这对于家暴受害者而言无疑是二次伤害。

另一方面，少数群体的权利将因为算法歧视等因素受到损害，不仅体现在数据采集、筛选过程中，因遗漏部分样本信息而造成对该部分人员利益诉求的忽略，还体现在老人、儿童、残疾人等弱势群体在使用AI客户端时存在的天然劣势，在遭受家庭暴力时难以及时准确表达其诉求。

（三）缺乏自由裁量风险

人工智能运用获取的数据进行自主学习与系统推理，其严格遵守的是事先设定的程式化算法，缺少在法律框架内运用经验、技巧、价值衡量等进行合理自由裁量的环节，更缺少家事纠纷解决中所需要的人性温度和道德情感。因此，对于人工智能推导出的结果应当保持谨慎，并保留适当的弹性空间。同时，AI大模型在嵌入家暴防治等社会治理过程中，大量自动化、无人化操作被允许实施，如自动触发报警机制、自动生成人身安全保护令等，技术取代人类主导地位的风险被无限放大，并且鉴于AI大模型治理的责任归属问题本身较为模糊，相应追责机制并不健全，因此一旦出现判断失误，人工智能极易沦为公职人员转嫁责任的“外衣”，这也在客观上助推了个人或组织利益对于公共利益的推诿与置换。

三、人工智能赋能家庭暴力治理的框架重构

（一）价值导向：“以人为本”促进公平正义

纵观全球，人工智能技术较为领先的国家几乎都将以人为本作为其发展与治理的核心理念。我国于2023年10月18日发布的《全球人工智能治理倡议》亦明确指出：发展人工智能应坚持以人为本理念，并将“增进人类共同福祉”“保障社会安全”“尊重人类权益”作为目标与前提。“以人为本”并非一句空洞的口号，而应当落地为人工智能治理的法治原则和法理话语。具体而言，人工智能赋能的核心方向，首先应以人的权利为本位，尊重和保障人权。具体到家庭暴力治理层面，人工智能技术的应用正在从工具性辅助逐步转向系统性治理，其价值实现必须始终建立在人文关怀的框架之上；其次，以人为本意味着公平正义，这要求在制定算法规则时，应聚焦于算法公平，消除性别等社会偏见，并推动数字无障碍设计，兼顾未成年人、老年群体等数字弱势群体利益，逐步缩小数字鸿沟；最后，应始终确保人类对人工智能运行的自主控制与实质监督。换言之，科技赋能应始终服务于人的尊严维护而非技术理性扩张。

（二）总体目标：“技术向善”驱动“治理向善”

控制论之父诺伯特·维纳认为，“科技发展具有为善和作恶的双重属性”。这种双刃剑效应击碎了人类对科技发展的理想化认知，也引发了关于技术伦理规范的深层探讨。“技术向善”原则根植于以人为本的核心理念，包含了对人类尊严与社会福祉的坚持，有助于避免科技发展陷入盲目的泥沼。正如习近平总书记在中国科协全国第十次会议上指出，“要深度参与全球科技治理，贡献中国智慧，塑造科技向善的文化理念，让科技更好增进人类福祉”。此外，由于规则机制具有天然的保守性，其发展通常滞后于科技革新，为逐步实现“治理向善”，亟须将制度体系与技术发展的动态相适配，通过分析把握技术的发展规律，做到提前介入、主动预防，力求将矛盾纠纷化解“关口”前移。

当前，AI大模型在家庭暴力的风险识别、自动预警、证据固定等方面优势明显，但也面临着技术伦理与治理效能的平衡考验。以“技术向善”为导向，驱动“治理向善”，正是破局之关键所在。具体应包含以下两个维度：在实践层面，引导技术开发者、使用者达成价值共识，将反家庭暴力法确立的“受害人本位”原则转化为算法参数，通过对抗性训练消除算法偏见；在治理层面，构建动态监管体系，既要防范算法权力滥用，也要平衡预先干预与隐私保护，最终实现技术善治。

（三）发展向度：“信息交互”与“协同治理”并重

家庭暴力治理长期受困于信息割裂与协作低效的双重阻滞，人工智能技术凭借其高效协同、数据共享和智能联动的特性，以信息交互、协同治理为双轴，形成技术革新与社会治理双向赋能的良性循环，为系统性破解上述治理难题开辟了新路径。

一是信息交互夯实治理基石。家庭暴力的高度隐蔽性要求必须突破传统单向的信息采集模式。AI赋能的场景布局在于建立基于大数据分析的风险预警机制，实现动态数据闭环，既要穿透部门数据壁垒实现信息共享，又要引导数据多向流动，在交互与碰撞中预判类型化风险，使治理重心从末端处置转向源头预防，治理范式从传统治理转向敏捷治理。不仅能满足人们对于隐私保护、数据安全的关注，又能实现补给治理资源、辅助风险预判的目的。

二是协同治理决定治理效能。从家暴的本质与成因来看，其滋生源于复杂的社会背景及制度缺陷，家庭暴力治理跨域协作不畅的根源在于制度壁垒，更受限于缺乏智能化的统一协作枢纽。因此，防治家庭暴力需要各方协作参与治理，推动基层多元主体联动协作。利用区块链技术搭建的隐私计算平台，在确保数据安全的前提下打通公安、司法、社区等系统，在数据共享过程中，各方治理主体通过协商互动达成共识并主动作为，最终实现从个体保护跨越到社会治理。

四、人工智能赋能家庭暴力治理模式的规范进路

（一）路径选择：以法治为核心的人工智能治理机制

之所以要构建以法治为核心的人工智能治理机制，其原理在于“法治是治国理政的基本方式”，是贯彻以人为本核心理念、实现技术善治的制度性支撑。尽管我国已经制定实施了网络安全法、数据安全法、个人信息保护法等多部与人工智能相关的法律法规，并出台了《生成式人工智能服务管理暂行办法》，但在人工智能治理的法治保障上依然较为滞后。

因此，人工智能在家庭暴力防治中的赋能之路还很漫长，要实现的功能目标也尚在远处。在制度演进的路径选择上，应遵循以下两点要求：首先，要立足法律框架下的路径设计。在法律层面上明晰人工智能的功能和定位，赋予技术赋能一定的刚性支撑。其次，要着眼于现有机制的填补与优化。“科技没有弯道超车，只有厚积薄发”，人工智能技术亦是如此。深度学习技术的突破需要大量的数据和计算资源，并经历了多年的研究和实践。这些都是在实际应用中不断调试和优化的结果，并非一蹴而就的成果。同时，应加强人工智能赋能反家暴工作的顶层设计和统筹协调，建立反家庭暴力法和有关法律规定实施主体联动工作机制，设置科学规范的运行流程，推动反家庭暴力法和有关法律规定的落地实施。

（二）局部优化：大语言模型及区块链技术的结合

1.完善大语言模型：建立可靠数据源

一方面自动捕捉暴力信号。可以运用多模态融合、语音情绪识别等技术，捕捉潜在暴力信号，并开发非接触式体征监测算法，通过智能摄像头识别肢体冲突时的异常心率、面部表情等生理指标，加快建立相关数据库；另一方面做好相关节点预警。结合大数据技术手段，通过有效对接的信息平台，由相应机构对家暴高风险的家庭信息分类管理，通过风险控制、跟进排查的方式，防止家暴持续或升级。

2.应用区块链跨链：实现数据融合

区块链是基于链式结构实现数据的存储和验证，利用密码学技术确保数据的传输安全，并借助智能合约实现编程和数据管理的基础架构。其核心价值在于构建跨系统的可信数据交互网络，通过分布式节点共识机制突破数据壁垒，为数字协作提供可验证的信任基础。区块链跨链技术的应用，为家暴防治提供了创新路径，具体包括以下三方面：

一是高效核验与隐私保护。公安、法院、妇联等多方主体可在家庭暴力的处置干预过程中及时调处信息并自动核验，在节省人力、提高治理效率的同时又保障了隐私安全；哈希算法在区块链技术中的运用，亦支持家暴受害人实时上传并储存伤情照片、聊天记录、录音录像等，并在AI大模型的加持下自动解构其中的风险特征并加以固定；

二是数据驱动风险预警。借助跨链互认技术，司法案件、医疗记录、社区走访等多源数据得以整合，AI大模型在此基础上可构建包含施暴者的犯罪史、经济控制行为等在内的高危家庭画像，并将高风险线索自动推送至相关部门，从而实现动态预警；

三是智能辅助决策。通过对法院典型案例及生效裁判文书的挖掘，基于自然语言处理并输出，不仅可以为家暴受害者生成个性化保护建议，譬如完成电子证据固定、人身保护令在线申请等流程，还能辅助家事法官正确处理家暴纠纷，并确保法院出具的调解协议、人身保护令等法律文书无法篡改，推动家暴治理从被动响应转向主动防护。

（三）整体增效：配套机制的集成运用

1.发展多元主体沟通协作的共治机制

要充分发挥人工智能的信息共享与交互功能，充分利用信息化建设成果，建立多部门联动的线上协作平台，加强跨部门、跨区域的数据协同共享，并探索通过专案专档的形式，精准跟踪、迅速反馈，将家庭暴力行为的治理切实落到实处，真正实现“事前干预-事中保护-事后帮扶”的全闭环管理。

要利用人工智能构建家暴防治协同机制，建立多向对接的救助网络：民政机构对遭受家暴的滞留人员启动应急庇护所安置；法院依申请在线核发人身保护令；检察院对涉未成年暴力案件实施检察监督；司法局为受害人就近提供法律援助资源；教育局针对未成年受害人建立追踪档案；卫健局则开辟医疗救助绿色通道。这种全方位、立体化干预模式，将紧急庇护、司法阻断、医疗介入等环节串联，与强制报告、告诫制度、人身保护令制度有效衔接，最终有助于形成制度闭环的救助体系。

2.完善人工智能的安全管理及监督机制

通过搭建统一、专用的数据平台，加强对反家暴工作的统计分析，提高工作的科学性、精准性。首先，在数据采集端，由社区、妇联等机构组织通过标准化表单实时上报案件，并对接公安、检察院、法院办案系统，借助大语言模型技术自动校验的数据完整性；其次，在数据处理端，采用智能分级算法对各项数据进行分类，并按照裁判文书公开的隐名要求对其中所反映出的隐私信息进行保护和删除，防止外部破坏、更改或披露；最后，在数据使用端：使用方承担数据安全保障义务，采取必要的技术手段确保司法数据合理使用；上级监管部门通过智能看板实时监测处置进度，系统自动触发超时预警，压实主体责任。

须强调的是，即便人工智能为反家暴工作的决策治理提供了最优辅助，但最终司法层面的决策权仍应取决于人类，特别是在涉及复杂的价值判断和伦理问题时，必须确保决策的人性化和合理性，必要时应建立“自动熔断机制”，避免AI失灵。

结语

人工智能赋能家庭暴力治理，既是技术创新的突破，更是社会治理方式的革新。必须始终坚持以法治为根基，借助大语言模型、区块链技术等先进技术，持续精进家暴动态预警的算法模型，在数据融合、隐私保护和多部门协同机制上建立规范框架，并牢牢把握人类对算法决策的监督和否决权，以确保技术应用始终运行在安全可信的轨道，最终实现以“技术向善”驱动“治理向善”的理想图景。