联合国警告AI助长儿童性侵害风险
联合国官员11月19日警告,人工智能正被用于诱骗、勒索和剥削儿童,现有保护措施未能跟上技术发展。官员援引美国机构和联合国儿童基金会的数据,呼吁加强人工智能系统的安全与隐私保护。
11月19日,联合国高级官员在纽约举行的联合国大会高级别活动上警告,人工智能正被性侵害者和犯罪团伙用于诱骗、勒索和剥削儿童,而数字环境中的儿童保护措施尚未跟上技术发展。联合国秘书长防止暴力侵害儿童问题特别代表Najat Maalla M’jid说,针对社交媒体风险的应对曾经滞后,类似情况正在人工智能领域重现。

人工智能主题示意图。(越南生意网)
Najat Maalla M’jid表示,侵害者可能利用聊天机器人取得儿童信任、收集个人信息,迫使其分享敏感影像;图像编辑应用生成的伪造影像也可能被用于威胁和剥削。个人数据分析工具还可能帮助侵害者、人口贩运者及犯罪团伙接触脆弱儿童。
她援引美国国家失踪和受剥削儿童中心的数据称,2023年至2024年,与生成式人工智能相关的儿童性虐待材料报告数量增长了1325%。她同时指出,许多涉及人工智能的儿童侵害案件仍未得到报告或妥善处理。联合国副秘书长Amina Mohammed援引联合国儿童基金会近期研究称,过去一年,11个国家至少120万名儿童的影像被用于制作色情性质的深度伪造内容。
联合国秘书长安东尼奥·古特雷斯于2026年7月发起保护儿童免受人工智能侵害的承诺,呼吁在儿童接触人工智能系统前进行安全认证,并对人工智能生成的儿童性虐待材料采取零容忍政策。Najat Maalla M’jid建议制定全球人工智能治理标准,从设计阶段纳入儿童安全和隐私保护。Amina Mohammed指出,人工智能也可用于发现侵害内容、识别受害者及及早察觉诱骗迹象。
来源:越南生意网


