跳到正文
越南生意網

站內搜尋

科技

聯合國警告AI助長兒童性侵害風險

聯合國官員11月19日警告,人工智能正被用於誘騙、勒索和剝削兒童,現有保護措施未能跟上技術發展。官員援引美國機構和聯合國兒童基金會的數據,呼籲加強人工智能系統的安全與隱私保護。

越南生意網

2 分鐘閱讀

11月19日,聯合國高級官員在紐約舉行的聯合國大會高級別活動上警告,人工智能正被性侵害者和犯罪團伙用於誘騙、勒索和剝削兒童,而數字環境中的兒童保護措施尚未跟上技術發展。聯合國秘書長防止暴力侵害兒童問題特別代表Najat Maalla M’jid說,針對社交媒體風險的應對曾經滯後,類似情況正在人工智能領域重現。

人工智能主題示意圖。(越南生意網)

Najat Maalla M’jid表示,侵害者可能利用聊天機器人取得兒童信任、收集個人信息,迫使其分享敏感影像;圖像編輯應用生成的偽造影像也可能被用於威脅和剝削。個人數據分析工具還可能幫助侵害者、人口販運者及犯罪團伙接觸脆弱兒童。

她援引美國國家失蹤和受剝削兒童中心的數據稱,2023年至2024年,與生成式人工智能相關的兒童性虐待材料報告數量增長了1325%。她同時指出,許多涉及人工智能的兒童侵害案件仍未得到報告或妥善處理。聯合國副秘書長Amina Mohammed援引聯合國兒童基金會近期研究稱,過去一年,11個國家至少120萬名兒童的影像被用於製作色情性質的深度偽造內容。

聯合國秘書長安東尼奧·古特雷斯於2026年7月發起保護兒童免受人工智能侵害的承諾,呼籲在兒童接觸人工智能系統前進行安全認證,並對人工智能生成的兒童性虐待材料採取零容忍政策。Najat Maalla M’jid建議制定全球人工智能治理標準,從設計階段納入兒童安全和隱私保護。Amina Mohammed指出,人工智能也可用於發現侵害內容、識別受害者及及早察覺誘騙跡象。

來源:越南生意網

相關閱讀