联合国近日向各国政府、科技企业及广告商发出呼吁，要求各界立即采取行动，保障儿童和青少年在数位时代的安全、基本权利，以及未来的数位生活。
联合国指出，现时不少社群媒体和数位平台主要依靠两种方式赚取收入：尽量延长使用者的上网时间，以及收集大量个人资料。这种商业模式在不知不觉间影响了年轻人的网路体验，但当使用者受到伤害时，平台往往没有提供足够的申诉和补救渠道。因此，联合国促请各界以更紧急和一致的方式，应对网路上的各种风险。
演算法和"注意力经济"带来的风险
联合国全球传播部（UN Department of Global Communications）在8月10日发布一份政策简报。这份报告在8月12日"国际青年日"（International Youth Day）前夕发表，指出假消息、演算法操控、精准广告、网路欺凌，以及缺乏透明度的人工智慧系统，正对儿童的安全、身心发展和基本权利造成多重威胁。
联合国秘书长古特瑞斯（António Guterres）表示，任何孩子都不应成为未受监管人工智慧的实验对象。当儿童受到伤害时，平台也不能只以"这是演算法造成的"作为推卸责任的理由。
报告显示，全球15至24岁的年轻人中，超过八成使用网路。在低收入国家，年轻人的上网比例几乎是整体人口的两倍；在高收入国家，儿童接触数位平台的年龄则愈来愈早，部分孩子在幼儿时期已开始使用，到了青春期更长时间留在网路世界。
然而，许多主导儿童日常生活的平台，在设计时并没有把儿童福祉放在首位。科技企业普遍采用"注意力经济"模式，透过延长使用者在线时间，以及分析他们的行为、习惯和情绪来获利。联合国表示，这种模式催生了高度精准的广告，甚至可能即时分析个人的心理弱点，再用来推送商品或服务。
由于儿童的认知与情绪能力尚未发育成熟，极易受到这些旨在挖掘心理弱点的设计所影响。演算法系统可能将年轻使用者困在不断升级的内容回圈中，推播日益极端的资讯，包括自残、自杀、色情、极端主义与暴力内容。此外，线上游戏与社群平台普遍采用欺骗性介面设计、类似吃角子老虎机的间歇性奖励机制，以及"错失恐惧"策略，诱发强迫性沉迷与消费。
联合国资讯完整性高级顾问（UN Senior Adviser on Information Integrity）夏洛特·斯卡登（Charlotte Scaddan）强调："保护儿童与尊重其数位参与并非互斥的目标，我们必须两者兼顾。"
联合国报告强调，若把网路风险简单归咎于家长管教不足，或只要求儿童减少使用萤幕，便会忽略背后更深层的问题。现时网路已经融入商业、教育和社交生活，要求家庭完全离开网路并不现实。因此，防止伤害的主要责任，应由设计和营运相关平台的科技企业，以及负责监管的政府机构承担，而不应由儿童、家长或照顾者独自承受。
全球开始加强监管，但人工智慧法规仍有不足
面对数位平台监管不足的问题，世界各地正陆续推动新法规。澳洲在2024年率先立法，禁止16岁以下人士拥有社群媒体帐户。欧盟正在评估是否在27个成员国采取类似措施，印尼和马来西亚也已推出相关法规，英国则预计在2027年初实施年龄限制。
巴西在2025年9月通过《儿童与青少年数位法案》，被视为目前最严格的相关法规之一。法案禁止向未成年人投放以行为为基础的定向广告，也禁止以侵犯儿童权利的方式使用其个人资料。法案同时规定，18岁以下使用者的帐户必须预设采用最高级别的私隐设定，并建立严格的年龄验证制度。
联合国儿童基金会（UNICEF）分析澳洲、欧盟、印度、哈萨克、南非和英国六个司法管辖区后发现，超过一半的法律框架已要求企业履行共同责任，包括在产品设计阶段加入安全措施、进行风险评估、设立申诉渠道，以及定期公布透明度报告。非洲联盟（African Union）也在2024年通过《儿童网路安全与赋权政策》（Child Online Safety and Empowerment Policy）。
不过，联合国警告，现有法律仍未能充分应对人工智慧带来的新风险，例如人工生成的合成内容、由人工智慧促成的剥削行为，以及使用者无法了解的黑箱演算法。联合国和儿童权利专家呼吁各国不要再采取观望态度，应把儿童权利纳入人工智慧法规的最初设计，及早堵塞漏洞。
国际联盟推动儿童参与人工智慧治理
在报告发布前一个月，联合国在日内瓦成立"人工智慧时代儿童权利与保护联盟"（Coalition for Children's Rights and Protection in the Age of Artificial Intelligence）。联盟的创始成员承诺，不再把儿童视为只需在事后接受保护的使用者，而是把他们视为拥有权利的参与者，让儿童和青少年的意见从人工智慧系统设计之初便得到重视。
首批加入联盟的17个国家包括奥地利、巴西、保加利亚、加拿大、捷克、萨尔瓦多、爱沙尼亚、法国、印尼、意大利、日本、肯亚、卢森堡、摩洛哥、荷兰、南韩和西班牙。参与成立联盟的联合国机构包括联合国全球传播部、联合国人权办公室、国际电信联盟（International Telecommunication Union, ITU）、数位与新兴科技办公室（Office for Digital and Emerging Technologies）、联合国儿童基金会，以及联合国教科文组织。
联盟以《儿童权利公约》为基础，并回应古特瑞斯在"全球人工智慧治理对话"（Global Dialogue on AI Governance）中提出的"人工智慧儿童安全承诺"，以及七大工业国集团（G7）数位部长就建立更安全儿童数位空间所达成的共同原则。
联合国报告指出，青年不只是数位风险的受害者，也是公共生活中重要的参与者。他们可以成为内容创作者、社会倡议者和公民领袖，因此，资讯环境的设计应该帮助他们发挥能力，而不是利用他们的弱点牟利。
可是，当青年透过数位平台参与社会运动时，也可能面对更高的风险。报告指出，女性记者、人权捍卫者、政治人物和社群活跃人士经常受到科技带动的暴力和攻击。参与抗议活动的青年同样可能遭遇网路欺凌、监控、抹黑、网路封锁，以及由演算法加剧的社会对立。
报告也指出，青年在资讯政策的讨论中仍然缺乏代表性。虽然青年运动在世界各地不断发展，但在制定和讨论资讯完整性政策的会议及论坛中，年轻人的声音仍经常被忽略。
联合国提出五项改善方向
根据2024年6月发布的《全球资讯完整性原则》（Global Principles for Information Integrity），联合国提出多项改善方向。首先，科技企业应在产品设计阶段便加入安全措施，让18岁以下使用者预设享有最高程度的私隐和安全保障，并为产品造成的后果承担法律责任。
其次，平台应停止向未成年人投放以个人行为为基础的定向广告，并清楚区分商业讯息与一般内容，让儿童知道自己何时正在接触广告。
第三，政府和教育机构应把数位素养及媒体素养纳入正规学校课程，同时设立简单易用、适合儿童的举报渠道和心理健康支援机制。
第四，各界应保护独立媒体，处理地方新闻减少和"新闻沙漠"日益严重的问题，并防止人工智慧企业透过大量抓取资料和提供"零点击摘要"削弱新闻机构的生存空间。新闻自由的保障也应延伸至参与公民报道的青年创作者。
第五，科技企业应向独立研究人员提供更多数据，以协助找出和减少系统偏见。对于数据长期不足的全球南方地区，各界也应增加研究投资，避免人工智慧政策只反映少数地区的经验。
除了数位平台的监管，联合国也提醒各界重视现实生活中的社区空间。社区中心、图书馆和青年俱乐部等"第三空间"，位于学校和家庭之外，是青年培养公民意识、建立人际关系和学习批判思考的重要地方。
联合国强调，让年轻人在数位平台以外拥有丰富而多元的生活并不只是生活方式的选择，也是建立具备韧性、鼓励民主参与的社会所必需的条件。青年不只是数位危机的受害者，也可以成为解决问题的伙伴。真正的关键，在于政府和科技企业是否愿意让他们实质参与相关决策。
（编译自Christian Daily International）
