不可思议！澳洲儿童隐私遭AI大规模侵犯！图像、姓名、位置和年龄等被曝光

人权观察（Human Rights Watch）发现，

澳大利亚儿童的隐私

正遭到人工智能（AI）的大规模侵犯，

他们的图像、姓名、位置和年龄

被用于训练一些世界领先的人工智能模型。

1

澳洲儿童隐私遭侵犯

在维州 Bacchus Marsh Grammar School 发生了深度伪造该校女生裸照事件后，研究人员开始调查人工智能供应链。

人权观察的研究人员在著名的数据集LAION-5B中发现了这些图像，其中包括一名仍与脐带母亲相连的新生儿、演奏乐器的学龄前儿童以及学校体育嘉年华上身着泳衣的女孩。

这是一个包含58.5亿张图像的免费在线数据集，用于训练许多可生成超现实图像的公开AI生成器。

“童年的一般性时刻被捕捉、抓取并放入这个数据集中，”人权观察儿童权利和技术研究员韩惠珽（Hye Jung Han）说。

“这真的非常可怕，且令人震惊。”

人权观察研究了5850幅图像样本，涵盖了从土豆到行星再到人类等广泛主题，发现了来自澳大利亚各州和领地的190名儿童的照片。

“从我查看的样本来看，儿童似乎在这个数据集中占了很大比例，这确实很奇怪，”韩惠珽女士说。

“这可能为我们提供了线索，让我们了解这些人工智能模型如何能够制作出极其逼真的儿童图像。”

这些图像是使用一种称为“网络爬虫”（web crawler）的常见自动化工具收集的。人权观察认为这些图像来自受欢迎的照片和视频共享网站，包括YouTube、Flickr和博客平台。

“其他照片是由学校或家庭聘请的摄影师上传到 [他们自己的网站上] 的，”韩惠珽说，她补充说这些无法通过搜索或在其来源网站的公共版本上轻易找到。

一些还附有非常具体的说明，通常包括儿童的全名、住址、他们就诊的医院以及拍摄照片时的年龄。

2

AI正处于“狂野”阶段？

阿德莱德大学（University of Adelaide）澳大利亚机器学习研究所所长 Simon Lucey 教授表示，这些发现会给该行业敲响警钟。

他说人工智能正处于“wild west”（即毫无约束的发展）阶段。

“如果那里有数据集，人们就会使用它。”

韩惠珽女士说：“人工智能模型已经了解了孩子的特征，并将以未来无人能预见的方式使用它。”

此外，人工智能图像模型可能会重现其训练数据的元素，例如儿童的脸部，这种风险虽然很小，但却是真实存在的。

目前尚无关于儿童图像被无意重现的已知报告，但 Lucey 教授表示确实存在这种能力。

他认为某些模型应该被关闭。

3

删除照片有用吗？

数据集LAION-5B已用于训练许多世界领先的人工智能模型，例如Stable Diffusion和Midjourney，全球数百万人都在使用。

它是由一个名为LAION的德国非营利组织创建的。

LAION发言人在给澳大利亚广播公司（ABC）的一份声明中表示，其数据集“只是公共互联网上可用图像链接的集合”。

他们说，“提高安全性的最有效方法是从公共互联网上删除儿童的私人信息”。

2023年，斯坦福大学的研究人员在LAION-5B数据集中发现了众多已知的儿童性虐待材料图像。

早在 2021 年 10 月，认知科学家 Abeba Birhane（现任 Mozilla 人工智能高级研究员）就发表了一篇研究早期图像数据集 LAION-400M的论文。研究发现，该数据集包含“令人不安的露骨图像和文本对”。

此外，LAION还被卷入两场诉讼之中。

LAION的发言人告诉ABC，“不可能根据人权观察分析的少量数据得出结论”。

“我们可以确认，我们删除了人权观察报告的所有私人儿童数据。”

4

引发担忧

随着人工智能（AI）在课堂上的渗透，保护学生隐私成了一个亟待解决的问题。尤其在商业利益的驱动下，这引发了人们对学生数据安全和隐私的极大担忧。
以下是一些具体的建议，帮助家长在AI时代更好地保护孩子的照片隐私。
1. 教育孩子隐私的重要性
2. 设定分享照片的规则
家庭协议：制定家庭内部的照片分享规则，明确哪些照片可以公开分享，哪些不可以。
社交媒体管理：限制孩子在社交媒体上发布照片的权限，确保家长有最终审核权。
3. 使用安全的照片存储和分享平台
加密存储：选择具备加密功能的照片存储服务，确保照片不会被未经授权的人访问。
私密分享：利用安全的分享平台或应用，避免通过不安全的渠道分享照片。
4. 定期审查隐私设置，包括社交媒体设置和应用权限
5. 与孩子保持沟通，建立信任并定期讨论，包括与孩子定期讨论网络隐私问题，了解他们在网上的行为和担忧。
6.了解法律和政策，包括隐私法规和举报机制。
7. 保持技术更新。学习新技术：家长应保持对新技术的关注，了解最新的隐私保护工具和方法。
在AI时代，保护孩子的照片隐私需要家长的积极参与和持续关注。通过教育、技术手段和法律知识，家长可以有效地保护孩子的隐私，减少潜在的风险。建立一个安全的网络环境，让孩子在享受科技带来便利的同时，免受隐私泄露的困扰。
而为了保护隐私，澳洲已经宣布禁止长日托、学前班和幼儿园员工用个人手机为孩子拍照。

包括“任何能够拍摄图像或视频的设备，如手机、数码相机、平板电脑、智能手表”以及其他具备拍摄图像或录制视频功能的新兴技术。除此之外，还涉及个人储存设备的使用，如SD卡、USB驱动器、硬盘，以及可以存储图像或者视频录制的云端应用程序。

这里也再次提醒各位父母们，在分享孩子照片等涉及隐私问题的信息时，一定要谨慎，以免被滥用。

未经允许不得转载，转载联系作者并注明出处：机遇教育网 » 不可思议！澳洲儿童隐私遭AI大规模侵犯！图像、姓名、位置和年龄等被曝光