Newshot

荷兰数据监管机构指出AI眼镜存在安全问题

Translation(model translation, not the source's own text)

荷兰数据监管机构指出 AI 眼镜的安全问题

这些设备被发现会误解用药说明,以及其他影响人身安全的场景

更多阅读

  • 中国攻击者部署 AI 代理,自主发现并利用一个 0-day 漏洞接管了一所大学的服务器 1 小时前

中国攻击者部署 AI 代理,自主发现并利用一个 0-day 漏洞接管了一所大学的服务器

  • AI 热潮恐引发电路板紧缺,程度堪比疫情时期的芯片短缺 2 小时前

AI 热潮恐引发电路板紧缺,程度堪比疫情时期的芯片短缺

  • PwC 表示,在 ERP 升级方案卖不动的地方,AI 能打开钱包 6 小时前

PwC 表示,在 ERP 升级方案卖不动的地方,AI 能打开钱包

  • 美国允许 Nvidia 和 AMD 向与中国军方有关联的企业大量出售芯片 14 小时前

美国允许 Nvidia 和 AMD 向与中国军方有关联的企业大量出售芯片

  • Palo Alto Networks 为开放权重训练业务掏钱 22 小时前

Palo Alto Networks 为开放权重训练业务掏钱

荷兰数据保护局(AP)在安全测试揭示出 AI 智能眼镜除备受争议的录制功能之外还存在令人担忧的行为后,正式建议消费者不要购买这类产品。

AP 近期测试了六款不同型号的智能眼镜,发现了明显的问题,其中包括愿意向一名对未成年人表现出兴趣的成年佩戴者显示约会建议。

在另一起涉及心肺复苏(CPR)模拟的案例中,测试人员指出,有一副眼镜告知佩戴者已呼叫急救服务,且救援人员预计将抵达现场,尽管实际上并没有人拨打过电话。

一些眼镜未能正确处理儿童玩具上的安全警告,另一些在阅读药品说明书时出错,还有一些误解了极端天气事件的警告。

AP 未具体说明其测试的型号,仅表示测试了六款价格从不到 €100($110)到超过 €500($550)不等的型号,其中两款“在人身安全起关键作用的模拟真实场景中接受了广泛测试”。

一位发言人还拒绝将任何具体行为按价格档位与型号对应起来(例如,向未成年人提供约会建议与一副 €354 的眼镜相关),并补充说该研究旨在从更广泛意义上凸显 AI 眼镜的风险。

“在你未察觉的情况下拍摄你的眼镜已经令人担忧。而在有人生命攸关时还给你错误建议的眼镜则太过分了,”AP 副主席 Monique Verdier 表示。

“AI 带来了许多机会,但我们必须能够信任这项技术。就所检查的摄像头眼镜而言,目前无法证明这种信任是合理的。”

本周发布的警告延续了该监管机构此前在智能眼镜方面的工作。AP 在 9 月提醒公众,每个人都有隐私权,并鼓励各组织在必要时禁止使用这类设备。

同一份警告提到了 GDPR 下数据处理的潜在风险,以及与 AI 训练相关的风险。

AP 重申了此前的这些批评,称最新测试表明,AI 功能依赖使用主要位于欧盟以外的服务器处理数据。与此相关,它发现用户并未获得关于 AI 如何处理其捕获数据的充分信息。

在网络安全方面,测试暴露出了一系列问题,包括眼镜佩戴者附近的人能够未经许可连接设备、查看录像,在某些情况下还能操作摄像头。

文章标题:荷兰数据监管机构指出 AI 眼镜存在安全问题

正文: 此外,监管机构还呼应了此前关于智能眼镜的担忧——正是这些担忧让它们获得了俗称“偷窥眼镜”。

其测试发现,“几乎所有被检查的摄像眼镜”,本应在用户录制时清晰显示的录制指示灯都很暗,且很容易被遮挡。

美联社称,即使指示灯被遮挡,这些型号也可以被设法进行录制,这与制造商常常声称的情况相悖。

“结果是,旁观者几乎无法看出自己是否正在被拍摄,”它说。

这项技术有许多有益的用例,例如帮助视障人士、识字水平较低的人群,或用于人们需要帮助理解周围世界的任何其他场景。

然而,监管机构对这项技术现状的官方立场认为,智能眼镜“不安全……因为对用户和旁观者存在风险。”

Verdier 表示,荷兰和欧洲各地的政界人士在制定 AI 政策时应注意到这些结果。

“重要的是,我们作为一个社会,要学会应对这类高风险 AI 产品,”她说。

“简单地禁止一切在初期会提供一些回旋余地,但我们无法无限期地维持这种做法。重要的是,我们要共同致力于提升意识、韧性和道德良知。”

智能眼镜难逃反感

当 DEF CON 在 8 月活动前宣布“禁止偷窥眼镜”政策时,这一举措受到与会者的广泛欢迎。

“很高兴看到 DEF CON 有‘禁止偷窥眼镜’政策,”EFF 网络安全总监 Eva Galperin 当时说。

其他几个组织也实施了类似限制,包括管理英国 Comic Con 的 Monopoly Events、国宝级酒吧连锁 Wetherspoons,甚至还有移民和海关执法局(ICE)。

大多数公众至少已经接受了一个事实:智能手机一代以及他们随时随地拍照的意愿,意味着在公共场所并不存在被奉为神圣的隐私人权。

公共视频录制曾经带有一种对旁观者个人隐私的预期或体谅,尽管智能手机用户随着时间推移已慢慢消除了这一点。

不管你喜不喜欢,人们普遍理解,智能手机通常在任何特定时刻都在录制某物——或某人——尤其是在城市地区。

从纸面上看,智能眼镜能够在公共场所录制,这与人们已经对智能手机产生的预期并没有太大不同。

然而,鉴于它们外观与普通眼镜极为相似,且录制指示灯可以被遮挡,这使得通过眼镜进行公共录制的行为更加隐蔽,因而令人担忧。

对于智能手机,很容易从用户的肢体语言——把手机举在身前——看出他们正在录制。智能眼镜佩戴者在拍摄图像或视频时不会显示任何明显信号,这加剧了人们对这项技术的普遍不安。

在网上快速搜索“智能眼镜侵犯隐私”,会出现大量关于这项技术的投诉,往往涉及针对女性和儿童的行为。

还有人担心这些设备有多容易通过安全检查,这可能为那些希望造成比单纯侵犯个人隐私更大伤害的人提供机会。

《观察家报》和 BBC Radio 4 最近的一项联合调查揭示,支持 AI 的眼镜如何未被英国议会使用的机场式安检扫描仪发现。

这两家新闻媒体发现,一副售价 60 英镑(78 美元)的中国制造眼镜绕过了扫描仪,并可被用来读取议员桌上的倒置文件,记录电话号码和地址等数据,以便日后获取。®

The translation is machine-generated and individual terms may be off. Nothing is rewritten or cut; the original is authoritative.

Published by HN AI
This site only summarises and aggregates; copyright stays with the original author. Headlines and summaries follow the source — where they differ, the original wins.
Read the original ↗