苹果公司因虚假标题争议被敦促移除AI功能

一家主要的新闻监察机构敦促苹果公司撤销其生成式AI功能，因为该工具错误地将一则关于高调谋杀案的头条新闻归因于BBC新闻。

根据BBC周四的报道，苹果的新功能——苹果智能，因错误生成新闻标题引发争议。该标题错误地暗示了嫌疑犯Luigi Mangione自杀，他被怀疑是医疗保险公司CEO Brian Thompson的杀手。然而BBC并未发布过此类文章。

无国界记者（RSF），一个致力于捍卫新闻自由的国际组织，批评了苹果公司，指出这一事件凸显了不成熟的AI工具对媒体信誉和公众信任所带来的风险。

RSF的技术与新闻部门主管Vincent Berthier对这一失误表示谴责，称其是对新闻机构信誉的“打击”，并威胁到公众获取可靠信息的权利。RSF要求苹果立即移除这一功能。

“尽管欧洲AI法案是全球此领域最先进的立法，但它并未将产生信息的AI系统归类为高风险系统，留下了一个关键的法律空白。这个空白必须立即填补，”Berthier如是说。

BBC确认已向这家科技巨头提出了正式投诉，并请求解决，但目前尚不清楚苹果公司是否已做出回应。

这个有缺陷的AI摘要并不仅限于BBC新闻。11月21日，该功能错误地概括了一篇纽约时报的文章，错误地暗示以色列总理本杰明·内塔尼亚胡已经被逮捕，正如BBC文章所报道的那样。

这个通知，后来被记者Ken Schwencke突出指出，实际上是指对内塔尼亚胡的国际刑事法院的逮捕令。

Apple AI notification summaries continue to be so so so bad

[image or embed]

— Ken Schwencke (@schwanksta.com) November 21, 2024 at 9:22 PM

苹果智能旨在通过总结和分组通知，减少通知的打扰。这款工具适用于运行iOS 18.1及更新版本的iPhone，以及部分iPad和Mac。但它因误解可靠新闻媒体的信息而遭到了反击。

BBC的发言人强调，尽管某些分组通知准确地总结了关于全球事件的报道，但涉及Mangione的错误信息显示了这项技术可能对媒体和公众理解造成的潜在伤害。

RSF警告说，“这次事故表明，生成式AI服务对于公众来说，仍然过于不成熟，无法提供可靠的信息，因此不应被允许在市场上应用。”

Ars Technica对苹果的通知摘要进行了评价，指出了一些常见的问题。首先，虽然一些摘要在事实上是正确的，但它们听起来机械和尴尬，尤其是在涉及到感情或心理健康这样的敏感话题上。其他的则误解了讽刺、俚语或习语表达，常常过于直译。

缺失上下文是另一个主要问题，特别是当摘要遗漏了线程中的早期消息或未考虑到多媒体内容时。在有多个主题的群聊中，摘要可能会变得过于繁重，混淆了各个主题，导致信息不准确。

最后，有些摘要就是纯粹错误的，这通常是因为试图将过多的信息压缩到过少的文字中，导致了信息的扭曲。总的来说，这些问题在日常使用中很常见，影响了这个功能的实用性和准确性。

Mangione，现被控一级谋杀罪，已成为AI在新闻业中的风险争议的焦点。由于苹果面临越来越大的压力来解决这个问题，公众对可信赖新闻的依赖性仍然岌岌可危。