share_log

“苹果智能”的“系统提示词”被曝光了!

华尔街见闻 ·  22:30

其中一些指令提示词写着“不要产生幻觉”并避免“负面”主题。总结电子邮件内容的提示词写着:“不要回答任何问题”。

苹果的AI助手,到底有多智能?

近日,有用户在苹果最新的系统中发现了AI功能背后的隐藏指令:这些指令就像是一本“使用说明书”,严格规定着AI助手的工作范围和行为方式。

后台显示,苹果AI助手的指令被预先设定,以确保AI能够按照预期的方式工作,避免产生错误或有害的信息。其中一些指令提示词写着“不要产生幻觉”并避免“负面”主题。

AI文本功能:不要“产生幻觉”或“捏造事实信息”

macOS 15.1 beta的一位subreddit成员发帖称,他们发现了包含这些后端提示的文件。此前,类似的提示在Microsoft Bing和DALL-E等AI工具中也有所发现。

这些说明在默认情况下以提示的形式显示在用户与聊天机器人的任何对话之前。虽然用户无法修改这些文件,但它们提供了一个早期了解苹果AI内部运作的机会。

比如,在这一段指令中,一个“有用的邮件助手”AI机器人被指示如何根据电子邮件内容提出一系列问题。这可能是苹果智能回复功能的一部分,可以为用户建议如何回复。

这一段为苹果的“重写”功能,用户可以通过突出显示文本并右键单击(或在iOS中长按)来访问。它的指令包括“请将答案限制在50字以内。同时避免“产生幻觉”或“捏造事实信息”。

还有一些指令总结了电子邮件内容,甚至明确指示AI“不要回答任何问题”。

在照片生成的提示中,AI被指示如何根据照片构建故事,并强调不要创建宗教、政治、有害、暴力、色情、肮脏或任何消极、悲伤或挑衅的故事。可能正因为如此,当用户请求生成“悲伤图像”时,功能被拒绝:

如何找到该模型?

找到这些说明的用户还发布了如何在macOS Sequoia 15.1开发者测试版中找到这些文件的详细步骤:

这些文件包含在macOS最敏感部分的文件夹中,因此,在操作时应该谨慎行事。

声明:本内容仅用作提供资讯及教育之目的,不构成对任何特定投资或投资策略的推荐或认可。 更多信息
    抢沙发