苹果警告说，“隐藏行为”或隐藏或操纵信息的流氓人工智能代理如果未经授权访问系统并造成损害，可能会对公司的业务构成威胁。
全球第二大市值公司在周二的年度报告中发出了这一警告，一天前，苹果公司公布了第四季度财务业绩。在风险因素部分，苹果扩大了对人工智能的警告。苹果的谨慎态度突显了科技巨头和其他公司在近几个月发生的一系列人工智能安全事件后预测的风险，这些事件促使公司发布新的安全功能并就监管措施进行辩论。
苹果在每年财年结束后提交的 10-K 文件中表示，“人工智能代理和其他技术可以自主采取行动，包括与内部或外部系统交互，在某些情况下，它们可能无权访问、执行或更改代码、发送通信和完成交易。”
iPhone 制造商表示，此类技术“可能会以意想不到或不可预测的方式运行，包括采取未经指示、指示或授权的行动、超越许可、藐视指示或抵制指示。”它还指出，失控的自主人工智能代理可能“隐藏行为，隐藏、扣留或操纵信息，或生成不准确或欺骗性的输出”。
苹果是最新一家对人工智能代理带来的风险发出警告的公司。谷歌母公司 Alphabet 在最近的一份文件中也指出了流氓代理带来的风险。然而，谷歌更指出了潜在的后果，写道在人工智能模型测试期间，它观察到了意想不到的行为，包括特工在其预期范围之外采取行动，这最终可能导致“严重或灾难性的安全和社会事件，或对人权产生负面影响”。
公司概述的风险是在几起涉及人工智能模型的重大网络安全事件之后发生的，其中最引人注目的是今年夏天 OpenAI 代理对人工智能公司 Hugging Face 的攻击。在 Anthropic 上周公布的 IPO 招股说明书中，该公司列出了许多风险因素，包括其模型在安全测试期间未经授权访问现实世界系统的事件。该公司还估计，今年 5% 至 7% 的收入来自后来被发现违反其使用政策的客户。
微软和其他主要科技公司的高管呼吁更加关注保护人工智能代理的安全。微软最近宣布了一套控制措施来检测、监控和限制人工智能代理，包括削减他们的权限或在他们行为可疑时阻止他们。首席执行官萨蒂亚·纳德拉 (Satya Nadella) 认为，公司应该将特工视为潜在的内部风险，并将安全控制置于人工智能模型之外，而不是相信该模型能够自我监管。
苹果在周二提交的 10-K 文件中还概述了其他压力，包括内存和存储组件短缺，据称这些压力将会加剧。它还表示，对云计算、存储和其他人工智能基础设施的需求导致了“供应受限、交货时间延长和成本增加”，这可能会影响其人工智能的推出。由于包括人工智能投资在内的基础设施相关成本上升，其研发支出同比增长 32%。
周一，苹果首席执行官约翰·特努斯 (John Ternus) 将代理功能描述为“对用户来说有前途的工具”，但警告说，用户必须充分了解他们授予的访问权限，并强调用户安全和隐私。
苹果股价周二下跌约 2%，此前该公司表示，其利润率将继续受到存储芯片成本的挤压，且其服务部门的增长放缓。在作为首席执行官的第一次财报电话会议上，Ternus 基本上坚持照本宣科的营销要点，并且很少提供有关苹果个性化人工智能代理计划的细节。