主持人 Ejaaz Ahamadeen 讲述了价值 24 美元的监听设备、聊天机器人查询的数字轨迹以及内部 OpenAI 模型如何导致间谍电影式的逮捕。

Chat GPT 刚刚在 OpenAI 自己的总部发现并逮捕了一名间谍，这是我在整个剧集中要说的最不疯狂的事情，因为整个故事都很疯狂。故事一开始，一个身份不明的人在用卫生纸包着的电视机后面植入了一个音频监听间谍软件设备。为什么用卫生纸包起来，我不知道，但重要的部分是会议室，我们为什么要关心？嗯，是一群非常重要的高管。OpenAI 的高管和业务合作伙伴开会讨论专有信息、秘密产品计划，所以你可以想象，如果这些信息落入错误的个人、公司甚至另一个国家之手，那可能会成为一个问题。因此，OpenAI 将案件移交给了联邦调查局和他们自己的内部模型，后者最终对植入该设备的个人进行了告密。 FBI局长卡什·帕特尔表示，这是该局目前的首要任务，人工智能终于成为国家安全和风险的重要或资产。想象一下，如果 007 詹姆斯·邦德当年能够接触到《神鬼寓言 5.1》，他会变得有点野兽。但也要想象一下，如果他的敌人也能接触到

这个模型。这就是我们在今天由 Q Qualcomm 为您带来的《In the Loop》节目中要揭晓的内容。故事要从两周前（即 9 月 30 日）开始，当时一名 OpenAI 员工在高管会议室中发现了一个插入电视背面的设备。不知道什么原因，它被卫生纸包裹着，但在收回这个设备后，它被移交给了 OpenAir 的安全团队。他们开始看着它，然后想，嗯，这看起来像一个 USB 记忆棒，呃，但是它有一个奇怪的电路连接到它上面，所以这看起来有点像黑客工作。这个装置到底是什么？因此，他们开始检查它，并要求自己的内部人工智能模型来揭示该设备可能的用途。他们发现了三件特别的事情。第一，它围绕整个事物设计了非常严格的密码学。因此，访问该设备所拥有的信息几乎是不可能的。第二，该设备被设计为连续录制音频，当有人开始讲话时，它也会被触发开始录制音频。所以，这似乎是故意的。该设备是为了尝试监视

那个特定房间里发生的对话。第三，从该设备中提取的任何类型的数据，如果可以传输到您的计算机上查看或查看或收听，也都经过严格加密，这意味着数据传输层经过了非常精心的设计。所以 OpenAI 有点像看着这个然后想，这看起来就像这是企图监视我们，所以我们应该把这个案子交给联邦调查局，让他们访问这个内部模型或与他们合作。至少，尝试弄清楚到底发生了什么。因此，OpenAI 继续进行内部调查，同时将其交给 FBI，很快，使用他们自己的内部模型，我不知道，GPT 6.5，GPT 7，无论他们的最新模型是什么，解决了所有数学问题的模型，一定要检查我制作的那一集。那个模特给某人起了名字。它追溯了该设备的整个电路设计以及谁最有可能植入了该设备并发现了名字。因此 OpenAir 知道它可能是谁，但让 FBI 继续调查。但在这样做的同时，他们还决定在 U 盘几乎完全相同的位置安装一个摄像头。所以万一种植它的人回来查看，就能当场抓获嫌疑人。这正是几天后发生的事情，当嫌疑人回来时，回头一看。电视和摄像机准确地捕捉到了凶手是谁。而就在这名罪犯被抓获的同一天

通过这个摄像头，安保人员在印刷室里发现了歹徒无意中留下的一个包。他们检查了一下，发现了第二个设备，它看起来与他们在电视后面发现的那个设备非常熟悉。所以他们只是拿走了袋子，将其放入失物招领处，但他们拿走了设备。他们试图当场抓获这个人。他们还想弄清楚这个人可能会使用这些信息做什么，所以他们再次保持沉默，并将设备和他们掌握的信息交给了联邦调查局。现在这个人发现他的包不见了，就去失物招领，试图找到它，他找到了包，所以他感觉很好，只是他注意到第二个设备不见了，而且他去检查时还发现电视后面的设备也不见了。于是他报告说，他自己的财产被盗了，但那时，联邦调查局和开放人工智能小组已经盯上了他，并在第二天对他发出了逮捕令或逮捕令。逮捕该男子后，他们发现嫌疑人及其妻子

嫌疑人的另一名家庭成员持有前往沙特的单程机票。所以他打算和家人一起飞出去，很可能永远不会回来，因为。大概他以为自己被抓了。所以这个人被捕了，他受到了内部调查，并被送上法庭，或者其他什么由联邦调查局和卡什·帕特尔负责的事情，他是联邦调查局的领导人，从那时起他的团队一直在处理这件事，但 OpenAir 发布了一份官方声明，对正在发生的事情给出了一个大概的了解，但从未点名任何名字。几乎所有其他媒体出版物都在点名。接下来进入下一部分，这到底是谁干的，他们为什么这么做？该男子的名字是阿卜杜勒·拉赫曼·阿尔·福赞。他是一名 35 岁的沙特公民，自 2020 年以来一直居住在美国，但他也在 OpenAI 的产品团队工作了一年多，所以他就像一个产品斜线工程师，他在 OpenAI 做过多个产品发布，可能是核心员工，随着评估的增加，他已经在那里呆了一段时间，所以他的股权可能值不少钱。这是公司里人们真正认识的人。如果你查看他的 LinkedIn 历史，你会发现他曾从事人工智能代理等工作，这对于本文的下一部分非常重要。他在做什么？他是如何制造出这个装置的，为什么他要在那个密室里使用这个装置？让我带您回到该设备被发现前 6 周。这位阿卜杜勒·拉赫曼 (Abdul Rahman) 询问了 OpenAI 的内部私人代理人。你猜他问了那个经纪人什么？嘿，嗯，OpenAI 的高级管理人员在哪里

有会议吗？另外，业务合作伙伴，这些高管在哪里与业务合作伙伴会面？可以告诉我具体的房间吗？这家伙实际上是在询问安全团队和安全团队之间的聊天 GPT 的内部版本。任何露天员工或任何有脑细胞的人都可以访问并查看谁在查询它。这就是他的设备，或者更确切地说，这是他用来尝试定位和定位行政房间的特工。所以他找到了这个房间，他找到了一个完美的房间，可以容纳 6 人或更多。他们只讨论专有研究、设计、产品发布以及你不想公开的事情，但有一个问题。他不能。房间，他无法进入房间，所以只能由高管和他们的秘书预订。因此，他尝试制定一个计划，如何监听那里的谈话，他想出了一个好主意。我需要创建一个音频设备，可以监视和监听那里发生的对话，但我不知道如何构建该设备。你知道什么可能有用吗？让我问人工智能。所以他去找他的妻子，她有一个聊天机器人帐户，他继续问了一系列问题

非常具体的提示，也就是说，我想创建一个音频设备，它可以连续监听周围的对话，而且当它存储这些数据时，我希望它被加密，这样只有我才能访问这些数据，并且如果有人获得了这个设备的句柄并能够提取数据，我仍然想要它。对数据进行加密，以便没有人可以获取该数据除了我之外，其他人都对这件事很感兴趣。但我还需要设计这个设备，以便它可以插入房间里的电视。但我不希望电视检测到该设备，因为这会泄露它。那么您是否可以创建一个设备，使其仅在电视上显示为电源设备，这意味着它正在为设备充电，但它不知道该设备的用途。因此，在接下来的 4 周内会出现一系列来回提示。6 周有点像启动器，询问我的代理我应该将该设备安装在哪个房间。他开始计划该设备，并且可能最终会构建它。这是包裹在卫生纸上的东西。你知道，调查人员调查了制造这个设备需要什么。价格只差24美元。因此，一台 24 美元的设备可能花费了这个人一生的大部分时间。我研究了监狱的刑期，对于特定的案件来说，最高可达 5 年，但在我开始讨论之前。这里的想法是一个 24 美元的设备基本上导致了这个人和整个公司以及整个间谍任务，整个世界都充满痛苦。好的，那么我们就到 9 月 28 日，也就是该设备被发现的前 2 天。阿卜杜勒·拉赫曼 (Abdul Rahman) 进入开放式人工智能办公室

总部大楼。他走到办公桌前，浑身发冷。他正在工作，正在忙着自己的一天，似乎一直在向行政会议室看去，在那里他一直在四处闲逛，侦察周围的情况。他于下午 2 点 18 分进入大楼。他一直待到下午 6:30 左右，所以不管怎样，在他看来，这是一个正常的工作日。但他被闭路电视拍到了，因为调查人员现在正在监视他，他们可以看到。他事后看来，侦察了整个区域，然后他突然冲进房间，大概有人离开了，他能够把门打开。这简直就是间谍电影里的情节。这太荒谬了。还有，为什么要卫生纸？我不明白。好的，快进两天后，即 9 月 30 日，这就是我刚才告诉你的故事。有人在电视机后面发现了这个装置，大概是因为那个家伙被闭路电视拍到周围阴暗。首先是办公室或会议室，一切都发生在他周围，他被抓住了，他被捕了，他们目前正在研究他因伪证罪可能被判处的刑罚。现在，在我讨论这件事的后果之前，我认为花一点时间是很重要的

OpenAI 的内部模型是如何发现这个人的，因为它可以访问该设备，并且基本上对整个事物进行了逆向工程，并且能够发现两件事。第一，它是如何特别设计的，并根据 OpenAir 也提供给它的闭路电视录像，他们可以找出这个人可能是谁。然后当他们找到嫌疑人时，就是阿卜杜勒·拉赫马 (Abdul Rahma)他们开始秘密监视他的活动，而没有警告他，他们发现了他 6 周前与内部私人代理人的对话，基本上是在问，嘿，所有高管在哪里都有超级重要的信息和高优先级的产品发布信息，以便我可以安装监听设备。我不是间谍，但间谍 101，如果你想实施这种抢劫，请不要与你公司拥有的工具交谈，这太疯狂了。但后来他们更进一步，这就是我所在的部分，我仍在试图弄清楚他们是如何做到的，但他们发现他正在另一个个人聊天机器人上进行对话，然后他用它来，你知道，提示工程师那个 24 美元的设备会是什么样子。他自己建造它，或者找人为他建造它，然后他把它种在房间的后面。所以这个家伙使用人工智能来计划、构建和执行整个事情，然后他使用的人工智能最终成为他垮台、被发现和被捕的确切原因。这只是一个疯狂的循环，你可以使用人工智能来做坏事，但你可以使用人工智能来做坏事

这也是一件好事，所以这有点像，这不是一个健康的故事，但它确实给了我更多信心，当我们谈论人工智能网络攻击周围的恐惧时，人工智能会造成很大的破坏。空气也可以用来做很多好事。这只是一个疯狂的故事，我对此有很多看法，所以让我们通过 Q Qualcomm 为您带来今天的《In the Loop》节目来深入探讨。但我在这里使用的类比是，他有效地走进了大楼，这里的类比是什么，他问办公室接待员，高管之间最秘密的对话在哪里进行，从这位接待员那里找到了信息，然后去找一位同事，问他们，嘿，我该怎么做？建造一个可以放置在这个房间里的监听设备？他基本上喜欢把卡片交给大楼的人、员工或代理人，他真的很愚蠢，没有想到人们不会调查他将使用的工具，他不会留下数字痕迹。而且，我想这就像这整件事的一大要点，把政治和疯狂的间谍理论放在一边。每个人都是数字化的

当他们使用人工智能时，足迹已经大大扩大。请记住，当您与聊天机器人交谈时，这似乎是一件非常私人的事情，但您的所有数据都被 OpenAI Anthropic 或模型实验室的任何人跟踪，除非您使用自己在家托管的开放模型。嗯，这不一定是坏事。在这种情况下，他们能够追踪到是一件好事如果这是一个开放模型，可能不会。第二件事是围绕着句子，所以我认为现在，谣言或报告至少说他们正在尝试抓捕他。为了无意中听到或录音或其他什么，我忘记了他们使用的术语，它，我认为这就像口头对话，非常通用的东西。没有任何迹象表明间谍活动、间谍活动或违反国家安全的行为，这可能会导致更重的刑期。但现在，他因录制口头谈话而被判处的最高刑期是 5 年，这对我来说确实令人惊讶，呃，但他应该因为间谍之类的事情而受到指控。但同样，细节正在被揭开。联邦调查局正在调查此事。联邦调查局局长卡什·帕特尔正在全力投入资源，试图弄清楚这到底是什么，这让我想到了我的第三次拍摄。人工智能已经正式成为国家安全问题。现在，我已经在这个频道的前几集中说过很多次了，想到现在发生这种情况真是太疯狂了，而且现实生活中也有发生这种情况的例子。我想起了雅各布·考克森（Jacob Coxon）的一次谈话，他是疯狂的安全和协调员。研究员，记住我们的那次谈话

在之前的一集中，他谈到了他离开 OpenAI，加入 Anthropic，然后在三周后离开，因为他不相信这两家公司会认真对待模型对齐。他上周参加了一个播客，他说他的这段视频在网上疯传。他说前沿实验室有间谍的可能性是 100%，或者抱歉，是 90%。他进行那次对话、上线，然后两周后，OAAir 揭露了这个间谍阿卜杜勒·拉赫曼，他可能已经被安插在那里一年了。如果这有意义的话，它变得太真实了，这是一回事。有点像和你们谈论它，在镜头前谈论它，假设可能会发生什么。这是另一件事，它确实发生了，然后是第三件事，我们意识到它，它全部向我们揭示。但你能想象目前有多少其他尝试正在进行吗？如果你是人类并且你看到了这个新闻，如果你是谷歌，如果你是 SpaceXSI 或任何前沿实验室。你现在会保持高度警惕，有人试图访问或监听你的对话。现在，无论出于何种意图和目的，这可能是一个真正的

OpenAI 的处境很糟糕。这个人可能会尝试做一些更糟糕的事情，不是监听对话，而是尝试窃取模型权重或模型蓝图，然后他们可以使用它们来构建竞争模型，或将其用于另一个模型，以在国家层面、公司或实体甚至个人层面达到更邪恶的目的。就像你有无数种不同的方式可以用这个东西。值得庆幸的是，OpenAir 的调查显示，他不太可能成功实现这一目标，就个人而言，如果这个人用卫生纸包裹他的设备，听起来并不那么复杂，但你知道，你可以想象现在可能有高层组织正在尝试这样做，甚至可能仍在 OpenAA 或 Anthropic 或任何其他实验室。第四个观点是人工智能正式成为国家安全威胁，我们如何保护这些模型，如何保证它们的安全，需要成为国家优先事项。卡什·帕特拉是这么说的。但现在，对于像 Open Air 和 Anthropic 这样的小型私营公司来说，它是关键的，它们拥有自己的安全团队，并且将事情掌握在自己手中，而且它们不一定是上市公司。他们没有公共投资者的利益，他们只对自己和现有股东负责。所以我只能想象政府想要介入。他们现在可能处于高度戒备状态，卡什·帕特尔可能在想，我不知道我该如何种植。 一名或几名联邦调查局特工每天 9 点就到了

5 号在 OpenAI 的办公室，我几乎可以肯定他们正在进行这样的对话。然后，这让我想到了达里奥（Dario）关于调整前沿的建议，呃，大约一个月前，他建议我们希望外部各方参与进来，评估和监控人工智能的协调方面。我注意到一种趋势，本质上，我想这就是我想说的。外部各方需要开始参与或可能开始参与这些私营公司。传统上，这是山姆·奥尔特曼和达里亚·穆雷的心血来潮或指导，但现在他们可能别无选择，如果在接下来的几周内，我不会感到惊讶。特朗普、政府或任何宣布将对这些公司进行某种形式的轻度国有化的人，因为随着这些模型变得越来越强大，据传人性和露天都拥有比我们目前内部拥有的更强大的模型，但他们无法发布，因为。其后果可能相当危险。作为一个政府，作为一个民族国家，如果它落入你的对手（例如中国或任何可能的对手）手中，你可能会结束

仅从纯粹的安全角度来看，就有一个严重的问题。所以这些实验室现在是国家安全场所。然后我想到的另一件事是苹果。苹果目前正在起诉 OpenAI，指控他们窃取或接触了数百名苹果员工的信息，试图窃取他们自己的 AI 硬件设备的蓝图和设备架构。看像 OpenAir 这样的公司也有自己的问题，如果他们正在处理的攻击的复杂程度是插入电视的卫生纸包裹的设备，那么 OpenAir 似乎不太可能有能力对苹果发起类似的攻击，尽管我希望他们不会这样做。这就是真正的情节。这是我昨晚读到的一个疯狂的故事。我今天早上醒来，我想我必须为此制作一集。如果你想知道我还在哪里，我还在日本京都，是的，这太棒了。是的，如果你来这里，就买一件和服，但我仍然需要继续把这些剧集推出来。这很有趣，听起来好像所有疯狂的事情都在发生，而我现在正处于这个疯狂的时区。我目前比世界或我所说的纽约早 13 个小时。嗯，你知道，新闻会在我睡着的时候传出。非常感谢您收听本期节目。我希望你喜欢它。我希望有一些有价值和有用的成果。我想说，如果你必须在这一集结束时留下一个最重要的收获，那就是，你知道，客观地，你在网上拥有的 DNA 或表面积

数字表面，无论是你的手机，无论是你的电脑，无论是你使用的任何类型的代理或软件包。现在正在被跟踪，特别是如果你使用聊天 GBT 或云，这不一定是一件坏事，正如我们在这种情况下看到的那样，所以我很高兴，最后谈谈一个疯狂危险的事情，实际上有一个非常好的结局，因为归根结底，我确实乐观地认为，你知道，当涉及到网络防御或网络安全，使用人工智能实际上最终可以让我们进入一个比今天更好的世界，人工智能代理运行流氓所带来的所有厄运肯定会发生，但我们会有办法解决这个问题。因此，如果您喜欢这一集，或者如果您不同意我的任何观点，请告诉我，给我们留言。呃，请与朋友分享这些剧集，无论您是在 Spotify、Apple 还是在任何地方收听。我们无处不在，您知道，给我们评分，给我们留下评论。我读了所有这些，我尝试回复所有这些。给我反馈。嗯，我知道这是一场个人表演，但是，你知道，我们正在努力解决这个问题，我和制片人卢克。嗯，所以如果你有的话

反馈一下，非常棒。你知道，我非常喜欢迄今为止收到的反馈。还要在 X 上关注我。即使我，你知道，和我的家人在日本，我也会发布很多我的想法。嗯，所以，你知道，你可以在那里听到更多新闻，更多最新的，最新的，以及我的一些疯狂的想法，我猜。您也可以在那里私信我。但是，是的，非常感谢您的聆听g。我们将在高通为您带来的 In the Loop 的下一集中见到您。谢谢。