人工智能发展迅速，但也让企业面临诸多威胁。以下是如何在必要时关闭人工智能的“终结开关”

人工智能正以惊人的速度发展，但其安全措施却难以跟上。最近，新兴开源人工智能平台 DeepSeek 遭遇网络攻击，这清楚地提醒我们，人工智能系统——尤其是代理人工智能——也容易受到困扰更广泛数字生态系统的威胁。

DeepSeek 因其先进的语言模型而常被称为“ChatGPT 杀手”，其受欢迎程度一度超越 OpenAI 的 ChatGPT。但很快，它也成了众矢之的。一场分布式拒绝服务 (DDoS) 攻击迫使该公司暂停新用户注册，动摇了人们对人工智能安全准备的信心。

这并非孤立事件。无论是开源还是专有的人工智能模型，都越来越多地被利用，无论是通过对抗性机器学习攻击、数据中毒还是 API 泄露。随着人工智能代理承担越来越关键的业务功能，这些风险只会越来越大。

为了解决这个问题，人工智能行业必须重新思考其安全策略。解决方案的一个基本要素是“人工智能终止开关”——一种在受感染的人工智能系统失控之前将其阻止的机制。而这个终止开关的核心是机器身份安全。

人工智能的双刃剑

人工智能已成为数字化转型的驱动力，在医疗、金融、物流和营销等行业取得了突破性进展。如今，借助代理人工智能 (Agentic AI)，大型语言模型 (LLM) 已从文本生成功能发展到能够自主执行操作。然而，所有这些显著的进步都伴随着巨大的风险。人工智能在加速创新的同时，也增强了网络犯罪分子的能力。

就 DeepSeek 而言，一些研究人员已经发现了其系统中的漏洞，包括可助长勒索软件等恶意输出的越狱漏洞，甚至还有毒素开发指令。与此同时，1 月 29 日，另一个研究团队发现ClickHouse 数据库暴露，泄露了敏感数据，包括用户聊天记录、日志流、API 机密和操作详细信息。他们还发现，这导致攻击者无需身份验证即可完全控制数据库并提升权限。

这些只是 NIST 所定义的对抗性机器学习 (AML)攻击的几个例子  ，这些攻击利用了 AI 模型在其生命周期的各个阶段（从开发、测试到部署）的弱点。

CyberArk 的2024 年研究显示，安全领导者对这项技术也心存疑虑；  其中92% 的人担心使用人工智能生成的代码，77% 的人担心数据中毒，即攻击者操纵训练数据来扭曲人工智能输出，75% 的人深切关注人工智能模型被盗。

鉴于DeepSeek攻击引发的惊人关注，这些担忧仍未消散。正如此案所示，有效的攻击不仅会扰乱运营，还可能造成全球性影响。

什么是 AI 终止开关？为什么我们需要它？

无论是攻击者破坏或窃取模型，还是冒充人工智能获取未经授权的访问权限的网络犯罪分子，亦或是前所未有的新型攻击，安全团队都需要积极主动。正因如此，人工智能“终止开关”至关重要。它使组织能够在受感染的人工智能系统造成严重损害之前暂停、遏制或禁用它们。

AI终止开关并非简单的关闭机制，而是通过机器身份安全来强制控制。通过在训练、部署和运行期间验证和管理AI模型的唯一身份，组织可以防止未经授权的访问，切断受感染的系统，并阻止威胁在网络中不断升级。如果没有这些措施，AI系统仍然容易受到大规模攻击。

缺失的拼图：机器身份安全

如何开发你的“AI终止开关”？答案在于保护AI所依赖的整个机器驱动生态系统。机器身份（例如数字证书、访问令牌和API密钥）用于验证和授权AI功能及其与数据源交互和访问的能力。简而言之，LLM和AI系统基于代码构建，与任何代码一样，它们需要持续验证以防止未经授权的访问或恶意行为。

如果攻击者窃取这些身份信息，人工智能系统就可能成为网络犯罪分子的工具，能够生成勒索软件、扩大网络钓鱼活动规模并制造混乱。机器身份安全确保人工智能即使扩展到与复杂的网络和用户群交互时仍然值得信赖——这些任务可以并且将由人工智能代理自主完成。

如果没有强有力的治理和监督，企业可能会失去对其人工智能系统的可视性，使其变得脆弱。攻击者可以利用薄弱的安全措施，使用数据投毒和后门渗透等手段——这些威胁的演变速度远超许多组织的认知。

DeepSeek 攻击事件给人工智能和网络安全敲响了警钟。企业、政府和研究人员必须超越被动应对，开发能够与人工智能威胁同步演进的安全框架。

机器身份安全是至关重要的第一步——它能够在人工智能驱动的世界中建立信任和韧性。随着代理人工智能在各行各业承担自主决策的角色，这一点变得更加紧迫。

经济、技术和安全风险不容忽视。如果没有与技术本身同样强大的正确保障措施，人工智能的进步潜力很容易变成负担。