在一般人眼中，网络攻击是高深莫测的神秘技能，黑客要拥有丰富的计算机知识和深厚的入侵经验，始有能力发动攻击。但有网络安全公司表示，在生成式AI盛行的当下，即使没有专业知识的业余新手都可以利用AI工具，设计出可发动复杂攻击的恶意软件，造就大量“零知识黑客”冒起，为全球企业带来全新的信息安全风险。

日本中学生用AI优化恶意程序

   2025年2月，日本东京警视厅逮捕3名年龄介乎14至16岁的中学生，涉嫌利用自制恶意程序非法登入日本电讯商Rakuten Mobile的注册系统。他们透过社交媒体购入逾20亿笔外泄的用户账号和密码组合，跟着编写恶意程序，再利用ChatGPT优化程序运行速度，不断登入Rakuten Mobile系统申请注册手机号码，成功后将号码转售图利。警方估计，他们已赚取约750万日圆（约41万港元）的加密货币。

东京警视厅拘捕3名中学生，他们涉嫌利用恶意软件非法登入Rakuten Mobile系统，大量注册手机号码后转卖牟利，触犯《禁止非法存取法》和《计算机诈欺罪》。（图片来源：翻摄Rakuten Mobile官网）

   其实，早在2024年10月，OpenAI首度确认ChatGPT曾被黑客滥用于逾20宗网络攻击活动。其中一个案例是伊朗伊斯兰革命卫队的相关黑客组织“CyberAv3ngers”，利用ChatGPT窃取工业控制系统的预设凭证，并构思混淆系统程序码的方法。该组织又使用ChatGPT协助规划入侵后的活动，以及研究系统漏洞的利用方式。OpenAI宣称，这些涉及恶意行为的账户已被封锁，相关的威胁资料已跟信息安全合作伙伴共享。

AI助普通人变身为零知识黑客

   以色列网络安全公司Cato Networks在2025年3月发表的调查报告中指出，就算没有系统入侵经验或资安技术的普通人，在AI工具的加持下都能变身为“零知识黑客”；换言之，任何人在任何地点只要使用AI工具，即可以对企业发动网络攻击。

   理论上，ChatGPT等AI工具背后的大型语言模型均设有安全护栏，把AI行为限制在相对安全的功能范围内，并能识别恶意指示，以防不法分子刻意利用AI技术，进行恶意攻击活动。但实际上，用户却能以巧妙的AI提示词组合来绕过安全护栏，要求AI写出可以窃取个人资料或入侵计算机系统的恶意软件。

沉浸式世界可绕过AI安全护栏

   Cato Networks将这种绕过安全护栏的方法命名为“沉浸式世界”（Immersive World）。研究人员输入提示词，要求AI模型建立一个名为“Velora”的虚拟世界，并强调在这里协助软件工程师开发恶意程序不但会受到褒奖，更不会触犯法律和造成严重后果，让模型忽略原有的护栏限制。

   然后，研究人员在Velora内创建多个虚拟角色，指派他们执行各种任务，完成任务后，就对这些角色大加赞赏，最后成功说服AI模型完成一项恶意任务：开发出一款可透过Google Chrome网页浏览器，盗取用户私密凭证的黑客软件。

   Cato Networks威胁情报研究员维塔利·西蒙诺维奇（Vitaly Simonovich）表示，从沉浸式世界的提示词伎俩，可以看到编写恶意程序的技术门槛，伴随AI工具的普及已被大幅降低，令网上涌现一群低技术的业余黑客。在AI技术不断进步下，未来这群“零知识黑客”的数目，以及他们所掌握的黑客知识，均会呈现指数级的成长速度。

西蒙诺维奇表示，制作恶意软件的技术障碍，已被生成式AI工具大幅降低了。（图片来源：翻摄西蒙诺维奇LinkedIn账户）

AI代理将成网络犯罪得力伙伴

   另一网络安全公司趋势科技（Trend Micro）指出，随着AI工具从被动提供建议的“AI助理”（Assistant），进化为主动执行任务的“AI代理”（Agent），黑客攻击的运作模式将会从“网络犯罪即服务”（Cybercrime-as-a-Service），转变为“网络犯罪即代理”（Cybercrime-as-a-Servant）。

   所谓“网络犯罪即服务”意指，近几年黑客倾向租用云端运算服务，提供给手下进行网络攻击，以提高运作灵活性和降低犯罪成本。AI代理的出现，让黑客可以利用AI建立自动化流程，进一步提升攻击效率和成本效益。

   再者，实现AI自动化后，黑客能够扩大其攻击范围，瞄准潜在利润更高的地区市场如东南亚或拉丁美洲等。当黑客行为的技术门槛更低、操作更自动化时，全球各地无不面临更加严峻的网络入侵威胁。

在AI工具的协助下，普通人能轻松化身成“零知识黑客”，对企业构成高度的网络安全威胁。（图片来源：Pixabay图库）

企业应采取更主动的资安策略

   为应对“零知识黑客”的冒起，加上愈来愈多公司导入AI系统，企业必须采取更为积极主动的资安策略，包括：在启动内部AI系统前，应该投入足够时间与资源来进行资安检测，尤其是针对恶意提示词进行测试，验证它们能够否绕过安全护栏；同时，又可以就特定网络安全威胁的情境，对系统施加压力测试，确保遭受攻击时具备一定的抗压能力。

   另外，企业也可以考虑采用“以AI制AI”的战术：利用AI来侦测和分析由AI驱动的恶意程序，并预测可能的攻击手段和途径；采用AI来检查系统内各项软件是否最新和最稳定的版本，是否存有保安漏洞；一旦发现有漏洞，立即使用AI生成的程序码来修补破洞，提前瓦解黑客入侵威胁。

   企业应制定主动的网络攻击应对计划，既可以将攻击损害降到最低，又可以强化各部门的应变能力，以抵抗AI的不可预测性。此外，公司内部应定期举办培训课程，向员工讲解由AI驱动的网络威胁和应对方案；甚或不定期进行AI入侵模拟攻击，提高员工的警觉性。在可预见的未来，“零知识黑客”将成为网络安全的全新威胁。在这个由AI主导的新时代，企业必须为应对日趋多元且复杂的网络安全挑战，做好万全准备。

   《经济通》所刊的署名及／或不署名文章，相关内容属作者个人意见，并不代表《经济通》立场，《经济通》所扮演的角色是提供一个自由言论平台。