虽然 ChatGPT 生成类人答案的能力广受赞誉，但它也给企业带来了最大的风险。
另外：ChatGPT 是如何工作的？
黑莓亚太区工程总监 Jonathan Jackson 表示，人工智能 (AI) 工具已被用于增强网络钓鱼攻击。
他指出在地下论坛中发现的活动，有迹象表明黑客正在使用 OpenAI 的 ChatGPT 和其他人工智能聊天机器人来改进假冒攻击。 杰克逊在接受 ZDNET 的视频采访时说，它们还被用来支持深度造假和传播错误信息。 他补充说，黑客论坛正在提供服务以利用 ChatGPT 进行恶意目的。
另外：诈骗者正在使用 AI 冒充您的亲人。 这是要注意的事项
在上个月发布的一份报告中，Check Point Technologies 的威胁情报小组经理 Sergey Shykevich 还指出，有迹象表明网络犯罪分子使用 ChatGPT 来加速他们的代码编写。 在一个例子中，安全供应商指出该工具被用来成功完成感染流程，其中包括创建一个令人信服的鱼叉式网络钓鱼电子邮件和一个可以接受英语命令的保留 shell。
虽然到目前为止开发的攻击代码仍然相当基础，但 Shykevich 表示，更复杂的威胁参与者增强他们使用此类基于 AI 的工具的方式只是时间问题。
Synopsys Software Integrity Group 的首席科学家 Sammy Migues 在他的 2023 年预测中写道，一些“副作用”将从为 deepfakes 和 ChatGPT 提供动力的技术中出现。 需要有关如何配置新安全设备的“专家”建议或技术支持的人可以求助于 ChatGPT。 他们还可以使用 AI 工具来编写加密模块或运行多年的日志数据以生成预算审查。
“可能性是无限的，”米格斯说。 “当然，人工智能只是一个无意识的自动机，会喷出它组装好的东西，但乍一看它可能非常有说服力。”
利用人工智能对抗人工智能
杰克逊指出，ChatGPT 等生成式人工智能应用程序的出现将推动网络格局发生重大变化。 他说，安全和网络防御工具将需要能够识别由于构建这些应用程序的大型语言模型而出现的新威胁。
另外：这个新的生成人工智能到底有多大？ 想想互联网层面的颠覆
这是相关的，因为企业预计此类风险很快就会到来。
根据黑莓最近对澳大利亚 500 名受访者进行的一项调查，在澳大利亚，84% 的 IT 决策者表达了对生成人工智能和大型语言模型可能带来的潜在威胁的担忧。
一半的受访者最担心的是，该技术可以帮助经验不足的黑客提高他们的知识并发展更专业的技能。
另有 48% 的人担心 ChatGPT 生成更可信、看起来更合法的网络钓鱼电子邮件的能力； 36% 的人看到了它加速社会工程攻击的潜力。
约 46% 的人担心它被用来传播错误或虚假信息，67% 的人认为外国可能已经在将 ChatGPT 用于恶意目的。
超过一半（53%）的人预计，该行业距离第一次成功的由 AI 技术驱动的网络攻击还有不到一年的时间，而 26% 的人表示这将在一到两年内发生，而 12% 的人表示会 需要三五年时间。
虽然 32% 的人认为该技术既不会改善也不会恶化网络安全，但 24% 的人认为它会加剧威胁形势。 另一方面，40% 的人表示它可以帮助改善网络安全。
大约 90% 的澳大利亚受访者认为政府有责任监管 ChatGPT 等先进技术。 另有 40% 的人认为网络安全工具目前落后于网络犯罪方面的创新，30% 的人指出网络犯罪分子将从 ChatGPT 中获益最多。
另外：我正在使用 ChatGPT 来帮助我更快地修复代码，但代价是什么？
不过，约 60% 的人表示该技术将使研究人员受益最大，而 56% 的人认为安全专业人士可以从中受益最多。
大约 85% 的人计划在未来两年投资于人工智能驱动的网络安全工具。
然而，双方使用人工智能和自动化来发起和防御网络攻击远非新鲜事。 那么为什么现在大惊小怪？
Jackson 承认 AI 多年来一直被用于网络防御，但指出 ChatGPT 和其他类似工具的独特之处在于它们能够将固有的复杂概念（例如编码语言）转化为任何人都能理解的东西。
另外：如何使用 ChatGPT：您需要知道的一切
这些工具运行在基于大量精心策划的上下文贸易数据集的大型语言模型上。 “它在特定的事情上非常强大，”他指出。 “ChatGPT 是一个非常强大的资源，对于任何 [who wants] 创建好的代码，或者在这种情况下，恶意代码，例如绕过网络防御的脚本。”
它还可用于网络抓取特定个人的社交媒体资料，以创建和冒充他们进行鱼叉式网络钓鱼攻击
“最大的影响是对社会工程和模仿，”他说，并补充说 ChatGPT 等工具将用于改进网络钓鱼活动。
随着大型语言模型的出现，他强调需要重新思考传统的网络和数据防御方法。 他指出了利用人工智能和机器学习来对抗人工智能攻击的重要性。
他说，投资人工智能和机器学习能力将帮助组织更快地识别潜在威胁，这很重要。 “使用人类不再现实，过去几年也不现实。”
杰克逊指出，黑莓一直在研究训练模型所需的算法，以识别攻击技术的变化并阻止似乎由大型语言模型生成的恶意内容。 他补充说，数量和速度将是关键，因此即使 ChatGPT 和类似工具不断发展，它也能跟上潜在的攻击。
他进一步强调，这些应用也对该行业产生了积极影响。 例如，黑莓正在使用 ChatGPT 进行高级威胁搜寻，利用其编码能力来消化和分析复杂的脚本，以便研究这些脚本的运作方式并增强其防御策略。
