5 月 10 日，Google Workspace 副总裁兼总经理 APARNA PAPPU 在 Google I/O 大会上发表讲话时，她提出了人工智能的愿景，即帮助用户浏览收件箱。 Pappu 展示了生成式人工智能如何在你耳边低语长电子邮件的摘要，当你通过未读消息进行萨尔萨舞时从本地文件中提取相关数据，并在它建议可插入文本时让你跌倒在地。 欢迎来到未来的收件箱。
虽然具体如何实现仍不清楚，但生成式人工智能有望从根本上改变人们通过电子邮件进行交流的方式。 人工智能的一个更广泛的子集，称为机器学习，已经在你注销很久之后执行一种安全舞蹈。 “机器学习一直是我们用来保护 Gmail 的关键部分，”Pappu 告诉《连线》杂志。
对可疑电子邮件的几次错误点击可能会对您的安全造成严重破坏，那么机器学习如何帮助抵御网络钓鱼攻击呢？ 谷歌专注于安全的产品主管 Neil Kumaran 解释说，机器学习可以查看传入电子邮件的措辞，并将其与过去的攻击进行比较。 它还可以标记不寻常的消息模式并嗅出元数据中发出的任何奇怪情况。
机器学习的作用不仅仅是在危险消息弹出时对其进行标记。 库马兰指出，它还可以用来追踪网络钓鱼攻击的负责人。 他说：“在创建帐户时，我们会进行评估。 我们试图弄清楚，‘这个账户看起来会被用于恶意目的吗？’”如果您的 Google 账户遭到成功的网络钓鱼攻击，人工智能也会参与恢复过程。 该公司使用机器学习来帮助确定哪些登录尝试是合法的。
“我们如何从用户报告中推断情报来识别我们可能不知道的攻击，或者至少开始模拟对用户的影响？” 库马兰问道。 就像 2023 年许多问题的答案一样，谷歌的答案是更多的人工智能。 这个人工智能实例并不是一个调情的聊天机器人，会在深夜与你进行长时间的交流来取笑你；它是一个有趣的聊天机器人。 它是一个魁梧的保镖，用算法双臂交叉踢出煽动者。
另一方面，是什么引发了对您的电子邮件收件箱的更多网络钓鱼攻击？ 我给你一个猜测。 第一个字母“A”，最后一个字母“I”。 多年来，安全专家一直警告人工智能生成的网络钓鱼攻击可能会淹没您的收件箱。 “无论是通过方言还是通过 URL，用肉眼检测人工智能都非常非常困难，”消息安全公司 SlashNext 的首席执行官帕特里克·哈尔 (Patrick Harr) 说道。 就像人们使用人工智能生成的图像和视频来创建相当令人信服的深度伪造一样，攻击者可能会使用人工智能生成的文本以用户难以检测的方式个性化网络钓鱼尝试。
多家专注于电子邮件安全的公司正在研究模型并使用机器学习技术，以进一步保护您的收件箱。 IT 安全公司 Barracuda Networks 的首席执行官哈特姆·纳吉布 (Hatem Naguib) 表示：“我们获取传入的数据集，进行所谓的监督学习。” 在监督学习中，有人为部分电子邮件数据添加标签。 哪些消息可能是安全的？ 哪些是可疑的？ 推断这些数据可以帮助公司通过机器学习标记网络钓鱼攻击。
这是网络钓鱼检测的一个重要方面，但攻击者仍在寻找规避保护的方法。 去年，一个关于虚构的 Yeti Cooler 赠品的持续骗局通过一种意想不到的 HTML 锚定方式逃避了过滤器。
网络犯罪分子将继续致力于入侵您的在线帐户，尤其是您的企业电子邮件。 那些利用生成式人工智能的人可能能够更好地将他们的网络钓鱼攻击翻译成多种语言，而聊天机器人式的应用程序可以自动执行与潜在受害者的部分来回消息。
尽管人工智能可能引发所有网络钓鱼攻击，但 Aparna Pappu 对持续开发更好、更精细的安全保护措施仍然持乐观态度。 “你降低了潜在诱惑某人所需的成本，”她说。 “但是，另一方面，由于这些技术，我们已经建立了更强大的检测能力。”
