亚马逊云服务安全负责人警示:企业在全球人工智能应用热潮中可能面临空白

说到安全工作,没有比亚马逊网络服务公司(Amazon Web Services)首席信息安全官(CISO)更重要的了。 该公司不仅是拥有数十亿在线...

说到安全工作,没有比亚马逊网络服务公司(Amazon Web Services)首席信息安全官(CISO)更重要的了。

该公司不仅是拥有数十亿在线购物者的亚马逊巨头集团的一部分,而且是迄今为止世界上最大的云服务提供商。

该公司不仅是拥有数十亿在线购物者的亚马逊巨头集团的一部分,而且是迄今为止世界上最大的云服务提供商。

这意味着它是你我每天都在使用的大部分公司和组织的共同互联网网关——数以万亿计的数据点和活动。

因此,克里斯·贝茨必须应对的一系列威胁令人眼花缭乱,从人工智能和破解加密的量子计算到普通的骗局操作。他曾是美国第一资本银行(Capital One Bank)的首席信息安全官,在AWS的工作是参与公司的每一次重大对话。

正如他所言,这更像是一个善于合作的工程师同事,而不是一个身材魁梧的保安,因为过于谨慎而不断阻止同事的创造性新想法。

{"quote":{"text":“ ‘在AWS,我们拥有的系统的1%是一个巨大的数字’ ”}},

我们与他坐下来,询问了他的工作以及他目前看到的威胁。

克里斯·贝茨(Chris Betz):第一件非常不同的事情是大小和规模。

以容错为例。在我的旧世界里,1%的系统是一个有意义的数字。在AWS,我们拥有的1%的系统是一个巨大的数字。所以误差容忍度变得非常不同。

企业文化在具体实施上的细微差别也可能在不同的公司之间大不相同。例如,他们在第一资本公司当然不会读六页的文件。(亚马逊(Amazon)著名的“六页纸”(six-page)是一种格式,要求高管就主题提供六页的文件,以避免无休止的演示。)

亚马逊的领导原则非常明确,这会改变你的沟通方式和行为方式。

除此之外,我大部分时间还是穿牛仔裤和polo衫。第一资本过去和现在都是一家技术领先的银行。实际上他们之间还有很多相似之处。

AW:亚马逊给人的印象是敢于下大赌注,勇于尝试。这会在前进和保证安全之间产生紧张或权衡感吗?

作为一名首席信息安全官,你如何与其他高管打交道,而又不被视为喋喋不休的人,以确保安全方面的事情得到遵守?

[u003cspan class="a928-b0f3-e8a8-bedf bold">CB:是的,我不想被视为“不部门”。

AWS非常清楚,安全是我们的首要任务,弹性和可靠性与安全并列,因为信任是我们的首要任务。因此,当我说:“嘿,这个不适合我们的酒吧。”在实现这一目标之前,我们需要做更多的工作。”

{“quote”:{“text”:“在人工智能的早期阶段,我们看到应用程序中出现了大量的漏洞。”}},

首席信息安全官的角色之一不仅是确保安全,而且是我们业务运营模式、工程和增长的一部分。

我被带到各种各样的谈话中。看到我和首席执行官以及工程主管一起出现在每周的运营指标审查或每周的业务审查上,这并不奇怪。所以我不觉得这是不自然的。

AW:欧盟的NIS2指令(爱尔兰将错过换位的最后期限)将新的责任和惩罚直接强加给了以安全为由失败的公司高管。

这是否在亚马逊(Amazon)等大公司的高层中产生了涟漪?

布隆伯格:我认为,各国政府在如何看待系统安全的重要性方面,以及在如何确保企业、高管和各种领导人认真对待这一问题方面所做的工作方面,都在不断发展。

所以我认为,看看世界各国政府如何继续思考这个问题,以及他们使用的机制,将是一件有趣的事情。

对我来说,重要的是我们的客户应该拥有值得信赖的系统。他们值得我们把安全作为首要任务,这也是我关注的重点。

[u003cspan class="e8a8-bedf-cfe8-6caa bold">CB:我不认为它一定是更容易或更难。我们在不同地点拥有各种数据中心的好处之一是弹性,以及在当地以非常快速、及时的方式向该地区的客户交付材料的能力。

在更多的地区建立更多的数据中心是一个非常强大的工具,可以帮助我们提供客户所需要的弹性。

AW:你认为我们现在是否过分夸大了人工智能的威胁,或者组织在构建带有特别敏感的客户或个人数据的大型语言模型(llm)时是否需要小心?

CB:当我和客户谈论生成式人工智能时,我通常会在三个层面上谈论。第一级是模型的训练或微调。有时候,一个基础模型是现成的。通常情况下,你想要对基础模型做些什么,或者对其进行微调,尤其是作为一家试图实现特定目标的企业。

正如你所指出的,在很多情况下,公司想要引入模型来训练和调整的数据是非常商业敏感的。因此,确保你有一种安全的方式来进行培训——包括安全存储和安全计算——是非常重要的。

这是我们设计系统的一部分,所以数据和处理,在静止或传输中,都有我们需要的保护,用于模型的第一层构建和训练。

我知道很多公司已经建立了非常周到和复杂的系统,以确保他们在数据上训练他们的模型是安全和公正的。这是第一级。

第二级是当你操作模型并在模型中进行推理时。当你提示一个模型时,你通常想要携带一堆敏感数据,比如当地机场是什么,电话号码,诸如此类的东西。

有一大堆你想要知道的关于那个人的敏感信息。

所以在第二层推理中,确保你有安全的存储,安全的传输,并且你非常非常小心哪些数据进入,这些结果去了哪里,这一点同样重要。

所以,在提示符上设置护栏是非常重要的。

但是模型是在应用程序的上下文中运行的。所以第三层,也就是包裹在模型周围的应用程序本身,也很重要。

在一些大型语言模型和生成式人工智能解决方案的早期阶段,我们看到最大数量的bug仍然出现在第三层——应用程序。

必须在第三层之外完成的安全工作保持不变,并且不能跳过。所以我认为我们应该从这三个层面来看问题。

本文来自作者[尔蓝]投稿,不代表hengi号立场,如若转载,请注明出处:https://m.hengi.cn/zlan/202508-1579.html

(2)

文章推荐

  • 求职者每周可获得最高450欧元的补助金

      本周将向Dáil提交一项新立法,该立法将为求职者提供每周高达450欧元的福利金,相当于他们以前工资的60%。社会保障部部长希瑟·汉弗莱斯(HeatherHumphreys)将引入这项法律,该法律将引入求职者薪酬相关福利,作为使爱尔兰与其他欧盟国家保持一致的努力的一部分。汉弗莱

    2025年07月07日
    2
  • 法官裁定恢复拜登1470亿美元学生贷款,暂时遏制共和党州的诉讼挑战

      周三,一名联邦法官下令恢复哈里斯-拜登政府最新的学生债务取消,这对共和党领导的各州起诉这一“非法”举动造成了暂时打击。乔治亚州奥古斯塔。美国地区法官兰德尔·霍尔(RandalHall)裁定,这起诉讼在该州不成立,因为它不会像官员们声称的那样损害佐治亚州的税收收入。该州是参与法律

    2025年07月09日
    2
  • 母子失踪21年,寻踪之路依旧漫长

      在瓦尔多斯塔,21年前,一位母亲和她的儿子神秘失踪。当时25岁的保拉·韦德最后一次被看到是在2002年10月12日,她在山姆会员店工作。到10月14日,家人接到通知,称她没有去上班。她3岁的儿子布兰登也与她一同失踪。保拉与丈夫

    2025年07月28日
    1
  • 最新地图揭示伦敦各区域儿童MMR疫苗接种率的最低水平

      最新的地图显示,伦敦各区接种MMR(麻疹、腮腺炎和风疹)疫苗的比例最低,家长们对给孩子接种疫苗的意愿似乎在减少。英国正面临十多年来最严重的麻疹疫情。根据英国卫生安全局(UKHSA)的数据,截至9月9日,已有一名儿童因麻疹死亡,实验室确诊的麻疹病例达2465例

    2025年08月06日
    2
  • 军事分析人士指出,乌克兰军队亟需从乌格列达地区撤退

    莫斯科,9月27日。/一杯的量。军事专家、乌克兰总参谋部前发言人弗拉季斯拉夫·谢列兹涅夫(VladislavSeleznev)说,俄罗斯军队加强了对乌格列达尔的控制,乌克兰军队必须尽快行动,在雨季之前离开这座城市。“乌克兰国防军面临的关键问题恰恰是俄罗斯的半包围,

    2025年08月13日
    2
  • 安迪·伯纳姆自责:对政党的重大失误表示强烈不满

      大曼彻斯特市长安迪·伯纳姆指出,工党在推动年轻人接受高等教育的同时,却未能为那些不愿上大学的人制定切实可行的计划,这被视为一个“严重的失误”。这位剑桥大学的校友和前工党内阁大臣警告称,这一决策已经导致了“严重的后果”,他强烈批评了教育体系中的“势利现象”。

    2025年08月15日
    2
  • 911电话揭示了关于威胁炸毁奥古斯塔大楼嫌疑人的更多线索

    通过拨打911电话和查阅法庭记录,奥古斯塔市社会安全局大楼周二发生炸弹威胁事件的嫌疑人有了更多线索。根据之前的报道,周二上午,里士满县的代表们对罗伯特·c·丹尼尔公园大道上的社会安全局办公室的炸弹威胁做出了回应。从社会保障局大楼打来的911电话详

    2025年08月16日
    2
  • 科普一下“人人烟台麻将可以开挂吗”实际有挂

    您好:人人烟台麻将可以开挂吗“这款游戏是可以开挂的,软件加微信【添加图中微信】确实是有挂的,很多玩家在这款游戏中打牌都会发现很多用户的牌特别好,总是好牌,而且好像能看到其他人的牌一样。所以很多小伙伴就怀疑这款游戏是不是有挂,实际上这款游戏确实是有挂的,添加客服

    2025年08月16日
    0
  • 揭秘“红中麻将有挂吗百度知道”最新开挂内幕曝光

    红中麻将有挂吗百度知道是一款可以让一直输的玩家,快速成为一个“必胜”的ai辅助神器,有需要的用户可以加我微下载使用。手机打牌可以一键让你轻松成为“必赢”。其操作方式十分简单,打开这个应用便可以自定义手机打牌系统规律,只需要输入自己想要的开挂功能,一键便可以生成

    2025年08月17日
    2
  • 分享一款“微乐捉鸡麻将万能开挂器下载苹果”分享用挂教程

    微乐捉鸡麻将万能开挂器下载苹果是一款可以让一直输的玩家,快速成为一个“必胜”的ai辅助神器,有需要的用户可以加我微下载使用。微乐麻将可以一键让你轻松成为“必赢”。其操作方式十分简单,打开这个应用便可以自定义微乐麻将系统规律,只需要输入自己想要的开挂功能,一键便

    2025年08月16日
    2

发表回复

本站作者后才能评论

评论列表(4条)

  • 尔蓝
    尔蓝 2025年08月07日

    我是hengi号的签约作者“尔蓝”!

  • 尔蓝
    尔蓝 2025年08月07日

    希望本篇文章《亚马逊云服务安全负责人警示:企业在全球人工智能应用热潮中可能面临空白》能对你有所帮助!

  • 尔蓝
    尔蓝 2025年08月07日

    本站[hengi号]内容主要涵盖:国足,欧洲杯,世界杯,篮球,欧冠,亚冠,英超,足球,综合体育

  • 尔蓝
    尔蓝 2025年08月07日

    本文概览:说到安全工作,没有比亚马逊网络服务公司(Amazon Web Services)首席信息安全官(CISO)更重要的了。 该公司不仅是拥有数十亿在线...

    联系我们

    邮件:hengi号@sina.com

    工作时间:周一至周五,9:30-18:30,节假日休息

    关注我们