服务项目在线演示资讯·方案免费试用关于我们合作流程服务保障常见问题
首页/资讯·方案/技术观察

美国最近接连发生的技术故障源自为修复 AI 发现的漏洞

技术观察志权软件工作室1 次阅读来源:Solidot

过去几天美国经历了一系列技术故障,全国航班停飞、银行在线服务中断,甚至 NSA 的一个机密通信网络瘫痪。华尔街高管和 NSA 告诉美国国会议员,一系列技术故障的起因是试图修复 AI 发现的系统漏洞。AI 模型在系统中识别了大量漏洞,为尽快修复漏洞而一次性推送了大量补丁,超出了系统的设计承载能力…

核心信息

  • 过去几天美国经历了一系列技术故障,全国航班停飞、银行在线服务中断,甚至 NSA 的一个机密通信网络瘫痪。
  • 华尔街高管和 NSA 告诉美国国会议员,一系列技术故障的起因是试图修复 AI 发现的系统漏洞。
  • AI 模型在系统中识别了大量漏洞,为尽快修复漏洞而一次性推送了大量补丁,超出了系统的设计承载能力。
  • 摩根大通周一将其银行服务中断归咎于软件相关 bug,NSA 周二将其部分网络短暂性能下降归咎于例行维护。

这对做企业的意味着什么

很多老板担心 AI 会取代员工,实际发生的是「会用 AI 的员工取代不会用的」。同样的报价单、同样的客户回复,用工具的人效率高出三五倍。所以现在的关键动作是把手上的重复工作列出来,看哪些能被一条固定指令替代。

把大模型接进业务系统,难点从来不是调接口,而是三件事:数据要不要出内网、回答错了谁负责、成本怎么核算。这三点想清楚再动手,比先选模型重要得多。私有化部署能解决第一点,人工复核流程解决第二点,按调用量做预算上限解决第三点。

落地建议

我们做定制开发的习惯是先画流程再写代码:把「谁在什么情况下做什么、做完存哪里、出错找谁」画成一张图,双方确认后再开工。这一步花两天,能省掉后面两周的返工。

信息来源:Solidot,查看原文。本文由志权软件工作室摘要整理并附行业分析。

需要把这类东西做成能用的系统?

把你现在怎么做的、每天花多少时间、卡在哪一步说给我们,免费给一个技术方案判断,不合适也会直说。

孔老师微信二维码
微信扫码,直接说需求手机上长按识别也可以。软件定制、网站、小程序、数据采集都能聊,看到了都会回。