从美伊冲突看AI时代致命风险:坏数据会被AI放大,企业数据治理刻不容缓

极客网
企业IT部门数十年来一直被脏数据、过期数据困扰,这些数据可能来自流程疏漏、老旧数据库、并购遗留系统等。在没有AI的时代,坏数据顶多导致效率下降;但在AI全面普及的今天,系统会默认所有数据真实有效,并基于它自动执行决策,风险呈指数级上升。

Computerworld近日刊发深度评论指出,近期美伊冲突中的悲剧为全球企业IT管理者敲响警钟:AI不会制造数据问题,但会把坏数据(Bad data)的后果极速放大,数据质量不再是可延后的运维问题,而是关乎安全、决策与生存的底线任务。

文章提到,企业IT部门数十年来一直被脏数据、过期数据困扰,这些数据可能来自流程疏漏、老旧数据库、并购遗留系统等。在没有AI的时代,坏数据顶多导致效率下降;但在AI全面普及的今天,系统会默认所有数据真实有效,并基于它自动执行决策,风险呈指数级上升。

评论以美军2月28日误炸伊朗女子学校事件为例指出,该建筑10年前已改为学校,但军方情报数据库未更新。AI驱动的瞄准系统依据过时数据锁定目标,最终造成至少165人死亡,多数为儿童。调查显示,AI本身并无过错,根源是数据错误+人工未核验,而在高速战争场景下,逐点核查几乎不可能完成。

这一极端案例直指企业AI落地的核心矛盾——AI的核心优势,正是处理人类无法应对的PB级海量数据;但它也会不加区分地使用错误数据、过期数据,直接输出危险结论。无论是医院检验结果分析、零售商品规划、工厂原料预测,一旦数据失真,AI都会把错误“跑得更快、传得更广、影响更大”。

为什么企业总在忽视数据治理?文章总结原因主要包括以下几个方面:

·IT部门优先级排满,数据清洗长期被延后

·并购遗留数据库长期未核验,原团队已流失

·数据错误随时间累积,问题越来越难处理

想用生成式AI做数据核验,但又担心AI出现“幻觉”,业内专家建议,企业不能等到数据完全准确再上AI,而应建立可执行的数据清理机制:

·设定强制规则:例如超过10年的潜在客户名单直接清除

·分类保留:科研、气象等高价值长期数据永久归档

·建立跨部门数据治理小组,定期批量清理可疑数据

五年前,坏数据最多拖慢流程;今天,自主AI代理会深度遍历系统,默认所有数据可信,并直接据此行动。文章警告称,想享受AI带来的效率革命,就必须抽调人力、暂停部分业务项目,优先完成数据治理。

评论最后强调,AI本身没有善恶,但它严格服从数据。在军事领域,坏数据带来伤亡;在商业领域,坏数据带来亏损、合规风险与信任崩塌。对于所有数字化企业而言,最紧迫的AI课题不是模型有多强,而是数据有多干净

请扫码关注数字化经济观察网
责编:左右
参与评论
文明上网,理性发言!请遵守新闻评论服务协议
0/200