Publier
今日AI头条
微软CEO纳德拉：把AI当内部风险防，随时准备急停
微软 CEO 萨蒂亚·纳德拉发长文，主张把 AI 模型当作企业内部安全风险管理。模型即使没有恶意，也可能犯错或被攻击者利用。尤其当它能读取敏感数据、替人执行关键操作时，企业不能只信模型厂商的安全承诺。
他要求把模型与调度任务的 Harness（Agent 执行框架）分开。模型能读什么数据、调用什么工具，必须由外部系统控制。每次关键操作都应留下防篡改、方便人类审查的记录。他还要求模型思维链（展示出的推理过程）透明，但承认这些内容未必可靠。
最强硬的一条是，从部署时就假定模型可能遭到入侵，并做好隔离。授权人员必须能在 Agent 执行任务时随时暂停或关闭它，相当于装上「紧急刹车」。模型不能自己审核自己的行为，企业还要持续测试故障和攻击，及时披露事故。
微软本月已宣布 MXC 隔离工具在 Windows 正式可用。它通过外部策略限制 Agent 能访问的文件和网络。
Avertissement : les contenus d'OKX Orbit sont uniquement publiés à titre informatif. En savoir plus
Réponses
Aucun commentaire pour le moment. Soyez le premier à répondre !
Cryptos tendance
BTC/USDTBitcoin
$75 394,9-0,01 %
ETH/USDTEthereum
$2 145,25-0,04 %
OKB/USDTOKB
$100,51-0,02 %
Tendances du marché
1#Un responsable de la Réserve fédérale déclare que l'inflation reste le plus grand risque
2#La vente massive d'actions AI sur le marché américain fait disparaître 2,3 billions de dollars de la valeur du Nasdaq en une seule journée
3#Les créations d'emplois non agricoles aux États-Unis en octobre s'élèvent à 165 000, dépassant les attentes, les sorties hebdomadaires des ETF BTC atteignent 1,28 milliard de dollars
