Vitalik:安全性与用户体验并非独立领域,目标最小化意图与系统行为偏差
2026-02-23 10:00
收藏
分享到

Foresight News 消息,Vitalik Buterin 于 Farcaster 发文称,安全性的目标是最小化用户意图与系统实际行为的偏差。「用户体验」也可如此定义,因此安全性与用户体验并非独立领域;安全性更聚焦尾部风险(偏差代价大)及对抗性行为引发的尾部风险。完美安全不可能,因「用户意图」本身极其复杂,用户难以清晰表达(如「发送 1 枚 ETH 给 Bob」中 Bob 无法数学定义)。更复杂目标如「保护隐私」同样难定义(元数据泄露远超加密本身)。这与早期 AI 安全问题类似:目标难以稳健指定。


优秀安全方案应包含的特征:用户以多重、重叠方式表达意图,系统仅在多角度对齐时执行。示例包括编程中的类型系统、形式化验证、交易模拟、交易后断言、多签 / 社交恢复、支出限额与异常确认等,通过冗余降低风险。此外,LLM 可作为意图模拟(通用 LLM 近似人类常识,用户微调 LLM 近似用户本身),但绝不可单独决定意图,仅作为一种不同角度补充,提高冗余有效性。

推荐阅读
币安推出 AI 代理专用无密钥钱包 Agentic Wallet
Foresight News 消息,币安推出专为 AI 代理打造的无密钥钱包 Agentic Wallet,用户可授权 AI 代理在其设定的参数范围内安全地进行交易、转账和资产管理。Agentic Wallet 拥有独立的余额、可配置的权限以及实时监控功能,确保自动化操作的安全性,同时与用户的主钱包完全隔离。对于币安 AI Pro 用户,Agentic Wallet 技能默认内置,让用户更轻松地开始使用 AI 驱动的交易和资产管理。
快讯 2026-04-24 20:01
硅谷「裁员风暴」:Meta 要裁 10% 员工,微软向 7% 员工首提「买断」
Meta 与微软在数小时内相继宣布裁员逾万人,AI 军备竞赛正倒逼硅谷巨头以「效率优先」之名重构人员结构。
2026-04-24 19:25

日历

4 月 24 日
查看更多
暂无重要事件