先说结论:企业AI安全就两条线,一条保护AI,一条利用AI;金融企业还要再加一条监管红线。
- Security4AI:保护AI系统本身,管住大模型和Agent的进与出
- AI4Security:用AI搞安全,攻防两头都算
- 监管:金监总局8号文、TC260部署指引、金融团体标准
有价值的安全博客
先说结论:企业AI安全就两条线,一条保护AI,一条利用AI;金融企业还要再加一条监管红线。
25 位菲尔兹奖得主联名反对 AI 刷题,我却在他们反对的东西里,找到了自己坚持多年的写作洁癖:搜索能搜到的不写,AI 能答的不写。AI 只是人类知识的数据库——能检索,不会负责。数据库不缺用户,缺的是能插入数据的人。
9 月 11 日,陶哲轩(Terence Tao,UCLA 数学教授,2006 年菲尔兹奖得主,常被称为在世最强的数学家之一)在博客上挂出一封联名信,《A Severe Misalignment of AI in Mathematics》。首批联署的 25 位全是菲尔兹奖得主,包括今年 7 月刚领奖的邓煜。菲尔兹奖 90 年来头一次颁给中国籍数学家,一次两位,邓煜就是其中之一,领完奖不到两个月,就把名字签在了这封信上。开放署名后一天,跟进的学者就超过了 2500 位。
他们反对的是 AI 公司把解数学难题当成 benchmark 来刷:模型一出新版本,就挑一个著名难题开刀,媒体稿先行,论文以后再说。
导火索是 9 月 8 日,OpenAI 宣称搞定了困扰数学界近百年的纳维-斯托克斯问题(Navier-Stokes,千禧年大奖难题之一)。
尴尬的地方在于,纽约大学的 Tristan Buckmaster 团队沿着同一条技术路线,用 Codex 已经磨了快一年。而 OpenAI 自己承认,模型改进时可能使用了上述团队产生的数据。
其实,这群世界上最会解题的人反对的东西,Cocoa 已经默默坚持好几年了:
写作时不写数据库里已有的东西。
继续阅读“陶哲轩们联名反对的,是我坚持多年的写作洁癖”Cocoa:本文算是3年前这篇文章的姐妹篇。都是郭宇的采访,也都是AI辅助生成的。但是3年前将一个视频转换成新闻稿,前前后后花了Cocoa 1个多小时。而这次只花了5秒钟(打字时间5秒钟,AI独立干活4分钟),后面会撰文详细写一下。
vibe coding是什么?斯坦福已正式开课
2025年秋天,斯坦福大学计算机系开了一门新课,编号CS146S,名字叫”The Modern Software Developer”(现代软件编程)。它的特点在于:禁止手写代码,要求学生全程使用AI编程工具完成任务。你没看错。全球顶尖的计算机学府,在教学生”不要写代码”。
当然,Cocoa最关注的是它的名字——”现代编程“,这相当于首次有权威机构把现有的编程方法认定为了”古法编程“。