极限挑战第三季

三 |          这中间的差别不是量的，而是质的。前者的错误可以被撤销、重来、修补；后者的错误会沉淀成一笔转账、一条删除的记录、一个已经合上的电闸。以下是他演讲内容的节选：现在，我想跟大家谈我们华社关心的课题，那就是语言、文化和身份认同。几十年来，新加坡的语言环境不断地改变。

四 | 一旦落地，很多结果没有"再生成一次"的选项。调查显示，现在大多数的华族家庭，在家里主要讲英语；而主要讲华语的家庭，只占大约三分之一。面对这样的情况，大家难免会担心，我们会不会渐渐失去文化根基，我们会不会渐渐失去双语优势？这样的担忧是可以理解的，政府也十分关注这个趋势。

五 |          我们却仍习惯用同一套指标给这两类系统打分——正确率99%、99.9%、99.99%，每多一个9，仿佛就离"可信"更近一步。

六 | 但安全领域最容易被忽略的一句话是：          正确率描述系统通常表现如何，却没告诉你它最坏能错到哪里。         下面七个数学视角，藏着AI执行安全真正的分水岭。我们要保留我们亚洲社会的本质，绝对不可以成为一个单语社会。它们不复杂，用的都是中学数学，却常常在最关键的决策上被绕过去。

两年前，我在群众大会上谈到母语教育。我说过，我们不但要有“精英”，我们也要有“精华”。         1.正确率把所有错误压成了同一个数字          一个系统执行一万次，9999次对、1次错，正确率99.99%。我当时宣布，放宽中学生选修高级华文的条件，让更多华文成绩优异的学生有机会修读高华。这项措施今年生效，带来了好消息！可以选修高华的学生，增加很多，共有1000多名学生受益。

七 | 整体来说，今年修读华文的中一学生当中，有四分之一选修高华。

八 | 此外，开办高华班的学校也更多了。报表上堪称优秀。

九 | 我最近读了《联合早报》的一篇报道。

十 | 但那一次错是什么？错分一封邮件，几乎无害；误删生产数据、批一笔无法追回的转账、启动高风险设备操作，评价则完全不同。

十一 | 他们特别注意到，连一些传统英校，这几年也在家长的要求下开办高华班。可见，我们的社会、家长和学生，都明白学习华语的重要。         问题在于，正确率只数次数。这是令人鼓舞的！除了学校，家庭环境对母语的学习也是很重要的。

十二 | 以我来说，我从小接触华语的机会并不多。统计表里，分错邮件是"1"，转错巨款也是"1"。

十三 | 可现实中的错误从不等价。不过，每天晚上，我们一家人都会一起看第八波道的电视剧。

十四 |          衡量安全，更接近现实的是"风险等于概率乘以损失"这条基本公式：          风险=发生概率×可能损失          一个错误很少发生，不代表它不重要。从《新兵小传》《小飞鱼》到《雾锁南洋》，我一部都没错过！爸爸妈妈的华语不太好，他们看字幕，也一样看得津津有味。我的华语就这样慢慢进步了。

十五 | 现在，很多家长为了让孩子学好母语费尽心思。假设某类事故概率只有万分之一，每次却损失一亿元，把它代入公式，风险依然是一万元，不能被当作"几乎为零"随手抹掉。不久前，《海峡时报》的一位记者胡诗韵（Alyssa Woo）写了一篇文章，分享自己的经历。

十六 |          更麻烦的是，这类损失往往不能用平均值消化。她很想帮她的孩子学好华文，不过觉得自己的水平有限。于是，她决定以轻松的方式接触华语，天天只看华语节目、天天听华语歌曲，听周杰伦的歌，还有追看最近很红的电视剧《逐玉》。相信很多人都看过。

十七 | 结果，经过三个月的努力，诗韵的华语更流利了，两个孩子对华文也更有兴趣。

十八 | 企业也许能承受每年稳定损失一万元，却未必扛得住某天突然损失一亿。

十九 | 前者是可以摊进预算的成本，后者可能直接决定企业还在不在。数学上的期望值假设你能反复经历很多次、让好运和坏运相互抵消；但对一家公司来说，最坏的那一次如果足够坏，就没有"下一次"来平摊了。看来，看戏听歌还真的对学习华语有帮助，大家也不妨试试看！不过，光靠家庭的努力还不够。华语要学得好，还需要一个有利的社会环境，在生活中学以致用，母语才能成为一门活的语言。安全评估要看的，从来不只是期望值，还有那条最坏情况的尾巴有多长。         智能系统追求提高做对的比例，安全系统关心限制做错的代价。         2.一万次没出事，不等于风险为零          另一种常见说法是："系统跑了一万次，从没出严重问题。

| "很有说服力，但它只证明过去一万次没出事，证明不了概率为零。

|          用"一次都不出事的概率"这个公式可以算笔账：          一次都不出事的概率=(1−p)^n          其中p是单次事故概率，n是测试次数。若p是十万分之一、n是一万，代入后约等于90%。

| 也就是说，即便系统真藏着十万分之一的风险，跑一万次仍有约九成可能什么都看不见。其实，现在的年轻人有更多接触华语的机会。

| 在新加坡，华文媒体、文化团体和艺术工作者都在积极推出精彩的华语内容。许多年轻新加坡人也能接触到多元的海外华语内容，包括电影、连续剧、歌曲还有电玩。新加坡是一个开放的社会，在文化上一向兼容并蓄。它未必通过了考验，只是还没遇到那道考题。

| 我们珍惜和守护本土文化，同时也通过文化交流吸收各地的文化精华。         这也是很多重大事故发生前，系统长期"稳定运行"的原因：风险不是在事故当天才诞生的，它可能一直存在，只是过去的样本还没触发它。         没观察到风险是一种观测结果，风险不存在是一个强得多的结论。例如，今年年底，新加坡和中国的国家图书馆将联合举办一个特别的文物展，主题是中国的四大名著：《三国演义》《红楼梦》《水浒传》和《西游记》。这些故事很多新加坡人从小就很熟悉，也从中学到了不少优良的价值观。

| 这是中国第一次在海外展出这些珍贵的文物。         3.越罕见的事故，代价往往越大          频繁的小问题容易被看见：页面每天卡十次，用户会投诉，报表会记录，问题越频繁越容易进入工作计划。真正危险的风险常常相反——几年一遇，甚至一家公司整个周期都没发生过，可一旦发生，一次抵得上所有日常小错之和。

| 这会是一次难得的机会，相信大家都会期待。         同样用"概率乘以损失"对比两类问题：          问题A：概率1%×损失100元=平均风险1元问题B：概率0.001%×损失1000万元=平均风险100元          A更常见，B几乎看不见，但B的平均风险是A的一百倍。

| 最近，《给阿嬷的情书》这部电影在新加坡引起热烈讨论。而且B一旦发生，带来的不是"平均100元"，是实打实的1000万。

|          错误也从不均匀分布。我想，这是因为它让我们想起自己的先辈，让我们看见他们一路走来的艰辛，也让我们想起他们留下来的价值观。我看了这部电影，看的是潮州话的版本。电影里的潮州话听说很多新加坡潮州人也不完全听得懂，也需要看字幕。假设系统每年十万次任务，99%是普通操作（错误率0.01%），1%是紧急操作（错误率5%）：普通操作约出10次错，紧急操作只有一千次却出约50次错。我也只听懂一点点，但是有一句话我听懂了，那就是阿嬷说的：“做人要有情有义”。这句话用方言说出来感觉就是不一样，比较亲切。很多人认为方言是我们珍贵的文化遗产，值得我们珍惜和传承。整体正确率仍高达99.94%，可占业务量1%的紧急操作，制造了超过80%的错误。         这就像一条平均一米深的河，大部分地方半米，中间却有个五米深的坑。平均值没撒谎，它只是把最危险的部分藏了起来。我也同意。

| 修堤坝的工程师从不按河流的平均水位设计，决定堤坝高度的，永远是几十年甚至百年一遇的极端水位。AI执行系统也一样：普通任务里的小错决定用户体验，极端场景里的一次错却可能决定企业还能不能继续存在。         所以安全评估不能只问"平均错误率是多少"，还要追问：高金额操作、紧急模式、陌生地址、跨境转账、权限恢复、数据缺失、多规则冲突时，错误率各是多少。然而，推广华语运动的成果得来不易，我们也应该珍惜和维护。四五十年前，新加坡华人之间各说各的方言。总体表现优秀，证明不了每一个局部场景都安全。即使是同一种方言，来自不同地区，口音也会有差别。就像电影里阿嬷说的潮州话，跟一般新加坡潮州人说的也不太一样。经过几十年的努力，华语已经成为新加坡华人的共同语言，也为双语政策奠定了坚实的基础。同时，华语也让我们能够和世界各地的华人沟通。         事故不会公平落在每一次操作上，它总聚集在系统最难处理、后果最严重的角落。         4.三个人同意，可能只是同一个错误重复了三次          为降低个人误判，企业惯用多人审批。所以，双语政策和推广华语的方向是正确的，我们必须坚持。回想当年，“讲华语运动”的口号是：“多讲华语，少讲方言”。

| 现在情况不一样了。逻辑没错，但前提是判断足够独立。         用"多数表决下至少两人同时出错的概率"来看：三个独立审批者各有10%错误率、多数通过，至少两人同错的概率约2.8%，远低于单人的10%。这正是多人决策能提高可靠性的数学基础。讲方言的家庭已经很少了，大多数新加坡华人能够讲华语，不过更习惯用英语。我们现在的挑战是如何鼓励平时习惯讲英语的华人，也在日常生活中多用华语。其实，只要大家愿意多讲、多用，华语自然就会进步。多讲华语，我可以，大家也可以！