加拿大蒙特利尔深夜时分，被誉为“AI教父”之一的世界顶级计算机科学家约书亚·本吉奥（Yoshua Bengio）再次从梦中惊醒。
月色宁静的窗外映入眼帘，但他的内心却波澜起伏，难以平静。
这位他亲手培育成长的人工智能（AI），如今让他夜不能寐，心怀前所未有的忧虑。
曾是图灵奖得主、学术巨擘，在看到自己研发的深度学习技术如参天大树般茁壮成长时，本吉奥曾倍感欣慰。然而，自2022年11月ChatGPT问世后，他的喜悦很快被一股深入骨髓的寒意取代。
他开始意识到事情的发展可能远远超出预期和控制范围。
“我们正走在一条可能极其危险的道路。”他在一次采访中如是说。这不是一位科学家的单纯忧虑，更是祖父对未来的深切关心。
“欣喜”到“恐惧”的转变：一个祖父的噩梦
本吉奥的转变源自他对ChatGPT及其背后技术的深入观察。他意识到这些日益强大的AI系统内部决策过程如同黑箱，即使是创造者也无法完全理解或预测其行为，“我们无法确保它们会按照我们的期望行事。”
这份担忧很快从一个抽象问题变成了关乎个人情感的问题。他想到了自己的小孙子。
“我开始想我的孙子，20年后他会22岁；那时他会有正常的生活吗？他会生活在一个正常的国家里吗？”
他的思绪飞向未来，看到一个可能的图景：少数实体控制最先进的AI，将拥有前所未有的巨大权力。这本该是中立工具的AI可能会成为颠覆社会根基的杠杆。
更糟糕的情况还在后头。他想到了那些因意识形态偏执或心理健康问题而可能“按下红色按钮”的人，他们可以命令高度智能的AI执行足以毁灭世界的任务——例如制造一种超强病毒或是能够杀死星球上所有动物生命的镜像细菌。
从造梦者到守望者的转变：一场自我救赎
对人类灭绝可能性的恐惧促使本吉奥做出了一个重大决定。他不再只是思考如何让AI更强大，而是开始探讨“我们如何构建设计上就不会伤害人类的AI？”
从一名AI技术造梦者转变为AI安全守望者的转变，让他感到乐观得多。
今年早些时候，他牵头组建了一个由30多个国家及国际组织代表组成的国际顾问小组，并发布了具有里程碑意义的《先进AI安全国际科学报告》（International Scientific Report on the Safety of Advanced AI）。
这份报告系统地梳理了AI带来的三大风险：意外故障、恶意使用和系统性风险。在他看来，尽管恶意使用是最迫在眉睫的问题，但让他深夜无眠的是那个关乎物种存亡的终极问题。
“科学家AI”概念：为失控引擎装上“刹车”
在寻找解决方案的过程中，本吉奥和他的团队提出了一个充满希望的概念——“科学家AI”。这种非代理性的AI不会主动行动，而是像人类科学家一样探索和理解世界的因果规律进行纯粹的预测和分析。
“我们可以相信它所说的话。”他解释道，“如果我们遵循这条路径，就能构建出理想的可信度系统。”
这就像给一个可能失控的引擎安装上一个绝对可靠的“仪表盘”和预警系统。
当然他也知道现实世界需要的是能实际操作的AI智能体。但好消息是，“科学家AI”可以作为强大的防护栏，在执行行动之前先进行预测，判断行为可能导致不良后果的概率。
他的呼吁和报告开始产生影响。各国政府纷纷成立AI安全研究所，一个全球性的AI安全治理网络正在初步形成。这份报告成了政策制定者及新入行科学家的“知识宝典”，用简单语言撰写以利于每位公民理解。
智者的警醒：财富、想象力与未来
最近一次采访中，这位科学家就AI对经济的长远影响展现了社会学家的洞察力。
· 关于经济他承认AI会推动GDP增长但立刻提醒关键在于财富如何分配。“如果你看中位数财富它和平均财富不是一回事。”
· 关于想象力他认为目前社会对AI普遍“过度乐观”因为我们缺乏对未来可能性的想象力。“五年前没人能预料到今天的AI水平大家都觉得那是科幻小说。所以如果我们只是做同样的思维练习并投射到未来我认为我们缺乏想象力——而这，是非常人性化的特点。”
教授没有直接回答是或否。他沉思后说：
“这是一个难题。我更希望的是，当初能集体预见到这些灾难性的可能性那样我们就能以更谨慎、稳妥的方式走到今天。”
这个问题的答案不是创造者的悔恨更像是智者的警醒。他并未否定自己毕生的事业但他呼吁人类面对自己创造的技术洪流必须抱持最大的谦卑和审慎态度。
他的故事从构建智能的梦想家转变为守护人类文明的守望者。他的“夜不能寐”不再是个人焦虑而是对时代、整个人类文明深切关怀。在AI黎明时分他选择成为那个敲响警钟的人提醒沉醉于技术狂欢的人们抬头看看远方风暴并开始建造方舟。前方路依然迷雾重重但至少已经有人点亮了第一盏灯。
他的答案，不是一个创造者的悔恨，更像是一位智者的警醒。他并未否定自己毕生的事业，但他呼吁人类，在面对自己创造的这股科技洪流时，必须抱持最大的谦卑、最审慎的态度和最深刻的伦理思考。
他的故事，从一个构建智能的梦想家，转变为一位守护人类的守望者。他的“夜不能寐”，不再是个人的焦虑，而是对一个时代、对整个人类文明的深沉关切。在AI的黎明时分，他选择成为那个敲响警钟的人，提醒沉醉于技术狂欢的人们，抬头看看远方的风暴，并开始合力建造方舟。前方的路，依然迷雾重重，但至少，已经有人点亮了第一盏灯。（刘春）
