熟悉声音的回归
在马尼拉举行的SiGMA 亚洲2025峰会上，PwC India创新与科技副总监Puneet Singh发表了一场引人深思的主题演讲。他以《为什么人工智能是人类雄心的终极镜子：走进机器思维的内心》为题，带来了不仅仅是技术层面的探讨，而是对人类境况、进步与共同未来的深刻反思。
这是Singh第三次登上AIBC舞台，他回顾了自己关于人工智能主题演讲的演变：
“在第一届AIBC Manila上，我谈到了为什么人工智能是人类雄心的最大画布……第二年，我讲的是人与机器的对抗。剧透一下，人类胜出，因为我们拥有目标与雄心。”
人工智能作为人类的镜子
今年的演讲更深入地探讨了人工智能——不仅是工具，更是对我们是谁、以及我们将成为什么的深刻映照。
“人工智能是我们将人类进行编码并推动社会前进的最大机遇。”
Singh引用了机器智能的奠基理论，提到了Alan Turing的模仿游戏以及人工智能可信度不断变化的标准。
“最近，我们越来越难区分LLM（大型语言模型）和人类之间的差异。”
然而，他指出真正的问题已经发生变化：
“真正的问题不是，机器能否欺骗我们？而是，我们能否信任机器，并如何继续前进？”
为人工智能发展设定哲学框架
为了勾画未来路径，Singh提出了他的人工智能“指南针”——一个以“人类繁荣”为核心的战略框架。该框架包括四个方向性支柱：包容性机会，确保社会各阶层共同进步；指数级创新，鼓励突破性发展；共享责任，强调集体责任感；伦理设计，强调从零开始构建安全、透明的系统。
“一切能推动社会共同前进的力量，都应该成为我们的北极星。”
个人在网络安全与人工智能伦理的旅程
Singh结合专业经验与个人成长，分享了他从红队网络安全实习生到PwC India蓝队架构师的转变过程。
“我职业生涯起初是红队的一员……随着进展，我转向了蓝队方向。”
他特别提到了自己协助开发并申请专利的AI（人工智能）安全工具Secure Astra。在一次内部压力测试中，他的团队通过密码攻击成功绕过了生成式AI的安全层，揭示出一个关键漏洞。
“我们需要定义更完善的系统，去理解那些我们尚无法理解的事物。”
这一事件强调了设计能够预见超出人类直觉威胁的AI系统的必要性。
伦理、规模与颠覆性的交汇点
展望未来，Singh描绘了一个AI深度融合、颠覆成为常态的世界。从媒体、游戏到企业和工业，传统边界正迅速瓦解。
“我们正在目睹各行业的大规模颠覆……这正在拉平竞争环境。”
但他同时强调，创新的同时也必须建立伦理的护栏，并提到当前正在制定的全球AI标准与协议。
“现在有很多标准和协议正在制定中，以确保安全成为AI创新的基础。”
由意图，而非偶然塑造的未来
在结语中，Singh强调人工智能的变革潜力不仅在于复制人类模式，更在于放大人类能力。
“我们一生中曾设想借助AI实现的目标，如今可以做到十倍。”
他呼吁听众，不应将未来视为一个静态的终点，而应将其看作由当下选择所指引的方向。
“未来不是一个我们想要抵达的目的地，而是我们今天设定的指南针，并朝那个方向前进。”
若想持续关注关于人工智能、技术与人类雄心的对话，敬请关注SiGMA 亚洲2025的议程，千万不要错过最具洞见的高峰论坛。
