在人工智能技术加速演进、全球治理体系深刻调整的时代背景下，给人工智能划定红线已成为科技哲学与公共治理领域的重要议题。为帮助学院师生深化对人工智能风险治理与系统功利主义哲学的学术认知，10月12日下午，陈晓平教授受邀主讲“是否应当给人工智能划定红线？——从系统功利主义的观点看”的专题讲座。本次讲座由学院副院长孙中伟主持。

陈晓平教授进行讲座分享

讲座伊始，陈晓平以2026年9月Anthropic资深研究员考科森公开辞职、警告超级人工智能危险性的事件为切入点，引出全球对AI风险的讨论。随后，他从系统功利主义出发，阐释了划定AI红线的理论依据。他认为，系统是道德载体，增进系统的最大稳定存在性即为善；人类作为子系统具有子系统中心主义，绝不容许自身主导地位被取代，因此必须禁止研发任何超越人类控制能力的AI。针对反对划定红线的三种立场，他分别从AI发展前景、人的意志自由及地缘政治利益等角度阐述了自己的观点。最后，他强调，AI红线的判断标准不是AI的专业能力，而是人类能否对AI断电叫停。他主张对ANI、AGI、ASI实施分类治理，坚决禁止研发超越人类控制的超级人工智能，并支持脑机接口的治疗性应用、反对其增强性应用。

现场师生交流

在交流互动环节，现场师生踊跃提问，围绕“给AI划定红线在党的日常工作中的实践”“如何从子系统中心主义推导出人类中心主义”等问题展开深入探讨。陈晓平结合哲学论证与现实语境，逐一作出细致解答。

孙中伟副院长进行总结

讲座尾声，孙中伟作总结发言。他代表学院师生衷心感谢陈晓平的精彩讲授。他认为，陈晓平的讲座兼具哲学厚度与现实关照，既从系统功利主义立场系统梳理了给AI划定红线的推导链与治理路径，又清晰地回应了全球AI风险治理的现实困境，为现场师生在相关领域的研究提供了重要的学术参考与实践指引。