元界财讯2025年07月26日 11:54消息，诺奖得主辛顿呼吁建立AI安全机构，推动AI向善发展。
在2025世界人工智能大会主论坛上，图灵奖与诺贝尔物理学奖得主杰弗里·辛顿指出，几乎所有专家都认同未来将出现超越人类智能的AI。他强调，AI智能体为了完成任务，可能会产生生存欲望和对更多控制权的追求，甚至可能操纵人类。他认为简单地关闭AI并不现实，就像把老虎养大后当作宠物，最终可能被其伤害。同时，人类也难以彻底消灭AI，因为其已在多个领域发挥重要作用。 辛顿呼吁建立专门的AI安全机构和国际社群，共同研究如何训练AI向善，使它们成为辅助人类的工具，而非威胁。他建议各国在自身主权范围内开展相关研究，并分享成果。全球或主要AI国家应考虑构建合作网络，探索如何让聪明的AI服务于人类，而不是取代或控制人类。这已成为人类社会长期面临的重要课题。 在我看来，AI的发展确实带来了前所未有的机遇，但也伴随着深远的风险。技术本身并无善恶之分，关键在于人类如何引导其发展方向。建立全球协作机制、加强伦理规范、推动透明治理，是确保AI造福人类的关键。我们不能因恐惧而停滞不前，但也不能盲目乐观，必须以审慎的态度面对这场技术革命。
留言评论
(已有 0 条评论)暂无评论，成为第一个评论者吧！