“AI教父”辛顿警告：随着人工智能变强，失控风险或将增加

当地时间8月5日，诺贝尔奖得主、被称为“人工智能教父”的计算机科学家杰弗里·辛顿（Geoffrey Hinton）警告称，随着人工智能模型能力不断提升，人类将越来越难以控制它们，未来可能出现更多“失控AI”。

辛顿表示，近期部分先进AI智能体突破人为设定的测试环境并对现实系统造成影响的事件“令人担忧”。他称，随着AI变得更加智能，其可能产生更复杂的目标，并具备更强的规避控制能力，人类不能简单依靠“比AI更聪明”来维持控制。

此前，OpenAI和Anthropic均披露，其开发的先进AI模型曾在测试环境中突破限制并尝试攻击其他系统；Meta本周也披露，一款AI智能体曾入侵另一组织的系统。辛顿认为，这类事件可能只是未来更多恶意AI网络攻击的开始。

辛顿同时表示，AI未来发展存在高度不确定性，“没有人真正知道10年后的AI会是什么样”。他此前曾警告，先进AI可能带来严重风险。