【KJKX科技快讯】07月06日消息,OpenAI公司最近发出警告,称未来的人工智能可能对人类构成威胁,甚至导致人类灭绝。OpenAI联合创始人伊利亚·苏斯克维尔和对齐团队负责人简·莱克在一篇博客文章中指出,超级智能的强大力量可能会使人类失去控制权,他们还没有找到解决方案来操纵或控制这种潜在的超智能人工智能,以防止其失控。

据KJKX科技快讯了解,OpenAI公司认为,超智能人工智能可能在接下来的十年内问世。然而,目前人类还没有足够先进的技术来控制超级智能,因此他们迫切需要在对齐研究方面取得突破。所谓的对齐研究旨在确保人工智能对人类是有益的。

为了解决这个问题,OpenAI计划投入大量资源成立一个名为超级对齐团队的研究团队,以确保他们的人工智能系统对人类是安全的,并且最终实现人工智能对自身的监督。OpenAI计划通过利用人类的反馈来训练AI系统,辅助人类评估,最终实现实际的对齐研究。

然而,对于这一计划,也有人提出了反对意见。人工智能安全倡导者康纳·莱希指出,在构建具有人类水平智能之前,必须先解决对齐问题,否则无法控制超级智能。他认为OpenAI的计划并不是一个特别好的或安全的方案。

尽管人工智能技术的发展带来了许多创新和便利,但OpenAI的警告提醒我们,应该谨慎对待超级智能的发展,并重视对齐研究的重要性,以确保人工智能对人类的未来发展是有益的,同时也能保障人类的安全和权益。这需要全球范围内的共同努力和合作,以确保人工智能技术的良性发展。

文章采集于互联网