1.3.3 OpenAI公布通用人工智能规划
OpenAI始终以“确保通用人工智能造福全人类”为使命,不仅自身致力于通用人工智能技术研发,还愿意帮助其他机构研发通用人工智能应用。2023年2月,OpenAI CEO萨姆·阿尔特曼公布了对通用人工智能的规划。
通用人工智能能够为用户赋能,激发用户充分展现聪明才智和创造力。但是,通用人工智能存在滥用的风险。因此,通用人工智能应用的开发者需要在发挥通用人工智能优势的同时防范其可能带来的风险。
OpenAI认为,想要发展通用人工智能,需要做好以下三个方面的准备工作。
首先,通用人工智能的发展过程是循序渐进的。人们有时间了解通用人工智能的应用情况,体验通用人工智能的优势并发现其缺点,基于此可以适时调整经济组织形式,并对通用人工智能进行有效监管。循序渐进的方式能够实现通用人工智能与社会的共同发展,人们也可以在这个过程中明确自身需求。
OpenAI希望更多的人能够体验通用人工智能并积极推动它进一步发展。基于此,OpenAI开放了API(Application Programming Interface,应用程序编程接口),实现了模型开源。这将加速人们对通用人工智能的研究,让更多人积极贡献新想法。
其次,在模型构建方面,OpenAI对模型的部署变得越来越谨慎,除了探索模型的通用性之外,还在努力创建可控程度更高的模型。OpenAI认为,社会需要就如何使用人工智能达成共识。OpenAI将积极进行外部投入实验,为通用人工智能进行复杂决策做好准备。
未来,OpenAI将开发新的对齐技术,并测试当前的技术何时失效。从短期来看,OpenAI将通过AI帮助人们评估复杂的模型和监控复杂的系统;从长期来看,OpenAI将基于AI提出新的想法,以推动对齐技术不断迭代。
最后,OpenAI希望聚焦如何治理通用人工智能、如何分配通用人工智能产生的收益、如何共享通用人工智能带来的发展机遇三个方面进行全球对话。
除了以上三个方面外,OpenAI通过各种规定明确了其运作结构。例如,OpenAI为其他组织提供助力的目的是提高组织的安全性,而不是在通用人工智能应用开发方面与其竞争。此外,OpenAI对股东获得回报的上限进行了界定,以规范股东的行为。