OpenAI公司首席执行官在美国参议院听证会指出人工智能技术“可能会出错”

来源：全球航空资讯  

作者：陈宇薇

【据ArsTechnica网站2023年5月18日报道】5月17日，美国OpenAI公司首席执行官山姆·阿尔特曼在美国参议院司法委员会隐私、技术与法律小组委员会举行的听证会上表示，考虑到人工智能技术存在的潜在危险，立美国国会应对开发先进人工智能系统（如OpenAI的GPT-4）的企业或组织实施授权许可与其他法规要求。

“我们认为，政府的监管干预对于减轻日益强大的模型的风险至关重要。”阿尔特曼指出，“例如，美国政府可以会考虑将开发和发布超过能力阈值的人工智能模型的许可和测试要求相结合。”

虽然阿尔特曼经常鼓吹人工智能的好处，但他在听证会上表示，OpenAI公司“非常担心”选举会受到人工智能生成的内容的影响。“鉴于我们明年将面临选举，而且这些人工智能模型正在变得更好，我认为这是一个值得关注的重要领域……我确实认为在这一话题上进行监管是非常明智的”。

在听证会上，阿尔特曼建议国会成立一个新的机构，对“超过一定能力飞”人工智能技术进行授权。在人工智能系统向公众发布前，应该“由专家进行独立审计，以判断该模型是否符合这些规定的安全阈值以及在各类问题中的百分比”。

阿尔特曼指出，“能够说服、操纵、影响一个人的行为和信仰”或“帮助创造新的生物制剂”的人工智能模型需要获得许可，“我认为，如果这项技术出了问题，它可能会出很大的问题，我们对此直言不讳。我们希望与政府合作，防止这种情况发生。”